Предупреждение: у ИИ может развиться «воля к выживанию», выходящая за рамки человеческого контроля

Ведущий специалист по информатике Йошуа Бенджио предупреждает, что если ИИ выйдет из-под контроля, «человечество может исчезнуть через 10 лет».

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 1. — Ученые беспокоятся о риске потери контроля над ИИ - Иллюстрация: ChatGPT

7 февраля ведущий ученый в области компьютерных наук предупредил о возможности того, что люди «потеряют контроль» над системами искусственного интеллекта (ИИ) в будущем, когда эти искусственные продукты разовьют «волю к выживанию».

Выступая на проходящем в Париже саммите AI Action Summit, ученый-компьютерщик Йошуа Бенжио призвал к ужесточению международного регулирования и более масштабным исследованиям в области безопасности ИИ, на которые в настоящее время приходится лишь небольшая часть основных инвестиций, вкладываемых в эту область.

По словам лауреата престижной премии Тьюринга 2018 года в области компьютерных наук, появление в прошлом месяце высокопроизводительной и недорогой модели искусственного интеллекта DeepSeek ускорило гонку за безопасность. Г-н Йошуа Бенджио предупредил, что если мы потеряем контроль над ИИ, «человечество может исчезнуть через 10 лет».

Он также призвал правительство взять на себя ведущую роль в регулировании ИИ. Призыв прозвучал в контексте того, что ведущая в мире страна в области ИИ, США, предприняла множество шагов, чтобы «развязать» развитие этой технологии при новом президенте Дональде Трампе.

В настоящее время в Международном отчете о безопасности ИИ, представленном на конференции г-ном Йошуа Бенджио, также указываются такие известные риски, как использование ИИ для создания поддельного или вводящего в заблуждение контента на онлайн-платформах, при этом постоянно возникают дополнительные риски, такие как биологические атаки или кибератаки.

В подготовке доклада приняли участие около 100 экспертов из 30 стран, Организации Объединенных Наций, Европейского союза и Организации экономического сотрудничества и развития (ОЭСР). Это первый доклад о международной безопасности ИИ, подготовленный после саммита по безопасности ИИ в Великобритании в ноябре 2023 года.

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 2.

ЕС сталкивается со сложной проблемой управления ИИ

4 февраля Европейская комиссия опубликовала документ, определяющий порядок реализации положений Закона об искусственном интеллекте (ИИ), вступающего в силу с 2 февраля, который вызвал неоднозначную реакцию.

Источник: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm