«Отец» Chat GPT делится своим самым большим страхом по поводу ИИ

«Больше всего я боюсь, что мы — этот сектор, технологическая индустрия — нанесем серьезный вред миру. Я думаю, это может произойти разными способами. Вот почему мы создали эту компанию», — сказал Альтман во время слушаний в сенатском судебном подкомитете по вопросам конфиденциальности, технологий и права 16 мая.

Самый большой страх: ИИ может ошибаться

«Люди думают, что если эта технология пойдет не так, то она может выйти из строя, и мы хотим открыто заявить об этом. Мы хотим работать с правительством, чтобы этого не произошло», — сказал Альтман, генеральный директор OpenAI (разработчик ChatGPT).

Генеральный директор OpenAI Сэм Альтман принял присягу во время слушаний в судебном подкомитете Сената. (Фото: Washington Post)

В своих первых показаниях в Конгрессе Альтман также призвал к широкому регулированию, включая создание нового государственного агентства, ответственного за лицензирование моделей ИИ, для решения растущих опасений, что искусственный интеллект может искажать реальность и создавать беспрецедентные риски для безопасности.

Г-н Альтман занял серьезную позицию в отношении того, каким образом искусственный интеллект может «нанести значительный вред миру», и выразил готовность работать с законодателями для устранения рисков, связанных с ChatGPT и другими инструментами ИИ его компании.

Г-н Альтман описал «рискованное» поведение, вызванное такими технологиями, как ChatGPT, включая распространение «интерактивной дезинформации в реальном времени» и эмоциональную манипуляцию. Он признал, что ИИ можно использовать для отражения атак дронов.

«Если эта технология выйдет из строя, это может закончиться плохо», — сказал он.

Тем не менее, в ходе почти трехчасового обсуждения потенциально ужасных последствий г-н Альтман настаивал на том, что его компания продолжит развертывание технологий ИИ.

Он утверждает, что вместо того, чтобы рисковать, «итеративное развертывание» моделей искусственного интеллекта OpenAI дает организациям время понять потенциальные угрозы. Это стратегический шаг по внедрению в мир «относительно слабых» и «несовершенных» технологий, чтобы помочь выявить связанные с ними риски безопасности.

Иллюстрация приложения ChatGPT, которое позволяет компьютерам общаться с пользователями, как с людьми.

За последние несколько недель г-н Альтман совершил международный тур доброй воли, встречаясь в частном порядке с политиками, включая президента Байдена и членов Конгресса, чтобы обсудить обеспокоенность по поводу быстрого развертывания ChatGPT и других технологий.

Слушания 16 мая станут первой возможностью для широкой общественности услышать его послание в то время, когда Вашингтону все сложнее регулировать технологию, которая подрывает рабочие места, способствует мошенничеству и распространяет дезинформацию.

В отличие от слушаний с участием других руководителей технологических компаний, таких как Шоу Цзы Чу из TikTok и Марк Цукерберг из Meta, американские законодатели оказали г-ну Альтману относительно теплый прием.

Они, по-видимому, были настроены на слушание, выразив готовность рассмотреть предложения Альтмана и двух других свидетелей на слушании: руководителя IBM Кристины Монтгомери и почетного профессора Нью-Йоркского университета Гэри Маркуса.

В ходе слушаний в сенатском подкомитете по вопросам конфиденциальности, технологий и права законодатели выразили глубокую обеспокоенность быстрым развитием искусственного интеллекта, заявив, что последние достижения могут оказаться более преобразующими, чем Интернет, или столь же опасными, как атомная бомба.

«Это ваш шанс рассказать нам, как сделать это правильно», — заявил свидетелям сенатор Джон Нили Кеннеди. «Используй это».

Законодатели от обеих партий выразили открытость идее создания правительственного агентства, которому будет поручено регулирование разработки искусственного интеллекта, хотя предыдущие попытки создать специальное агентство под надзором Кремниевой долины потерпели неудачу в Конгрессе, поскольку партии разделились во мнениях о том, как сформировать столь крупное агентство.

Неясно, получит ли такое предложение широкую поддержку среди республиканцев, которые обычно настороженно относятся к расширению полномочий правительства. Сенатор Джош Хоули, республиканец из Миссури, предупредил, что такое агентство может «попасть в ловушку интересов, которые оно должно регулировать».

Сенатор Ричард Блюменталь, председатель подкомитета, высоко оценил показания г-на Альтмана на слушаниях: «Сэм Альтман — это целый мир, отличный от других генеральных директоров... Не только своими словами и риторикой, но и своими реальными действиями и готовностью взаимодействовать и брать на себя обязательства по конкретным действиям».

Слушания с участием генерального директора Альтмана проходят на фоне растущей обеспокоенности политиков Вашингтона угрозами, создаваемыми искусственным интеллектом, таким как ChatGPT и другие инновационные инструменты ИИ, особенно в отношении дезинформации, конфиденциальности данных, нарушения авторских прав и кибербезопасности.

Законодатели выразили сожаление по поводу своего относительно слабого подхода к отрасли ИИ еще до выборов 2016 года. Их первое слушание с генеральным директором Meta Цукербергом состоялось в 2018 году, когда Facebook уже был гигантом и только что пережил скандал с Cambridge Analytica, которая собрала данные 87 миллионов пользователей Facebook.

В то время, несмотря на широкий двухпартийный консенсус относительно того, что ИИ представляет угрозу, законодатели не смогли договориться о правилах, регулирующих его использование и развитие.

(Источник: газета Tin Tuc/Fox News; Washington Post)

Полезный
Эмоция
Творческий
Уникальный
Гнев

Источник: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html