По словам старшего научного сотрудника OpenAI, мир не готов к появлению общего искусственного интеллекта (AGI) или к моменту, когда искусственный интеллект станет таким же умным, как человеческий мозг.
Представляет ли общий искусственный интеллект риск?
В течение многих лет исследователи размышляли о появлении общего искусственного интеллекта (ОИИ), когда искусственные системы будут справляться с проблемами, подобно людям, при решении различных задач. Многие считают его появление экзистенциальным риском, поскольку оно может позволить компьютерам работать способами, которые люди не могли себе представить.
По словам г-на Майлза Бриндиджа, мир не готов к моменту появления всеобщего искусственного интеллекта (ОВИ).
Теперь человек, которому поручено обеспечить готовность разработчика ChatGPT OpenAI к появлению AGI, признает, что и мир, и сама компания «не готовы» к следующему шагу. Майлз Брендедж был «старшим советником по готовности к AGI» в OpenAI, но на этой неделе объявил о своем уходе, поскольку компания расформировала группу.
«Ни OpenAI, ни одна из других передовых лабораторий не готовы [к AGI], как и весь мир. Чтобы внести ясность, я не думаю, что это спорное заявление среди руководства OpenAI, а скорее вопрос о том, находятся ли компания и мир на пути к готовности в нужное время», — сказал Брендедж, который в течение шести лет помогал формировать инициативы компании по безопасности ИИ.
Уход Брэндеджа знаменует собой последний из серии заметных уходов из команд безопасности OpenAI. Ян Лейке, известный исследователь, ушел, заявив, что «культура и процессы безопасности отошли на второй план по сравнению с блестящими изделиями». Соучредитель Илья Суцкевер также ушел, чтобы запустить собственный стартап в сфере искусственного интеллекта, ориентированный на разработку безопасного AGI.
Роспуск Брендеджем своей группы «AGI Readiness» произошел всего через несколько месяцев после того, как компания распустила свою группу «Superalignment», занимавшуюся снижением долгосрочных рисков ИИ, что выявило противоречия между первоначальной миссией OpenAI и коммерческими амбициями компании.
Давление прибыли уводит OpenAI с безопасного пути
Сообщается, что OpenAI сталкивается с необходимостью перехода из некоммерческой в коммерческую организацию в течение двух лет — в противном случае она рискует потерять финансирование в рамках недавнего инвестиционного раунда на сумму 6,6 млрд долларов. Этот сдвиг в сторону коммерциализации давно беспокоит Брендеджа, который высказывал сомнения еще в 2019 году, когда OpenAI впервые создал свое коммерческое подразделение.
Генеральный директор OpenAI Сэм Альтман испытывает «головную боль» из-за давления, оказываемого на компанию в связи с необходимостью получения прибыли.
Объясняя свой уход, Брендедж сослался на растущие ограничения его свободы проводить исследования и публиковать работы в известной компании. Он подчеркнул необходимость независимых голосов в обсуждениях политики в области ИИ, свободных от отраслевой предвзятости и конфликта интересов. Оказав руководству OpenAI консультационную помощь по вопросам внутренней подготовки, он полагает, что теперь сможет оказывать большее влияние на глобальное управление ИИ извне организации.
Этот уход также отражает более глубокий культурный раскол внутри OpenAI. Многие исследователи присоединились к продвижению исследований в области ИИ и теперь оказываются в среде, все больше ориентированной на продукт. Внутреннее распределение ресурсов стало горячей точкой — по имеющимся данным, команде Лейке было отказано в вычислительных мощностях для проведения исследований в области безопасности, прежде чем она была расформирована.
В последние месяцы компания OpenAI столкнулась с рядом вопросов относительно своих планов по развитию искусственного интеллекта и того, насколько серьезно компания относится к безопасности. Несмотря на то, что ChatGPT была основана как некоммерческая организация с целью исследования способов безопасного создания искусственного интеллекта, ее успех повлек за собой огромные инвестиции и давление с целью использования новой технологии для получения прибыли.
Источник: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm
Комментарий (0)