СГГП
После того, как Европа начала разрабатывать и вскоре приняла первый в мире закон об искусственном интеллекте (ИИ), четыре ведущих американских «гиганта» по добыче интернет-данных только что создали группу под названием Frontier Model Forum.
 |
| Основная цель Frontier Model Forum — ответственное продвижение ИИ. Фото: THINKWITHNICHE |
Стороны собираются вместе
Группа, в которую входят Anthropic, Google, Microsoft и OpenAI (владелец ChatGPT), заявила, что основными целями Frontier Model Forum являются содействие снижению рисков, связанных с платформами ИИ, и разработка отраслевых стандартов. Форум Frontier Model Forum создаст новый форум с такими ключевыми целями, как: содействие безопасным исследованиям в области ИИ для поддержки развития, снижения рисков и стандартизации оценок и уровней безопасности; определить передовой опыт разработки и внедрения моделей, помогая общественности понять характер, возможности, ограничения и последствия технологии; Сотрудничать с политиками, учеными, гражданским обществом и компаниями для обмена знаниями о рисках и безопасности.
Технологические гиганты, как правило, сопротивляются ужесточению контроля. Однако на этот раз общее мнение о технологической отрасли существенно изменилось на фоне серьезной обеспокоенности рисками, которые может принести ИИ. Компании, участвующие в инициативе Frontier Model Forum, стремятся обмениваться передовым опытом между собой, а также открыто делиться информацией с правительствами и гражданским обществом.
В частности, форум Frontier Model Forum сосредоточится на крупномасштабных, но пока еще только зарождающихся платформах машинного обучения, которые выводят ИИ на новый уровень сложности — и потенциального риска. Кроме того, Frontier Model Forum также будет поддерживать разработку приложений, решающих основные социальные проблемы, такие как: смягчение последствий изменения климата и адаптация к ним, раннее выявление и профилактика рака, а также противодействие киберугрозам.
Место для потенциального разрушения
Объявление американских компаний о создании Frontier Model Forum прозвучало через несколько дней после того, как 25 июля сенаторы США на слушаниях в подкомитете Судебного комитета Сената США предупредили о риске использования ИИ для биологических атак. Недавно 7 крупных технологических компаний, включая OpenAI, Alphabet и Meta, добровольно взяли на себя обязательство перед Белым домом разработать систему для идентификации всего контента (текста, изображений, аудио и видео), созданного с помощью ИИ, чтобы предоставить пользователям прозрачность информации и сделать эту технологию более безопасной.
Генеральный директор AI Anthropic Дарио Амодеи отметил, что, хотя ИИ пока не способен помочь в создании биологического оружия, это представляет «среднесрочный» риск и представляет серьезную угрозу национальной безопасности США в течение следующих двух-трех лет. Причина в том, что субъектами, осуществляющими масштабные атаки с применением биологического оружия, теперь не являются только те, кто обладает специальными знаниями в этой области.
Мир сталкивается с взрывным ростом количества контента, созданного с помощью технологии генеративного искусственного интеллекта. От США до Европы и Азии контроль постепенно ужесточается. По данным CNN, начиная с сентября Сенат США проведет серию из девяти дополнительных семинаров для своих членов, чтобы узнать, как искусственный интеллект может повлиять на рабочие места, национальную безопасность и интеллектуальную собственность. Если соглашение будет достигнуто, то в следующем году Евросоюз примет первый в мире закон об управлении ИИ, который, как ожидается, вступит в силу с 2026 года.
Преимущества, которые ИИ приносит обществу, неоспоримы, однако растет число предупреждений о потенциальных рисках этой новой технологии. В июне Генеральный секретарь ООН Антониу Гутерриш поддержал предложение нескольких руководителей организаций по искусственному интеллекту о создании международного органа по надзору за ИИ по аналогии с Международным агентством по атомной энергии (МАГАТЭ).
Возвращаясь к Форуму модели Frontier, президент Microsoft Брэд Смит подтвердил, что эта инициатива является важным шагом для объединения технологических компаний в целях содействия ответственному использованию ИИ, приносящему пользу всему человечеству. Аналогичным образом вице-президент OpenAI по глобальным вопросам Анна Маканджу заявила, что передовые технологии искусственного интеллекта могут принести обществу огромную пользу, но для этого требуются надзор и управление.
Источник
Комментарий (0)