OpenAI и Anthropic делятся новейшими моделями ИИ с правительством США

Обе компании будут сотрудничать с Институтом безопасности искусственного интеллекта США (US AI Safety Institute), подразделением Национального института стандартов и технологий (NIST), федерального агентства США. Это рассматривается как важный шаг вперед в управлении и мониторинге технологий искусственного интеллекта, что стало предметом серьезной озабоченности с момента запуска ChatGPT от OpenAI.

«Это только начало, но важная веха в усилиях по ответственному управлению будущим ИИ», — заявила Элизабет Келли, директор Института безопасности ИИ США.

В соответствии с соглашением Институт безопасности искусственного интеллекта США будет предоставлять обеим компаниям отзывы о возможных улучшениях безопасности их моделей как до, так и после их выпуска для широкой публики. В ходе этого процесса Институт также будет тесно сотрудничать с Институтом безопасности искусственного интеллекта Великобритании.

«Партнерство с Институтом безопасности ИИ США использует их обширный опыт для тщательного тестирования наших моделей перед их широким внедрением. Это расширяет наши возможности по выявлению и снижению рисков, способствуя ответственной разработке ИИ», — сказал Джек Кларк, соучредитель и руководитель политики Anthropic.

Этот шаг является частью усилий по реализации указа Белого дома по искусственному интеллекту, который должен быть принят в 2023 году и направлен на создание правовой основы для быстрого развертывания моделей искусственного интеллекта в США.

Однако, пока федеральное правительство придерживается добровольного подхода, законодатели Калифорнии — технологического центра Америки — только что, 28 августа, приняли законопроект о безопасности ИИ на уровне штата. Законопроект, если его подпишет губернатор, введет более жесткие правила в отношении отрасли ИИ.

Сэм Альтман, генеральный директор OpenAI, высказался в поддержку регулирования ИИ на национальном уровне, а не на уровне штатов, утверждая, что это поможет избежать риска создания препятствий для исследований и инноваций в области ИИ.

Действия ведущих технологических компаний и правительства США демонстрируют тенденцию к достижению баланса между инновациями и безопасностью в быстро развивающейся сфере ИИ.

Источник: https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html