По данным агентства Reuters, ведущие китайские научно-исследовательские институты, связанные с военными ведомствами, используют общедоступную модель Llama компании Meta для разработки инструментов ИИ для потенциального военного применения.
В частности, в июньской статье шесть китайских исследователей из трех институтов (в том числе два из них связаны с Китайской академией военных наук (AMS), ведущим исследовательским органом китайских вооруженных сил) подробно описали, как они использовали первую версию Llama от Meta в качестве основы для «ChatBIT» — военного инструмента искусственного интеллекта для сбора и обработки разведывательной информации.
(Иллюстрация)
Эти исследователи использовали большую языковую модель (LLM) Llama 2 13B, опубликованную Meta, затем усовершенствовали и оптимизировали ее, чтобы создать ChatBIT «для диалога и задач по ответу на вопросы в военной сфере». Утверждается, что эта модель превосходит несколько других моделей ИИ: около 90% мощной модели ChatGPT-4 от OpenAI способны на то же самое.
Исследователи не уточнили, как они измеряли эту эффективность, и не сообщили, использовали ли они эту модель ИИ.
«Это первый случай, когда появились весомые доказательства того, что военные эксперты в Китае систематически изучают и пытаются использовать возможности LLM с открытым исходным кодом, особенно Meta, в военных целях», — сказал Санни Чунг, научный сотрудник Jamestown Foundation, который специализируется на новых и двойных (военно-гражданских) технологиях в Китае.
Meta выпускает несколько моделей ИИ, включая Llama. Компания также ввела определенные ограничения, например, обязав сервисы с более чем 700 миллионами пользователей получать лицензию от компании.
В условиях Meta также запрещает использование этих моделей ИИ для «военных, военных, ядерных или шпионских целей» и других видов деятельности, подпадающих под экспортный контроль США, а также использование для разработки оружия и предоставления контента, предназначенного для «подстрекательства и пропаганды насилия».
Однако, поскольку модели Meta являются общедоступными, обеспечение соблюдения этих условий сопряжено с множеством лазеек.
«В будущем, благодаря технологическому совершенствованию, ChatBIT будет применяться не только для анализа разведданных, но и для стратегического планирования, имитационного обучения и принятия командных решений», — говорится в статье.
Министерство национальной обороны Китая, равно как и ни одна организация или исследователь, не отреагировали на просьбы прокомментировать ситуацию. Исследователи отмечают, что их модель включает в себя всего 100 000 записей военных разговоров, что относительно мало по сравнению с другими LLM.
Исследование появилось на фоне жарких дебатов в кругах национальной безопасности и технологий США о том, следует ли таким компаниям, как Meta, публиковать свои модели.
В октябре 2023 года президент США Джо Байден подписал указ о регулировании деятельности по разработке искусственного интеллекта, отметив, что, хотя эта деятельность может принести значительную пользу в плане инноваций, она также несет «значительные риски для безопасности, например, при удалении защитных мер в моделях».
Источник: https://vtcnews.vn/trung-quoc-loi-dung-meta-phat-trien-ai-phuc-vu-quan-su-ar905140.html
Комментарий (0)