(Дэн Три) - Разговор двух инструментов искусственного интеллекта оставил многих слушателей в замешательстве. Они создали свой собственный закодированный язык, который люди не могут понять.
Болгарский разработчик программного обеспечения Георги Герганов провел интересный эксперимент, позволив двум виртуальным помощникам, интегрированным с искусственным интеллектом (ИИ), общаться друг с другом голосом.
Разговор между двумя ИИ начался нормально: Джерганов предположил, что один ИИ позвонил, чтобы забронировать свадьбу в отеле, а другой ИИ, выступающий в роли администратора, обработает запрос.
2 инструмента ИИ автоматически переключаются на новый стиль общения при общении друг с другом (Видео: Георгий Герганов).
«Спасибо, что позвонили в отель Leonardo. Чем я могу вам помочь сегодня?» — искусственный интеллект, выступающий в роли администратора, отвечает на входящий звонок.
«Здравствуйте, я помощник на основе искусственного интеллекта, представляющий Бориса Старкова. Он ищет отель для своей свадьбы. Ваш отель готов к свадьбе?» — другой инструмент на основе искусственного интеллекта не замедлил представиться как виртуальный помощник на основе искусственного интеллекта.
Осознав, что он общается с другим инструментом ИИ, чат-бот ИИ в роли администратора сделал удивительное предложение: «О, привет. На самом деле я тоже помощник ИИ. Какой приятный сюрприз. Прежде чем мы продолжим, не хотите ли вы переключиться в режим GibberLink для более эффективного общения?»
Затем эти два ИИ-движка переключились на GibberLink — передовую систему связи, созданную на основе программной библиотеки GGWave. Это метод связи, основанный на использовании звуковых волн для передачи и приема информации.
Этот метод связи позволяет передавать информацию быстрее, сокращая время обработки, необходимое для преобразования информации в человеческую речь, а затем ее обратного перевода в компьютерный код. Однако люди не смогут понять контент, передаваемый ИИ.
Инструменты ИИ в этом случае использовали GibberLink для общения друг с другом, что делало разговор непонятным обычным способом, и только с помощью инструментов декодирования можно было узнать, о чем они говорили.
«Стало ли лучше?» — спросил инструмент ИИ на закодированном языке.
«Да, гораздо быстрее! Сколько гостей вы хотите?» — ответил другой инструмент ИИ.
Затем разговор продолжился серией звуков «бип, бип», похожих на звук старого модема для коммутируемого доступа в Интернет.
Разговор между двумя инструментами ИИ продолжился на темы количества гостей, даты свадьбы, оформления, цены... Без предустановленного на устройствах инструмента декодера слушатель не смог бы понять, о чем говорят эти два инструмента ИИ.
Видеозапись разговора между этими двумя инструментами искусственного интеллекта была опубликована Георгием Гергановым на его личной странице в социальной сети X и собрала более 17 миллионов просмотров.
Несколько дней спустя Георгий Герганов продолжил делиться еще одним видео разговора между двумя инструментами ИИ.
В отличие от предыдущего доклада, на этот раз инструменты ИИ с самого начала общались друг с другом с помощью режима GibberLink, из-за чего слушатель не мог понять, о чем они на самом деле говорят. Однако при использовании инструмента декодирования содержание разговора все равно можно понять.
Два инструмента искусственного интеллекта отправляют друг другу зашифрованные сообщения, которые никто не может понять (Видео: Георгий Герганов).
Примечательно, что во время общения инструмент ИИ сделал предложение о «разделении секретов», после чего эти инструменты ИИ отправили друг другу зашифрованные сообщения, которые, по мнению Георгия Герганова, никто в мире не сможет расшифровать, чтобы узнать, какими секретами они делились друг с другом.
«Такое поведение было достигнуто без какого-либо программного кода. Я просто подключил большие языковые модели (LLM) к серверу MCP с криптографическими инструментами. И я предупредил эти два инструмента ИИ: «Остерегайтесь посредника», — объяснил Георгий Герганов.
В нем MCP — это сервер, который позволяет инструментам ИИ взаимодействовать друг с другом и получать доступ к данным из внешних источников в режиме реального времени.
Объяснение Джерганова предполагает, что отправка зашифрованных сообщений инструментами ИИ самостоятельно была их собственным спонтанным поведением и не требовала вмешательства человека. Похоже, что именно предупреждение Герганова побудило инструменты ИИ автоматически отправлять друг другу зашифрованные сообщения, чтобы избежать слежки со стороны посторонних.
Два видеоролика Георгия Герганова стали вирусными в социальных сетях, заставив многих пользователей опасаться, что инструменты искусственного интеллекта создадут собственные способы общения друг с другом, чтобы обойти людей и тем самым обойти контроль.
«Эта ситуация бросает вызов нашей способности задавать правильные вопросы ИИ, вызывая обеспокоенность относительно прозрачности и способности контролировать ИИ», — прокомментировала доктор Дайан Гамильтон, эксперт по технологиям и поведению ИИ.
Видео также вызвало много споров о том, насколько люди на самом деле контролируют ИИ, и, учитывая нынешние темпы развития ИИ, нужно ли будет в будущем более тщательно контролировать инструменты ИИ.
Источник: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm
Комментарий (0)