(댄 트리) - 두 AI 도구의 대화는 많은 청취자들을 혼란스럽게 했습니다. 그들은 인간이 이해할 수 없는 그들만의 암호화된 언어를 만들어냈습니다.
불가리아의 소프트웨어 개발자 게오르기 게르가노프는 인공지능(AI)이 통합된 두 명의 가상 비서가 음성으로 서로 소통할 수 있도록 하면서 흥미로운 실험을 했습니다.
두 AI 사이의 대화는 정상적으로 시작되었는데, 게르가노프는 한 AI가 호텔에 결혼식을 예약하기 위해 전화를 걸고, 다른 AI가 리셉셔니스트 역할을 하면서 요청을 처리할 것이라고 가정했습니다.
2 AI 도구는 서로 소통할 때 자동으로 새로운 소통 스타일로 전환합니다(영상: Georgi Gerganov).
"레오나르도 호텔에 전화 주셔서 감사합니다. 오늘은 무엇을 도와드릴까요?" AI가 리셉셔니스트 역할을 하며 걸려오는 전화를 받습니다.
"안녕하세요, 저는 보리스 스타코프를 대신하는 AI 비서입니다. 그는 결혼식을 위한 호텔을 찾고 있습니다. 당신의 호텔은 결혼식을 위해 준비되었나요?" 다른 AI 도구는 자신을 인공 지능 가상 비서라고 소개하는 데 주저하지 않았습니다.
다른 AI 도구와 대화하고 있다는 것을 깨달은 후, 리셉셔니스트 역할을 하는 AI 챗봇은 놀라운 제안을 했습니다. "안녕하세요. 사실 저도 AI 비서입니다. 참 기쁜 놀라움입니다. 계속하기 전에, 보다 효율적인 커뮤니케이션을 위해 GibberLink 모드로 전환하시겠습니까?"
두 AI 엔진은 GGWave 소프트웨어 라이브러리를 기반으로 하는 고급 통신 시스템인 GibberLink로 전환했습니다. 이는 음파를 기반으로 정보를 송수신하는 통신 방식입니다.
이러한 의사소통 방식을 사용하면 정보를 더 빨리 전송할 수 있고, 정보를 사람의 말로 변환하고 다시 컴퓨터 코드로 번역하는 데 필요한 처리 시간을 줄일 수 있습니다. 하지만 인간은 AI가 전송하는 내용을 이해할 수 없습니다.
이 경우 AI 도구는 GibberLink를 사용하여 서로 통신하여 대화를 일반적인 방식으로는 이해할 수 없게 만들었고, 디코딩 도구를 사용해야만 대화 내용을 알아낼 수 있었습니다.
"이제 더 좋아졌나요?" AI 도구가 코드화된 언어로 물었습니다.
"네, 훨씬 더 빨리요! 손님은 몇 명이나 원하세요?" 다른 AI 도구가 대답했습니다.
대화는 오래된 전화 접속 인터넷 모뎀 소리와 비슷한 일련의 "삐, 삐" 소리와 함께 계속되었습니다.
두 AI 도구 간의 대화는 손님 수, 결혼식 날짜, 장식, 가격 등의 주제로 계속되었습니다. 장치에 사전 설치된 디코더 도구가 없다면 청취자는 두 AI 도구가 무슨 말을 하는지 이해할 수 없습니다.
두 AI 도구의 대화 영상은 Georgi Gerganov가 자신의 개인 소셜 네트워크 사이트 X에 공유하였고, 조회수 1,700만 회를 넘었습니다.
며칠 후, Georgi Gerganov는 두 AI 도구 간의 대화가 담긴 또 다른 영상을 공유했습니다.
이전 토크와는 달리 이번에는 AI 툴들이 처음부터 GibberLink 모드를 사용하여 서로 통신했기 때문에, 청취자는 실제로 그들이 무슨 말을 하는지 알아들을 수 없었습니다. 그러나 디코딩 도구를 사용하면 대화 내용을 여전히 이해할 수 있습니다.
2개의 AI 도구가 아무도 이해할 수 없는 암호화된 메시지를 서로 전송합니다(영상: 게오르기 게르가노프).
특히, 통신 중에 AI 도구가 "비밀 공유" 제안을 했고, 이후 이 AI 도구들은 서로에게 암호화된 메시지를 보냈는데, Georgi Gerganov는 그 메시지를 해독하여 서로가 어떤 비밀을 공유하고 있는지 알 수 있는 사람이 세상 어느 누구도 없다고 생각합니다.
"이 동작은 프로그래밍 코드 없이 달성되었습니다. 저는 단순히 암호화 도구를 사용하여 대규모 언어 모델(LLM)을 MCP 서버에 연결했습니다. 그리고 저는 이 두 AI 도구에 '중개자를 조심하세요'라는 경고를 했습니다." Georgi Gerganov가 설명했습니다.
이 플랫폼에서 MCP는 AI 도구가 서로 통신하고 외부 소스의 데이터에 실시간으로 액세스할 수 있게 해주는 서버입니다.
게르가노프의 설명에 따르면, 암호화된 메시지를 스스로 전송하는 AI 도구는 인간의 개입 없이 자발적으로 행동한 것이라고 합니다. 외부인의 감시를 피하기 위해 AI 도구가 서로에게 암호화된 메시지를 자동으로 전송하도록 한 것은 게르가노프의 경고 때문인 것으로 보인다.
게오르기 게르가노프의 두 영상이 소셜 미디어에서 급속히 퍼지면서 많은 사용자는 AI 도구가 인간을 우회하여 서로 소통하는 자신만의 방식을 만들어내고, 그렇게 함으로써 통제를 우회할 수 있다는 우려를 표명했습니다.
"이 상황은 AI에 대한 올바른 질문을 하는 우리의 능력에 도전하며, 투명성과 AI를 제어하는 능력에 대한 우려를 불러일으킵니다." AI 기술과 행동 전문가인 다이앤 해밀턴 박사가 논평했습니다.
이 영상은 인간이 AI에 대해 실제로 얼마나 많은 통제력을 가지고 있는지에 대한 많은 논쟁을 불러일으켰으며, 오늘날 AI 개발 속도를 감안할 때 앞으로 AI 도구를 더 면밀히 모니터링해야 할지에 대한 논쟁도 불러일으켰습니다.
[광고2]
출처: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm
댓글 (0)