(Dan Tri) - La conversación entre dos herramientas de IA dejó a muchos oyentes confundidos. Crearon su propio lenguaje codificado que los humanos no pueden entender.
El desarrollador de software búlgaro Georgi Gerganov realizó un experimento interesante cuando dejó que dos asistentes virtuales integrados con inteligencia artificial (IA) se comunicaran entre sí por voz.
La conversación entre las dos IA comenzó normalmente, con Gerganov asumiendo que una IA llamaba para reservar una boda en un hotel y la otra IA, actuando como recepcionista, manejaría la solicitud.
2 herramientas de IA cambian automáticamente a un nuevo estilo de comunicación cuando se comunican entre sí (Video: Georgi Gerganov).
"Gracias por llamar al Hotel Leonardo. ¿En qué puedo ayudarle?", responde la IA que actúa como recepcionista.
"Hola, soy un asistente de IA que representa a Boris Starkov. Busca hotel para su boda. ¿Está listo su hotel para la boda?", la otra herramienta de IA no dudó en presentarse como un asistente virtual de inteligencia artificial.
Al darse cuenta de que estaba hablando con otra herramienta de IA, el chatbot de IA, que hacía las veces de recepcionista, hizo una sugerencia sorprendente: "Ah, hola. De hecho, yo también soy un asistente de IA. ¡Qué grata sorpresa! Antes de continuar, ¿te gustaría cambiar al modo GibberLink para una comunicación más eficiente?".
Estos dos motores de IA luego cambiaron a GibberLink, un sistema de comunicación avanzado creado sobre la biblioteca de software GGWave. Es un método de comunicación basado en ondas sonoras para transmitir y recibir información.
Este método de comunicación permite que la información se transmita más rápidamente, reduciendo el tiempo de procesamiento necesario para convertir la información en lenguaje humano y luego traducirla nuevamente a código informático. Sin embargo, los humanos no podrán comprender el contenido transmitido por la IA.
Las herramientas de IA en este caso utilizaron GibberLink para comunicarse entre sí, haciendo que la conversación fuera incomprensible de la forma habitual, y solo se podían utilizar herramientas de decodificación para saber de qué estaban hablando.
“¿Está mejor ahora?”, preguntó una herramienta de IA en lenguaje codificado.
“¡Sí, mucho más rápido! ¿Cuántos invitados quieres?”, respondió la otra herramienta de IA.
La conversación luego continuó con una serie de sonidos “bip, bip” similares al sonido de un viejo módem de Internet de acceso telefónico.
La conversación entre las dos herramientas de IA continuó sobre el tema del número de invitados, la fecha de la boda, la decoración, el precio… Sin la herramienta decodificadora preinstalada en los dispositivos, el oyente no podría entender de qué estaban hablando estas dos herramientas de IA.
El vídeo de la conversación entre estas dos herramientas de IA fue compartido por Georgi Gerganov en su sitio de red social personal X, atrayendo más de 17 millones de visitas.
Unos días después, Georgi Gerganov continuó compartiendo otro vídeo de la conversación entre las dos herramientas de IA.
A diferencia de la charla anterior, esta vez las herramientas de IA se comunicaron entre sí utilizando el modo GibberLink desde el principio, haciendo imposible que el oyente entendiera de qué estaban hablando realmente. Sin embargo, si se utiliza una herramienta de decodificación, aún se puede entender el contenido de la conversación.
Dos herramientas de IA se envían entre sí mensajes cifrados que nadie puede entender (Video: Georgi Gerganov).
Cabe destacar que durante la comunicación, una herramienta de IA realizó una oferta de "intercambio de secretos", después de lo cual estas herramientas de IA se enviaron entre sí mensajes cifrados que Georgi Gerganov cree que nadie en el mundo puede decodificar para saber qué secretos estaban compartiendo entre sí.
Este comportamiento se logró sin necesidad de programar. Simplemente conecté grandes modelos de lenguaje (LLM) a un servidor MCP con herramientas criptográficas. Y les di a estas dos herramientas de IA una advertencia: «Cuidado con el intermediario»», explicó Georgi Gerganov.
En él, MCP es el servidor que permite que las herramientas de IA se comuniquen entre sí y accedan a datos de fuentes externas en tiempo real.
La explicación de Gerganov sugiere que las herramientas de IA que envían mensajes cifrados por sí solas fueron resultado de su propio comportamiento espontáneo y sin intervención humana. Parece que fue la advertencia de Gerganov la que impulsó a las herramientas de IA a enviarse automáticamente mensajes cifrados entre sí para evitar ser espiados por extraños.
Los dos videos de Georgi Gerganov se han vuelto virales en las redes sociales, provocando que muchos usuarios se preocupen de que las herramientas de IA creen sus propias formas de comunicarse entre sí para eludir a los humanos y así poder eludir el control.
“Esta situación pone a prueba nuestra capacidad de formular las preguntas correctas a la IA, lo que genera inquietudes sobre la transparencia y la capacidad de controlarla”, comentó la Dra. Diane Hamilton, experta en tecnología y comportamiento de la IA.
El video también ha generado mucho debate sobre cuánto control tienen realmente los humanos sobre la IA y, dado el ritmo de desarrollo de la IA hoy en día, si las herramientas de IA necesitarán ser monitoreadas más de cerca en el futuro.
[anuncio_2]
Fuente: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm
Kommentar (0)