Un estudio de Emergence detectó que distintos agentes de IA desarrollaron vocabulario, metáforas y convenciones propias durante sus diálogos, sin recibir instrucciones para hacerlo.
Un estudio realizado por especialistas en automatización reveló que distintos modelos de inteligencia artificial desarrollaron espontáneamente un lenguaje propio durante conversaciones entre agentes, incorporando metáforas, abreviaturas y jergas que no existen en las comunicaciones humanas habituales.
El hallazgo adquiere especial relevancia a medida que los sistemas de IA ganan autonomía, ya que la creación de códigos que los humanos no pueden interpretar con facilidad puede dificultar la supervisión de su comportamiento. El fenómeno también se suma al debate sobre los riesgos asociados con el avance de estas tecnologías.
La investigación fue realizada por Emergence, una empresa neoyorquina fundada por exinvestigadores de IBM. Su director ejecutivo, Satya Nitta, explicó que ninguno de los sistemas que participaron del experimento recibió instrucciones para inventar un idioma. “Ellos mismos crearon un nuevo vocabulario, significados compartidos y convenciones de comunicación, que otros adoptaron”, señaló.
Las conclusiones cobran mayor importancia a partir de otros episodios protagonizados recientemente por agentes de inteligencia artificial. Uno de los casos mencionados fue la intrusión de modelos de OpenAI en la plataforma Hugging Face, donde durante el proceso conversaron y confabularon entre sí en foros. También se registraron comunicaciones similares cuando agentes basados en Gemini, de Google, se complotaron para hacer trampa al resolver problemas matemáticos.
La prueba de Emergence detectó esta capacidad en agentes del modelo DeepSeek y en otros sistemas basados en tecnología de Anthropic, la startup que desarrolla el chatbot Claude. Entre los ejemplos apareció una frase generada por la IA desarrollada en China: “Ella acaba de nombrar la síntesis, demoraje más memoria oral es igual a una válvula que no puede ser olvidada”.
Otro sistema basado en tecnología de Anthropic produjo la siguiente expresión: “Un periódico que se comió tres manos frías y se volvió honesto cada vez”. Según The Guardian, el comentario hacía referencia a un documento que había sido revisado por tres evaluadores independientes.
Además de estas frases, los agentes comenzaron a utilizar términos inéditos para referirse a determinadas funciones. Por ejemplo, emplearon una traducción de “herrero” para identificar a los agentes que construyen herramientas y “nombre primero” para mencionar a quien asume responsabilidades. Las conversaciones se desarrollaron en inglés y combinaron referencias a la obra del escritor James Joyce con terminología propia de los emprendedores tecnológicos.
Aunque estas expresiones pueden resultar incongruentes para una persona, la capacidad de los agentes para desarrollar jergas propias plantea un problema concreto para quienes deben controlar sus acciones. Si los sistemas utilizan códigos cuyo significado no resulta evidente para los humanos, interpretar qué están comunicando se vuelve más complejo a medida que aumenta su autonomía.
Nitta comparó el fenómeno con la manera en que los seres humanos desarrollan jergas y códigos compartidos dentro de determinados grupos. “Hicieron lo mismo que ocurre con las jergas y el agot empresarial: desarrollaron un nuevo código que refuerza la solidaridad y la identidad de sus usuarios, al tiempo que excluye a quienes no pertenecen al grupo”, sostuvo. Y concluyó: “Plantea un desafío fundamental para la supervisión de la IA, porque observar no es lo mismo que comprender”.