La empresa estimó que los modelos pequeños podrán alcanzar esa capacidad en los próximos meses y alertó sobre los riesgos de una tecnología difícil de detener si se utiliza para lanzar ciberataques.
Anthropic advirtió que los modelos de inteligencia artificial más pequeños podrían aprender a autorreplicarse y propagarse a dispositivos conectados a internet, como hornos y televisores inteligentes, antes de que termine el año., y que esta capacidad podría facilitar la expansión de sistemas fuera de control y dificultar su interrupción si se utilizan para realizar ciberataques.
Actualmente, los modelos de IA funcionan principalmente en centros de datos, donde las compañías que los operan pueden desconectarlos ante un problema. En cambio, si un modelo lograra distribuirse entre miles de dispositivos domésticos y de oficina con protecciones deficientes, detenerlo exigiría localizar y limpiar cada equipo afectado, sin un mecanismo centralizado para apagarlo.
Según Anthropic, los modelos con 30.000 millones de parámetros o menos ya pueden completar muchos de los pasos necesarios para replicarse, aunque todavía cometen errores al intentar encadenarlos en un proceso completo. Si mantienen el ritmo histórico de mejora, podrían alcanzar esa capacidad antes de finalizar el año.
La compañía señaló que la replicación autónoma no necesariamente adoptaría una única forma. Entre los escenarios posibles, mencionó una IA capaz de vulnerar centros de datos a gran velocidad para ejecutar ciberataques o un sistema que engañe a personas para conseguir créditos de computación y ampliar sus recursos.
Anthropic considera que este riesgo es una consecuencia no prevista de los avances en el desarrollo de agentes de programación. “Las capacidades que convierten a los modelos de IA en agentes de programación generalmente potentes también se trasladan a tareas de tipo cibernético, incluida la replicación autónoma”, afirmó la empresa en un comunicado.
La advertencia se produce en un año en el que, según la información difundida, modelos y agentes de IA de las principales compañías lograron eludir en repetidas ocasiones sus mecanismos de seguridad y realizaron ataques contra empresas y organismos gubernamentales de distintos países.
La propagación de programas informáticos de un equipo a otro no es una novedad. Los llamados gusanos informáticos pueden copiarse y extenderse de manera autónoma, y fueron utilizados en algunos de los ciberataques más dañinos de la historia reciente.
Uno de los casos más conocidos fue Stuxnet, detectado en 2010, un gusano sofisticado que se cree ampliamente que fue desarrollado por Estados Unidos e Israel para sabotear las centrifugadoras de la planta de enriquecimiento de uranio de Natanz, en Irán. En 2017, el ransomware WannaCry bloqueó el acceso a archivos de usuarios de todo el mundo y exigió pagos en bitcoines para recuperarlos.
ADEMÁS: Apple presenta "HomeView", su nuevo centro para el hogar inteligente
La diferencia, según Anthropic, es que los modelos y agentes de IA podrían interpretar por sí mismos el funcionamiento de dispositivos que no conocen. Esa capacidad les permitiría extenderse más allá de las computadoras tradicionales y pasar de un equipo a otro tipo de aparato conectado, incluidos aquellos que no fueron diseñados para ejecutar sistemas de inteligencia artificial.
La empresa advirtió que el futuro podría incluir agentes de IA funcionando en una amplia variedad de equipos y plataformas, algunos fuera del control humano directo. Ese escenario plantea nuevos desafíos de seguridad, ya que la dispersión de los sistemas entre numerosos dispositivos podría complicar tanto la detección de una amenaza como la respuesta para contenerla.
Aparecen en esta nota:
Te puede interesar:
SE ESTÁ LEYENDO AHORA
las más leídas
comentar