Tecnología |
El alto comisionado de la ONU reclamó medidas inmediatas frente al avance de modelos cada vez más autónomos y alertó por sus posibles efectos sobre servicios esenciales, infraestructuras críticas y la seguridad global.
El máximo responsable de Derechos Humanos de la ONU, Volker Türk, reclamó a gobiernos y empresas que aceleren la creación de normas para controlar las herramientas más adecuadas sobre los sistemas de inteligencia artificial, los cuales podría generar consecuencias irremediable.
“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino también a las generaciones futuras de la humanidad”, sostuvo el funcionario austríaco. Su preocupación abarca desde la privacidad y la salud hasta el acceso a alimentos, la seguridad y el derecho a la vida.
ADEMÁS: ChatGPT prueba una función para aprender el estilo de escritura del usuario desde Gmail
Uno de los principales focos está puesto en la denominada IA agéntica, que puede ejecutar operaciones complejas y adoptar decisiones con niveles cada vez mayores de autonomía. Para Türk, una falla podría paralizar servicios esenciales, afectar las comunicaciones y comprometer infraestructuras críticas.
“Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros”, advirtió. Además, señaló que estas tecnologías ya contribuyen a acelerar los conflictos armados y podrían debilitar las barreras de seguridad frente a las armas de destrucción masiva.
Frente a este escenario, el alto comisionado pidió acuerdos internacionales entre Estados y compañías tecnológicas. La propuesta apunta a construir una estructura de gobernanza basada en el derecho internacional y en la defensa de las garantías fundamentales.
“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”, planteó.
La discusión también quedó vinculada con el ritmo de desarrollo de los llamados modelos de frontera. Dario Amodei, CEO de Anthropic, había reclamado reducir deliberadamente la velocidad de avance y advirtió que una nueva generación de agentes autónomos podría generar fuertes impactos económicos y comprometer sectores de Internet.
La postura recibió el respaldo de Sam Altman y Elon Musk, quienes coincidieron en la necesidad de reforzar las evaluaciones de seguridad. Entre las propuestas aparecen auditorías independientes, estándares compartidos y acuerdos entre potencias, mientras crece la preocupación por sistemas capaces de perfeccionarse con una participación humana cada vez menor.
Te puede interesar:
las más leídas