La compañía plantea crear normas técnicas comunes para medir capacidades, informar incidentes y responder de manera coordinada ante los riesgos de los sistemas avanzados.
OpenAI propuso que Estados Unidos asuma un papel de liderazgo en la creación de normas técnicas internacionales para la inteligencia artificial (IA), con el objetivo de establecer reglas comunes frente al rápido avance de esta tecnología.
La compañía consideró que una coordinación entre países permitiría evitar un escenario de regulaciones fragmentadas y facilitaría una respuesta conjunta ante los riesgos asociados con sistemas cada vez más avanzados. Entre las medidas planteadas aparecen métricas comunes para evaluar capacidades y protocolos para informar incidentes.
La propuesta se conoció a través de una publicación de la empresa en su blog institucional, mientras los líderes mundiales participan de la Asamblea General de las Naciones Unidas, donde la inteligencia artificial ocupa un lugar destacado en las discusiones vinculadas con la seguridad internacional.
Uno de los puntos que OpenAI consideró prioritarios es la denominada “automejora recursiva”, que describe la posibilidad de que un sistema de IA pueda mejorar sus propias capacidades de manera autónoma. Según el planteo, esa posibilidad podría hacer más difícil supervisar y controlar los procesos de desarrollo de los modelos más avanzados.
Por ese motivo, la empresa propuso que los países trabajen con métricas y protocolos compartidos que permitan intercambiar información sobre incidentes y coordinar respuestas ante posibles riesgos. Para OpenAI, establecer esos mecanismos en esta etapa será determinante para definir la futura regulación internacional de la IA.
La compañía también adviertió sobre las consecuencias de que cada país establezca sus propias reglas sin coordinación. Según su planteo, un esquema de ese tipo podría generar normas diferentes entre jurisdicciones y dificultar la respuesta conjunta frente a problemas relacionados con la tecnología.
La propuesta está vinculada además con la posición estratégica de Estados Unidos y sus aliados. OpenAI sostuvo que la creación de reglas internacionales podría reforzar la cooperación entre esos países a medida que la inteligencia artificial adquiere mayor relevancia económica, tecnológica y en materia de seguridad.
La empresa no planteó establecer una velocidad fija para el desarrollo de la IA. Su propuesta apunta a que la investigación destinada a garantizar que los sistemas actúen de acuerdo con los valores y objetivos humanos avance, al menos, al mismo ritmo que las capacidades de los modelos.
El debate llegará también al Consejo de Seguridad de las Naciones Unidas, donde Sam Altman, director ejecutivo de OpenAI, tiene previsto informar a los 15 miembros del organismo sobre la relación entre inteligencia artificial y seguridad internacional. La reunión fue convocada por Francia, que durante septiembre ocupa la presidencia del Consejo, y será presidida por Jean-Noël Barrot, ministro francés de Europa y Relaciones Exteriores.
El Consejo de Seguridad ya había tratado los riesgos de la inteligencia artificial en 2023. En aquella oportunidad, China advirtió que la tecnología no debía convertirse en un “caballo desbocado”, mientras que Estados Unidos señaló posibles usos de la IA para censurar o reprimir a la población.