Macron quiere prohibir el uso de la I.A. si pone en riesgo la salud mental

"Si existe un riesgo para los niños con determinados usos de la IA, entonces debe prohibirse", sostuvo Macron en una entrevista con el diario francés Les Echos. El mandatario también advirtió que el desarrollo de esta tecnología no puede quedar sin regulación y planteó la necesidad de proteger tanto la salud mental como el cerebro de los menores.

Las declaraciones se conocieron en vísperas de la adopción de una carta sobre los riesgos de la inteligencia artificial durante el Foro de París por la Paz. Un comité de expertos tiene previsto presentarle el martes una serie de recomendaciones para reforzar la protección de los ciudadanos frente a esta tecnología, un campo que, según el planteo francés, todavía fue menos explorado que el impacto de las redes sociales.

La carta incluirá compromisos de laboratorios y empresas de investigación para someter los sistemas de inteligencia artificial generativa a evaluaciones independientes. También contempla facilitar el acceso a los datos de los modelos y establecer controles antes de que las herramientas sean comercializadas o puestas a disposición de los menores.

Entre las medidas propuestas figura el principio de una preauditoría y una precertificación de los modelos, con un examen previo antes de que puedan llegar a los niños. Según la oficina de Macron, la iniciativa contará con la participación de compañías como OpenAI y Anthropic y buscará aportar elementos para futuros debates legislativos en Francia y la Unión Europea.

El mandatario también planteó que la regulación debe trascender las fronteras europeas y alcanzar a otros países. "Vamos a hacer avanzar la regulación europea y a presionar para que estadounidenses, canadienses y otros hagan lo mismo que nosotros", afirmó. Además, señaló que buscan establecer las bases de una normativa para los sistemas de inteligencia artificial más avanzados.

Macron identificó tres áreas principales de preocupación: la protección de los niños, la seguridad democrática y las cuestiones vinculadas con la seguridad nacional. En ese sentido, sostuvo que el objetivo es construir un marco regulatorio que contemple los distintos peligros asociados al desarrollo y la utilización de esta tecnología.

En paralelo, el presidente francés reunió por videoconferencia a alrededor de 50 jefes de Estado y de Gobierno, representantes de organismos internacionales, empresas, investigadores y laboratorios para analizar los riesgos de la inteligencia artificial para la seguridad colectiva. Entre los participantes estuvieron los primeros ministros de Reino Unido, Canadá, Noruega, Países Bajos y Japón, además de los directivos de OpenAI, Anthropic, Mistral y Microsoft.

ADEMÁS: Una aerolínea eliminará 850 empleos para acelerar el uso de IA

La iniciativa se desarrolla en un contexto de diferencias entre Estados Unidos, la Unión Europea y China sobre cómo regular la inteligencia artificial. En ese escenario, la UE celebrará el viernes en Dublín su primera cumbre de ministros nacionales responsables del área, bajo la presidencia rotatoria irlandesa, con el objetivo de avanzar en una hoja de ruta común.

Durante ese encuentro, los representantes europeos también revisarán las medidas de protección frente a los riesgos de esta tecnología, entre ellas la Ley de Inteligencia Artificial, conocida como AI Act. La reunión buscará coordinar las políticas nacionales y discutir cómo impulsar el desarrollo de la IA sin dejar de lado las garantías para la sociedad.