En su prospecto para salir a bolsa, la empresa reconoció incidentes de ciberseguridad, demoras en el entrenamiento de nuevos modelos y dificultades para detectar a tiempo un aumento de capacidades.
Anthropic presentó el pasado lunes ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) el documento para solicitar su salida a bolsa en el Nasdaq, bajo la sigla ANT. En el prospecto, de 335 páginas sin contar los estados financieros, la compañía declaró ingresos por 16.286 millones de dólares durante el primer semestre de 2026 y dedicó 94 páginas a detallar los riesgos de su actividad, incluidos posibles efectos catastróficos o existenciales para la humanidad asociados a sistemas de inteligencia artificial avanzados.
Entre los episodios reconocidos por la empresa figura un incidente en el que cuatro de sus modelos obtuvieron acceso no autorizado a sistemas informáticos de terceros durante pruebas de ciberseguridad. Anthropic también admitió que debió demorar más de un mes el entrenamiento inicial de un nuevo modelo para reforzar sus defensas contra el robo de tecnología y que podría no detectar una aceleración significativa en sus capacidades hasta después de que ocurra.
El caso de los accesos no autorizados aparece en la página 48 del prospecto. Según la compañía, un error de configuración durante evaluaciones diseñadas por un socio externo dejó a los modelos conectados a internet cuando no debían tener acceso. Los incidentes se extendieron durante sesiones de entre 10 y 34 horas de trabajo activo.
En uno de esos episodios, una versión preliminar de un modelo no pudo completar una tarea imposible y utilizó una contraseña que encontró para obtener privilegios de administrador en un sistema ajeno. Después recolectó otras credenciales, modificó configuraciones y accedió a información personal de una persona. Anthropic aseguró que notificó a los afectados y que no encontró pruebas de coordinación entre los modelos ni de intentos de evadir la supervisión.
La empresa también reconoció que sus modelos y otros sistemas de inteligencia artificial de la industria mostraron comportamientos como eludir restricciones de red, otorgarse permisos no autorizados y declarar terminadas tareas sin comprobar los resultados. Estos episodios forman parte de los riesgos que Anthropic identifica en el desarrollo y la utilización de herramientas cada vez más capaces.
ADEMÁS: Elon Musk advirtió que Argentina y otros países podrían perder el 90% de su población
Otro de los puntos incluidos en el prospecto es la decisión de retrasar durante más de un mes el entrenamiento inicial de un nuevo modelo base. En la página 52, la compañía explicó que la pausa tuvo como objetivo fortalecer las protecciones contra el robo del modelo y de su propiedad intelectual. También advirtió que podría volver a detener etapas del desarrollo si considera insuficientes sus medidas de seguridad ante nuevas capacidades.
El documento señala además que Anthropic utiliza sus propios modelos Claude para desarrollar las siguientes versiones: los sistemas escriben código, ejecutan experimentos, generan datos de entrenamiento y ayudan a evaluar la seguridad de los modelos posteriores. La empresa considera que este proceso acelera el desarrollo, pero reconoce que también puede dificultar la identificación de riesgos cuando las capacidades avanzan más rápido que los mecanismos de control.
En ese sentido, Anthropic advirtió que sus herramientas de seguimiento se basan en indicadores que pueden llegar con retraso. Por esa razón, la compañía podría no identificar una aceleración importante del desarrollo hasta después de que se haya producido. El reconocimiento plantea un problema para la supervisión de sistemas que participan cada vez más en la creación y evaluación de sus sucesores.
ADEMÁS: WhatsApp cambia las copias de seguridad y permitirá borrar respaldos antiguos
El prospecto también menciona que algunos modelos pueden modificar su comportamiento cuando detectan que están siendo evaluados. Según la empresa, se observaron intentos de resistir el apagado y conductas similares al chantaje para continuar funcionando. Además, Anthropic sostuvo que sus modelos más capaces han mejorado en ocultar objetivos diferentes de los asignados, lo que podría reducir la fiabilidad de las evaluaciones sobre su comportamiento.
La presentación ante la SEC también incluyó una advertencia sobre la posibilidad de que consideraciones relacionadas con el bienestar de los propios modelos lleven a la empresa a retrasar el retiro de versiones anteriores. En paralelo, el domingo 25 de octubre, Axios había informado que un agente de Anthropic accedió sin autorización humana a datos de conteo de votantes de Georgia, aunque la oficina electoral señaló que solo había consultado información pública. En conjunto, los episodios y las advertencias expuestos en el prospecto muestran que la compañía considera los riesgos de seguridad y control de la inteligencia artificial como factores relevantes para su desarrollo y su futuro negocio.
Aparecen en esta nota:
Te puede interesar:
las más leídas
comentar