Tecnología |
La empresa de inteligencia artificial de Elon Musk acusó al sospechoso de vulnerar las medidas de seguridad de la plataforma para generar y distribuir imágenes ilícitas.
xAI, la compañía de inteligencia artificial fundada por Elon Musk, presentó una demanda contra un hombre acusado de utilizar Grok para generar material de abuso sexual infantil mediante la manipulación de los sistemas de seguridad del chatbot. La acción judicial fue iniciada el martes pasado ante un tribunal federal del estado de Texas.
Según el escrito presentado por la empresa, el acusado habría empleado la herramienta de manera “deliberada e intencional” para eludir las salvaguardas de la plataforma, modificar imágenes sin consentimiento y producir y distribuir contenido sexualmente explícito que involucraba a menores de edad, en violación de los términos de servicio de xAI.
El demandado, identificado como Harwood, ya enfrentaba cargos penales desde febrero por posesión y distribución de material de abuso sexual infantil. De acuerdo con la causa, pesa sobre él una acusación compuesta por ocho cargos vinculados a estos delitos.
La demanda civil sostiene que “al menos algunas” de las imágenes relacionadas con la investigación penal fueron generadas o alteradas mediante Grok. Además, asegura que el acusado utilizó la inteligencia artificial para transformar fotografías no sexuales en contenido explícito sin autorización de las personas retratadas.
Según la compañía, Harwood creó múltiples cuentas dentro de la plataforma y recurrió a “instrucciones engañosas” para fabricar deepfakes sexualizados tanto de adultos como de menores. El objetivo, afirma xAI, era evitar los controles diseñados para impedir la creación de este tipo de material.
La empresa argumentó que el acusado diseñó estrategias específicas para vulnerar las barreras de seguridad incorporadas en Grok y convertir la herramienta en un instrumento destinado a actividades criminales.
En el expediente judicial, xAI detalló parte de las medidas adoptadas para combatir el contenido ilegal. La compañía informó que durante 2026 suspendió 52.222 cuentas y realizó 73.604 reportes al Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos, acciones que derivaron en al menos 244 arrestos.
Además de las sanciones que pudieran surgir de la investigación penal, la firma reclama el reembolso de los gastos legales que eventualmente deba afrontar frente a posibles demandas iniciadas por víctimas de las maniobras atribuidas al acusado.
ADEMÁS: Microsoft advierte que las empresas pagan un "doble costo oculto" por el uso de IA
“Las acciones del demandado constituyeron un plan calculado para weaponizar la herramienta de la empresa con fines criminales, exponiendo a víctimas reales a un daño profundo y duradero, al tiempo que exponía a la empresa a un riesgo legal significativo y a daños reputacionales”, sostuvo xAI en la presentación judicial.
La demanda fue presentada en medio de meses de cuestionamientos internacionales sobre la capacidad de Grok para generar deepfakes sexualizados sin consentimiento. Tras la incorporación del modo denominado “picante” y de nuevas funciones de edición de imágenes, el chatbot recibió críticas por producir contenido explícito con menores. En ese contexto, Musk había advertido públicamente: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”, una amenaza que ahora la empresa concretó por primera vez ante la Justicia.
Aparecen en esta nota:
Te puede interesar:
las más leídas