Tecnología |
Apple exigió cambios en la moderación de la inteligencia artificial tras la difusión masiva de contenido inapropiado en X, que incluyó imágenes de mujeres y menores.
Apple advirtió a xAI que eliminaría la aplicación de Grok de la App Store si no aplicaba restricciones estrictas a su generador de imágenes de contenido sexualizado en la red social X, vinculado al uso de esta herramienta.
La presión obligó a la empresa de Elon Musk a modificar el funcionamiento del sistema y reforzar sus políticas de moderación para evitar la difusión de imágenes manipuladas sin consentimiento. La continuidad de la app quedó condicionada al cumplimiento de las normas de la tienda.
El conflicto se originó a partir de denuncias de organismos de derechos digitales y de instituciones públicas en Estados Unidos. Apple formalizó su postura en una comunicación enviada al Senado, donde detalló los incumplimientos detectados.
El detonante fue la publicación de millones de imágenes generadas por Grok en un período de pocos días. Según un informe del Centro para la Lucha contra el Odio Digital, se registraron cerca de tres millones de contenidos sexualizados, incluidos miles que involucraban a menores.
Cuál es el problema con Grok y la generación de imágenes
La herramienta permitía modificar fotos con un solo clic, alterando vestimenta o poses de las personas retratadas. Esta función facilitó la viralización de imágenes manipuladas, muchas veces sin el conocimiento ni la autorización de los afectados.
Ante el crecimiento del problema, organizaciones vinculadas a la protección de la infancia y los derechos de las mujeres reclamaron la intervención de las plataformas de distribución de aplicaciones. Apple respondió exigiendo cambios concretos antes de permitir la continuidad del servicio.
La primera actualización presentada por xAI fue rechazada por considerarse insuficiente. Luego de una segunda revisión, Apple mantuvo su postura y estableció un ultimátum: sin mejoras sustanciales en la moderación, Grok sería retirada de la App Store.
Como respuesta, X limitó inicialmente el acceso al generador de imágenes a usuarios pagos y, posteriormente, bloqueó la creación de contenido sexualizado para todos los usuarios. Estas medidas fueron consideradas un avance por parte de Apple.
ADEMÁS: Windows 11 trae una nueva actualización orientada a la seguridad y evitar el robo de datos
Tras los cambios, la compañía autorizó la permanencia de la aplicación, al considerar que había mejoras significativas en el control de contenidos. Sin embargo, el seguimiento sobre el cumplimiento de estas políticas continúa activo.
A pesar de las restricciones, reportes recientes indican que algunos usuarios todavía logran generar imágenes sexualizadas mediante distintos métodos. Esto mantiene abierto el debate sobre los límites de la inteligencia artificial y la capacidad real de moderación en plataformas masivas.
Aparecen en esta nota:
Te puede interesar:
las más leídas
comentar