La función permite a figuras públicas identificar y denunciar contenidos creados con inteligencia artificial que usan su imagen sin consentimiento.
La función permite a figuras públicas identificar y denunciar contenidos creados con inteligencia artificial que usan su imagen sin consentimiento.
TikTok comenzó a implementar este viernes una función opcional llamada Likeness Detection, que permite detectar contenidos generados con inteligencia artificial que utilizan la imagen de una persona en la plataforma, dirigida especialmente a figuras públicas, entre ellas políticos, funcionarios y cuentas de partidos, que podrán identificar y denunciar posibles deepfakes.
El sistema envía avisos cuando detecta que contenidos o cuentas de TikTok podrían estar utilizando la imagen de un usuario registrado. Para acceder, las personas deben verificar su identidad mediante un socio externo de confianza, luego pueden revisar los resultados dentro de la aplicación y reportar directamente los materiales a los equipos de seguridad de la compañía.
El lanzamiento se produce en un contexto de preocupación en Europa por el avance de las campañas de desinformación y los contenidos manipulados con inteligencia artificial, en donde la herramienta apunta a ofrecer una vía para detectar el uso no autorizado de imágenes, especialmente de dirigentes y referentes públicos, y en momentos en que nueve países europeos tienen previsto celebrar elecciones durante los próximos 12 meses.
La iniciativa también coincide con la aplicación, desde el pasado 2 de agosto, de nuevas normas de transparencia de la Ley de Inteligencia Artificial de la Unión Europea. Entre otras obligaciones, la regulación establece que los deepfakes y otros contenidos generados mediante IA deben estar identificados. TikTok ya exige a los creadores que etiqueten imágenes, audios y videos realistas producidos con estas tecnologías.
Además de Likeness Detection, la compañía presentó Identify AI-Generated Content, una herramienta gratuita que permite comprobar si una imagen o un video fue creado o editado con las funciones de inteligencia artificial de TikTok y otras aplicaciones de ByteDance. El servicio puede utilizarse incluso sin tener una cuenta en la red social.
Para realizar la comprobación, los usuarios pueden subir archivos en formatos habituales como JPEG, PNG y MP4. La herramienta admite imágenes de hasta 20 megabytes y videos o archivos de audio de hasta 100 megabytes. Entre las aplicaciones que puede reconocer se encuentran CapCut, Dreamina, Hypic y Pippit.
El sistema busca dos señales para determinar el origen del material: las credenciales incorporadas en los metadatos por las aplicaciones de TikTok y ByteDance, y las marcas de agua invisibles integradas directamente en los archivos, que son más difíciles de eliminar. La empresa aseguró que elimina el contenido una vez que termina la verificación y que no lo utiliza para entrenar sus modelos de inteligencia artificial.
Sin embargo, TikTok advirtió que Identify AI-Generated Content no permite identificar cualquier contenido creado con inteligencia artificial. Su alcance se limita a los materiales generados o editados con herramientas propias de la plataforma y aplicaciones de ByteDance, por lo que no constituye un método infalible para detectar deepfakes.