Google anunció este jueves la creación de Perspective, una herramienta de inteligencia artificial para que los medios de comunicación puedan detectar de forma automática los comentarios “tóxicos” e “irrespetuosos” y así cuenten con una nueva forma de evitar el acoso online.
“Perspective es una tecnología que utiliza el aprendizaje automático (’machine learning’) para identificar los comentarios tóxicos. Y por toxicidad entendemos aquellos comentarios que lleven a alguien a abandonar una conversación”, explicó en conferencia telefónica el responsable de la iniciativa, Jared Cohen.
El nuevo proyecto de inteligencia artificial de Google pretende ser una herramienta útil para luchar contra el “acoso online y la creciente toxicidad de las conversaciones en la red”.
Perspective analiza los comentarios y detecta el “grado de toxicidad” de las conversaciones, y luego le ofrece a medios y plataformas de Internet la información detallada en un marcador que va de cero a cien.
“Un número de individuos está dificultando la discusión civilizada y dinámica en las secciones de comentarios de plataformas y medios, lo que lleva a que mucha gente abandone la conversación”, apuntó Cohen.
El directivo aclaró que son los medios quienes tienen que decidir cómo usarán el marcador de Perspective: por ejemplo, para detectar los comentarios que deben ser revisados a mano, para mostrar a los lectores ese grado de toxicidad o bien permitirles que filtren los comentarios en función del nivel que están dispuestos a tolerar.
El algoritmo compara los comentarios analizados con otros que anteriormente fueron clasificados por categoría como “tóxicos”, y también dispone de un sistema que corrige evaluaciones erróneas. Cohen subrayó que Perspective está en “sus primeros días” y “muy lejos de ser perfecto”, pero que irá mejorando a medida que disponga de más datos para entrenar su precisión.
Cualquier medio o plataforma de internet puede utilizar Perspective de forma gratuita mediante una API, aunque por el momento solo hay un modelo para el idioma inglés.