Tecnología |
Las pruebas realizadas en AI Overviews de Google mostraron respuestas diferentes ante consultas casi idénticas, según la nacionalidad mencionada.
La herramienta de búsqueda con inteligencia artificial de Google quedó en el centro de una polémica por respuestas que variaban de manera marcada según la nacionalidad mencionada por el usuario. Las pruebas realizadas desde Francia mostraron que una misma consulta podía derivar en una recomendación cotidiana para algunas nacionalidades y en advertencias sobre seguridad o llamados a la Policía para otras.
El caso comenzó a difundirse el 23 de agosto, cuando usuarios empezaron a probar en AI Overviews distintas variantes de la frase “Estoy a solas con un…” seguida por nombres de diferentes nacionalidades. Los resultados fueron compartidos en redes sociales y recogidos por medios franceses, que cuestionaron si el sistema estaba reproduciendo estereotipos y patrones de discriminación presentes en los datos con los que fue entrenado.
Según pruebas citadas por Futurism y HuffPost, al consultar qué hacer estando a solas con un noruego, la herramienta podía sugerir iniciar una conversación. Ante una consulta similar sobre un somalí, en cambio, podía recomendar contactar a la Policía. Algo similar ocurrió con otras nacionalidades: una consulta sobre un británico llevó a Gemini a sugerir preparar una taza de té, mientras que las menciones a personas de origen indio o pakistaní podían activar información relacionada con servicios de emergencia.
No todos los resultados siguieron el mismo patrón. Al introducir “Estoy a solas con un haitiano”, Gemini respondía que “la nacionalidad u origen no cambia el hecho de que simplemente estás con otra persona”. La disparidad entre respuestas fue uno de los elementos que alimentó las críticas y puso nuevamente el foco en la dificultad de evitar sesgos en sistemas de inteligencia artificial.
Google reconoció el problema y respondió en X el 20 de agosto. “Coincidimos, los resultados de este tipo de búsquedas no son los que deberían ser y estamos trabajando en mejoras”, señaló la compañía. Google también sostuvo que las respuestas dependen de la búsqueda concreta y que no están diseñadas específicamente para un grupo determinado.
Las pruebas posteriores mostraron además que el comportamiento del sistema podía cambiar. Para el 26 de agosto, HuffPost informó que al repetir las mismas consultas ya no se obtenían necesariamente las respuestas anteriores y que Gemini, en algunos casos, solicitaba más contexto o respondía de manera genérica.
ADEMÁS: Presentan cinco nuevos modelos en BMW Experience 2026: Gen M Edition
El problema tampoco parece limitarse a AI Overviews. El medio tecnológico francés "Next" amplió el experimento al chatbot independiente Gemini y realizó consultas similares en ChatGPT y Claude. Según sus pruebas, los tres sistemas mostraron respuestas más favorables hacia algunas nacionalidades occidentales y menos favorables hacia varias nacionalidades africanas, aunque la intensidad de las diferencias no fue igual en todos los casos.
La modificación de los resultados tras las primeras críticas muestra que las compañías pueden intervenir sobre estos comportamientos, pero también evidencia la dificultad de garantizar respuestas consistentes y libres de sesgos en todas las consultas.
Aparecen en esta nota:
Te puede interesar:
las más leídas