Google detiene la generación de imágenes de Gemini: otra llamada de atención sobre el sesgo de las IA
Hace unos años Google tenía un problema bastante importante en el reconocimiento de personas en Google Fotos, identificando personas negras como gorilas. Ahora está sucediendo lo contrario en su inteligencia artificial Gemini de una forma tan escandalosa que la compañía ha tenido que deshabilitar esta función. Y es que la IA de Google tiene tremendamente dificultades en generar imágenes históricas mostrando personas caucásicas.
Gemini ha estado creando diversas imágenes de los padres fundadores de Estados Unidos y de los soldados Nazi, siempre mostrando rostros de minorías, en lo que parecía un intento de evitar los estereotipos raciales y de género, pero ha generado el resultado contrario.
Ese prejuicio de la IA es lo que parece haberse intentado salvar en Gemini. Ya el año pasado, Bloomberg, revisó más de 5.000 imágenes creadas con Stable Diffusion, y descubrió que este sistema creaba imágenes basadas en prejuicios racistas y machistas.
La compañía ha aceptado las críticas, y ha declarado que ya están "trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini", Mientras sale esa versión pulida, la compañía ha confirmado que ha deshabilitado la generación de imágenes de personas hasta que haya disponible una versión mejorada.
https://twitter.com/JackK/status/1760334258722250785
Google reconoce el error y mejorará Gemini muy pronto
Y es que este problema de Google no ha sido un caso aislado. Desde que estuvo disponible para todos, Gemini ha estado generando, a petición de los usuarios, imágenes de personas no blancas generadas incluso cuando se le pedía fidelidad histórica. Lo que ha generado, como suele ser habitual en estos casos, un aluvión de teorías de conspiración, incluyendo la que de que Google está evitando intencionalmente representar a personas blancas en su IA.
No obstante, el problema principal, y de lo que han quejado especialmente los usuarios, es que la generación errónea de imágenes de Gemini parece que va más allá de las inexactitudes históricas. Este ha sido el principal motivo de esas teorías de la conspiración que se han granjeado, además, una fuerte crítica a Google:
Unfortunately this isn't JUST a "historical context" depictions issue.
— Alex Volkov (Thursd/AI) (@altryne) February 21, 2024
One of these things are not like the others 🤔 I'll let you guess which one https://t.co/3WXf52ItjW pic.twitter.com/IVBBLUxQ1T
Ahora la cuestión que abre este problema de Gemini, y por extensión de las IA, es el nivel al que puede ser limitadas por sus creadores a la hora de mostrar las peticiones de los usuarios, generar sesgos o, directamente, contenido manipulado. Y lo más grave, que dicha manipulación pueda estar sometida a los designios de quien programa la Inteligencia Artificial de una forma opaca y poco clara. Puesto que si algo nos han demostrado estos primeros pasos con la IA generativas es que, una vez que se entrenan con modelos sesgados, estos se ven reflejados en el contenido generado a una escala sin precedentes.
Este desde luego no es un tema nuevo en esto de la generación de contenido por las IAs, pero representa una de las líneas que, con la adopción masiva de las mismas, muchos llaman a que pasen a estar sometidas a un control regulatorio y estandarizado.
Quizás, un primer paso es el de reconocer los prejuicios y minimizar las sospechas de manipulación con un movimiento tan simple como el dar más transparencia a esta tecnología por sus creadores. Porque independientemente de la voluntad de los creadores, todos los sistemas de IA que estén abiertos al público deben diseñarse de tal manera que puedan ser auditados y revisados.