Google ha decidido suspender temporalmente la capacidad de su herramienta de inteligencia artificial, Gemini, para crear imágenes de personas, luego de que se descubriera que generaba repetidamente representaciones inexactas de escenas históricas. La empresa, al anunciar la medida, reconoció los problemas con las capacidades de generación de imágenes de la IA y afirmó estar trabajando en una versión mejorada.
La decisión de pausar la generación de imágenes de personas se produce en medio de la controversia por la creación de imágenes históricas inexactas, como soldados alemanes de la era nazi y senadores estadounidenses racialmente diversos del siglo XIX, generadas por Gemini.
Aunque Google no proporcionó ejemplos específicos o problemas concretos, la empresa destacó la importancia de generar conjuntos de personas diversos en circunstancias normales. Se argumenta que la controversia sobre el supuesto sesgo de Gemini hacia la generación de imágenes racialmente diversas está impulsada, al menos en parte, por figuras de derecha.
Esta discusión se centra en la creación de imágenes demasiado diversas para consultas como «mujer estadounidense» o «mujer sueca», aunque se destaca que ninguna de las personas representadas es real y que los países no están habitados exclusivamente por personas de apariencias específicas.
La declaración de Google sugiere que la compañía está comprometida a corregir imágenes históricamente inexactas en lugar de eliminar la diversidad de sus herramientas de generación de imágenes. Se argumenta que las imágenes incorrectas podrían, de hecho, tener el efecto contrario al objetivo de Google de promover la diversidad, al correr el riesgo de borrar la injusticia histórica y la subrepresentación, sugiriendo que los grupos marginados no experimentaron realmente esas condiciones.
