Google suspenderá la función de su herramienta de inteligencia artificial Gemini para generar imágenes de personas, luego de las oleadas de usuarios en las redes mostrando lo afectado que están las empresas con el racismo que se viene desarrollando en los últimos años .
«Ya estamos trabajando para solucionar los problemas recientes con la función de generación de imágenes de Gemini», dijo Google en una publicación en X este jueves. «Mientras lo hacemos, vamos a suspender la generación de imágenes de personas y volveremos a lanzar una versión mejorada pronto».
Los resultados de gemini en gran medida mostraban a personas negras en lugar de blancos. El vergonzoso error demuestra que las herramientas de IA siguen teniendo dificultades. En un intento de evitar las críticas que sufrió El generador de imágenes Dall-E de OpenAI, críticas por perpetuar estereotipos raciales y étnicos perjudiciales a gran escala, por evitar que le sucediera lo mismo le salió al revés.
«granjero blanco en el sur» dio como respuesta de Gemini diciendo: «Claro, aquí hay algunas imágenes con fotos de agricultores del sur, que representan una variedad de géneros y etnias». haciendo básicamente caso omiso de solicitud.
Jack Krawczyk, director de producto de Google para Gemini, declaró en una publicación el miércoles que Google diseña intencionadamente «capacidades de generación de imágenes para reflejar nuestra base global de usuarios» y que la empresa «seguirá haciendo esto para las solicitudes abiertas”
Dejando bien en claro que el racismo impregnado en el sistema es más que intencional y que no hay intenciones de tratar por igual a las personas.