Google ha suspendido temporalmente las operaciones de su inteligencia artificial Gemini después de la controversia sobre imágenes racialmente cargadas que produjo. El gigante tecnológico estadounidense ya ha bloqueado temporalmente su nuevo modelo de inteligencia artificial que generaba imágenes de soldados alemanes de la Segunda Guerra Mundial y vikingos como personas de color, una raza diferente a su representación original.
La empresa tecnológica declaró que suspendería el modelo Gemini que genera imágenes de personas después de que los usuarios de redes sociales publicaran ejemplos de imágenes producidas por esta herramienta que representaban a varios personajes históricos de diversas etnias y géneros.
«Estamos trabajando para abordar los problemas con la función de creación de imágenes de Gemini. Mientras lo hacemos, suspenderemos temporalmente la creación de imágenes de personas y pronto lanzaremos una versión mejorada», dijo Google en un comunicado a X.
Google no hizo referencia a imágenes específicas en su declaración. Sin embargo, los ejemplos de resultados de imágenes de Gemini están ampliamente disponibles en X, acompañados de comentarios sobre problemas de precisión y sesgo de IA.
El miércoles (21/2), el director senior del equipo Gemini de Google, Jack Krawczyk, reconoció que se necesitaban ajustes para este generador de imágenes.
«Estamos trabajando para corregir representaciones como estas rápidamente», dijo, citando a The Guardian.
«La generación de imágenes de IA de Gemini produce una variedad de personas. Y eso generalmente es algo bueno, ya que las personas de todo el mundo lo usan. Pero aquí no es preciso», agregó.
Krawczyk añadió en un comunicado a X que los principios de IA de Google guían su herramienta de creación de imágenes para «reflejar nuestra base de usuarios global».
También agregó que Google continuaría haciendo esto para solicitudes de imágenes «abiertas» como «alguien paseando un perro», pero reconoció que las respuestas a solicitudes históricamente sesgadas requerían una mayor mejora.
«El contexto histórico tiene más matices y nos ajustaremos aún más para acomodarlo», dijo.
Según The Verge, Google comenzó a ofrecer la generación de imágenes a través de la plataforma de IA Gemini (anteriormente Bard) a principios de este mes, persiguiendo características ofrecidas por competidores como OpenAI.
