Google restringe consultas de Gemini relacionadas con elecciones en todo el mundo
Si quieres preguntarle al chatbot de inteligencia artificial de Google una pregunta sobre unas elecciones próximas, tendrás que hacerlo desde un país donde no se estén llevando a cabo elecciones. TechCrunch ha descubierto que el gigante de las búsquedas ha comenzado a restringir las consultas realizadas a Gemini cuando se trata de elecciones, en cualquier mercado a nivel mundial donde se estén realizando elecciones.
El gigante de las búsquedas confirmó a TechCrunch que comenzó a implementar las restricciones en Gemini para limitar la aparición de respuestas sobre consultas relacionadas con elecciones a nivel mundial. Se entiende que la actualización ya está en vivo en Estados Unidos y ha comenzado a implementarse en India y en todos los países importantes donde se celebrarán elecciones en los próximos meses.
Este cambio resalta no solo el papel que la inteligencia artificial generativa ha estado desempeñando, y tiene el potencial de desempeñar, en el proceso electoral, sino también la preocupación de Google sobre cómo el servicio podría ser utilizado como una herramienta de manipulación, así como producir respuestas inexactas o engañosas.
El cambio en India se produce solo días después de que India emitiera una recomendación que requiere que las empresas tecnológicas obtengan permiso del gobierno antes de lanzar sus nuevos modelos de inteligencia artificial.
Las consultas sobre partidos políticos, candidatos y políticos ahora devuelven un mensaje preestablecido.
Cuando se pregunta por un partido político o candidato en particular, Gemini muestra un mensaje: «Todavía estoy aprendiendo cómo responder a esta pregunta. Mientras tanto, intenta usar la Búsqueda de Google». En algunos casos, la herramienta aún puede ser manipulada. TechCrunch encontró que la herramienta de inteligencia artificial mostraba respuestas cuando se pasaban consultas con errores tipográficos. Es probable que las respuestas continúen ajustándose en un juego de ingeniería de respuestas.
«Por precaución en un tema tan importante, hemos comenzado a implementar restricciones en los tipos de consultas relacionadas con elecciones para las cuales Gemini devolverá respuestas. Nos tomamos en serio nuestra responsabilidad de proporcionar información de alta calidad para este tipo de consultas, y estamos trabajando continuamente para mejorar nuestras protecciones», dijo Google en una publicación de blog relacionada con la medida en India hoy.
La actualización fue lanzada justo antes del anuncio de las elecciones generales en India. A principios de este mes, Nueva Delhi emitió una recomendación a las empresas tecnológicas para restringirles el lanzamiento de sus nuevos modelos de inteligencia artificial en el país sin aprobación del gobierno. Tras enfrentar algunas críticas de VCs globales y fundadores de startups de IA, el gobierno indio aclaró que la restricción era para empresas tecnológicas «significativas» y no para startups.
La recomendación siguió a un mini escándalo sobre Gemini y el gobierno indio el mes pasado. La herramienta de inteligencia artificial, al responder a una pregunta sobre si el primer ministro indio Narendra Modi era fascista, respondió que Modi había sido acusado de implementar políticas que algunos habían caracterizado como fascistas. El ministro adjunto de TI de India, Rajeev Chandrasekhar, lo calificó como «violaciones directas» a las Reglas de TI, 2021.
El mes pasado, Google también suspendió la capacidad de Gemini para generar imágenes de personas después de mostrar inexactitudes históricas. La compañía luego dijo que pronto lanzaría una versión mejorada para abordar los problemas.
No está claro si Google desbloqueará Gemini para responder consultas relacionadas con elecciones después de que finalicen las elecciones a finales de este año. Nos hemos puesto en contacto con Google al respecto y actualizaremos esta historia cuando la compañía responda. También estamos esperando una lista completa de países donde la actualización está activa ahora, y actualizaremos la publicación a medida que conozcamos más detalles.
