La nueva función de búsqueda con inteligencia artificial (IA) de Google enfrenta críticas por proporcionar respuestas erráticas e inexactas.
La herramienta experimental «AI Overviews» de Google, diseñada para ofrecer a los usuarios un resumen de los resultados de búsqueda, ha sido objeto de críticas después de que algunos usuarios reportaron respuestas extrañas e incorrectas. Por ejemplo, cuando los usuarios buscaron formas de hacer que el queso se adhiera mejor a la pizza, la IA sugirió usar «pegamento no tóxico». En otro caso, afirmó que los geólogos recomiendan que los humanos coman una roca al día.
Un portavoz de Google dijo a la BBC que estos eran «ejemplos aislados» y no representativos del rendimiento general de la herramienta. Algunas de las respuestas erróneas parecían basarse en comentarios de Reddit o artículos del sitio satírico The Onion, lo que llevó a burlas generalizadas en las redes sociales.
Sin embargo, Google mantuvo que la función generalmente funciona bien. «Los ejemplos que hemos visto son consultas muy poco comunes y no representan la experiencia de la mayoría de las personas», dijo la compañía en un comunicado. «La gran mayoría de los resúmenes de IA proporcionan información de alta calidad, con enlaces para profundizar en la web new.»
Google reconoció haber tomado medidas donde se identificaron «violaciones de políticas» y dijo que está utilizando estos casos para mejorar sus sistemas. No es la primera vez que la compañía enfrenta problemas con sus productos impulsados por IA. En febrero, tuvo que pausar su chatbot Gemini, criticado por sus respuestas «progresistas», mientras que el predecesor de Gemini, Bard, también tuvo un comienzo difícil.
Google comenzó a probar resúmenes de IA en los resultados de búsqueda para un pequeño número de usuarios registrados en el Reino Unido en abril, antes de lanzar la función a todos los usuarios de EE. UU. en su presentación anual de desarrolladores a mediados de mayo. La herramienta tiene como objetivo simplificar la búsqueda proporcionando un resumen de los resultados, para que los usuarios no tengan que desplazarse por una larga lista de sitios web para encontrar la información que buscan. A pesar de su estado experimental, se espera que sea ampliamente utilizada y confiable, dado el dominio de Google en el mercado de motores de búsqueda. Según el rastreador de tráfico web Statcounter, el motor de búsqueda de Google representa más del 90% del mercado global.
Como un componente central del modelo de ingresos de Google, mantener la fiabilidad de su servicio de búsqueda es crucial. Muchos expertos de la industria creen que una búsqueda más enfocada y dirigida por IA es el futuro, a pesar de las preocupaciones sobre el impacto ambiental de la tecnología. La atracción radica en evitar páginas de resultados de búsqueda y anuncios para obtener una única respuesta definitiva de un chatbot. Sin embargo, esto solo funciona si los usuarios pueden confiar en las respuestas de la IA.
Las llamadas alucinaciones de las herramientas generativas de IA son un problema más amplio que no se limita a Google, pero como el motor de búsqueda más grande del mundo, enfrenta un mayor escrutinio. En un ejemplo particularmente desconcertante, un reportero que buscaba información sobre si se podía usar gasolina para cocinar espaguetis más rápido recibió la respuesta: «no… pero puedes usar gasolina para hacer un plato de espaguetis picantes» y hasta se le proporcionó una receta.
La medida en que la búsqueda de IA acierta sigue sin estar clara, ya que las búsquedas exitosas son menos propensas a ser compartidas en las redes sociales. No obstante, las herramientas de búsqueda de IA deben manejar una amplia gama de consultas, incluidas las más inusuales. Otras empresas tecnológicas también están experimentando reacciones negativas por sus esfuerzos para integrar más herramientas de IA en sus productos. Por ejemplo, el regulador de datos del Reino Unido está investigando a Microsoft por una función planeada en sus nuevas PCs centradas en IA que tomaría capturas de pantalla continuas de la actividad en línea. Además, OpenAI, creador de ChatGPT, enfrentó críticas de la actriz de Hollywood Scarlett Johansson por supuestamente usar una voz similar a la suya sin consentimiento.
