La función "Resumen de IA" lanzada recientemente por Google en la Búsqueda de Google ha enfrentado importantes críticas. Los usuarios han publicado numerosos casos en los que los resúmenes de IA generaron una respuesta ilógica o incorrecta a varias búsquedas, sin opción de exclusión voluntaria.
Lea también: Nuevas extensiones de Chrome tienen como objetivo mejorar la experiencia de búsqueda de Google
Los ejemplos recientes incluyen consejos dudosos sobre prácticas culinarias y recomendaciones de salud, lo que provocó una ola de críticas y burlas en las redes sociales.
Los usuarios exponen las respuestas erróneas de AI Overview
La nueva función, AI Overview, se lanzó hace menos de dos semanas y está diseñada para proporcionar breves resúmenes de las preguntas formuladas. Por ejemplo, una búsqueda sobre cómo limpiar botas de cuero puede proporcionar instrucciones de varios sitios web. Sin embargo, los usuarios han informado que la herramienta puede brindar consejos incorrectos y potencialmente peligrosos.
Otro error que cometió la IA fue afirmar que “Estados Unidos ha tenido un presidente musulmán, Barack Hussein Obama”, cuando se le preguntó cuántos presidentes musulmanes ha tenido Estados Unidos.
Otro consejo que podría causar graves daños fue utilizar pegamento al preparar la salsa para pizza para evitar que el queso se resbalara. Se descubrió que esta recomendación proviene de un comentario de Reddit, lo que plantea la posibilidad de que la IA esté obteniendo información de fuentes no confiables.
Otras recomendaciones escandalosas incluyeron la afirmación de que mirar el sol es saludable y que la gente debería incorporar piedras a su dieta todos los días. Algunos de los problemas que se han reportado incluyen errores simples como enumeración incorrecta de frutos y cálculo incorrecto de fechas en el historial.
La atribución incorrecta nubla las fuentes creíbles
AI Overview también ha sido criticado por citar fuentes confiables con información incorrecta. Por ejemplo, afirmó:
"Según WebMD, los científicos dicen que mirar al sol durante 5 a 15 minutos, o hasta 30 minutos si tienes la piel más oscura, es generalmente seguro y ofrece los mayores beneficios para la salud".
Estas atribuciones erróneas pueden dañar la reputación de instituciones de gran prestigio y son potencialmente peligrosas para la población en general. Cuando se le preguntó si la Búsqueda de Google viola o no la ley antimonopolio, AI Overview respondió:
"Sí, el Departamento de Justicia de EE. UU. y 11 estados están demandando a Google por violaciones antimonopolio".
La portavoz de Google, Meghann Farnsworth, dijo que los errores provinieron de "preguntas generalmente muy inusuales y no son representativos de las experiencias de la mayoría de las personas". Dijo que los errores se encuentran en solicitudes poco comunes y dijo que la compañía está trabajando activamente para corregir violaciones de la política de contenido. Incluso con estas garantías, la reacción plantea interrogantes sobre cuestiones más amplias relacionadas con la creciente adopción de tecnologías de inteligencia artificial.
Paralelos con el fiasco de la herramienta de imágenes Gemini Emerge
La controversia sobre AI Overview es similar a los problemas que enfrentó la herramienta de generación de imágenes Gemini de Google poco después de su lanzamiento en febrero debido a las mismas malas interpretaciones y resultados dudosos. Algunos de los problemas destacados incluyen tergiversaciones de la historia y bocetos inadecuados para su uso, lo que llevó a Google a dejar de trabajar en la herramienta y trabajar en mejoras.
La competencia en el espacio de la IA generativa es dura debido a la presencia de actores como Google, Microsoft y Open AI. Se espera que el mercado de herramientas y agentes de IA alcance un tamaño de más de un billón de dólares estadounidenses en la próxima década. Esta intensa competencia puede llevar al uso de tecnologías inmaduras en el mercado debido a la presión para lanzar nuevos productos.
Lea también: Google, OpenAI y otros 13 se comprometen a no implementar modelos de IA riesgosos
Google es el motor de búsqueda más popular del mundo y esto lo hace muy vulnerable a las críticas. Actualmente, el motor de búsqueda de la empresa domina más del 90% de la cuota de mercado global, lo que significa que su eficacia es crucial para la satisfacción del usuario y el modelo de negocio de la empresa.