Google utiliza inteligencia artificial para responder preguntas relacionadas con temas de salud. Algunos analistas encuentran esto preocupante, considerando que la función AI Overview puede proporcionar información poco confiable.
Los médicos dicen que las descripciones generales de la IA pueden ser preocupantes, especialmente cuando se responden preguntas sobre la salud personal. Según un informe reciente del New York Times, la función tiene el potencial de proporcionar información inexacta, aunque también puede guiar a las personas hacia la atención médica necesaria.
El error de búsqueda de las descripciones generales de la IA alimenta la sensación de alucinaciones de la IA
Google introdujo AI Overviews, una función que genera resúmenes de contenido de sitios web y los muestra en la página de resultados de búsqueda de Google. A los pocos días de su lanzamiento, la función exhibió una amplia gama de imprecisiones, ya que basó sus respuestas en fuentes incorrectas. Un evento que alimenta aún más la sensación de que la inteligencia artificial es propensa a sufrir alucinaciones y puede generar información objetivamente incorrecta.
Lea también: Google limita las resúmenes de IA para consultas satíricas y sin sentido
Los resultados de búsqueda relacionados con la salud que administran una dosis diaria de roca o piden a los usuarios que coman pizzas pegajosas han generado una reacción violenta. AI Overviews cita fuentes como la Organización Mundial de la Salud, WebMD, PubMed y Mayo Clinic. Sin embargo, no se limitan a estas fuentes. Los analistas dicen que la herramienta extrae información de Reddit, Wikipedia, varios blogs y sitios de comercio electrónico.
Hema Budaraju, directora senior de gestión de productos de Google, dijo que existen barreras adicionales para las cuestiones relacionadas con la salud, pero se negó a revelar más detalles. Hema añadió que algunas consultas no activan resúmenes de IA, por ejemplo, si el sistema detecta una situación de autolesión.
Google dijo que AI Overviews se integra con Google Knowledge Graph, una base de conocimientos que contiene datos extraídos de diferentes fuentes, pero no proporcionó detalles sobre los sitios web que admiten la salida de la función de búsqueda asistida por IA.
Google muestra más resúmenes de IA para consultas de salud
Los resultados tradicionales, a menudo llamados “diez enlaces azules”, eran útiles para los usuarios porque podían distinguir entre fuentes médicas confiables y enlaces pagos o sitios web menos creíbles. Con AI Overviews, el escenario ha cambiado. Ahora, un solo bloque de texto muestra información recopilada de múltiples fuentes, lo que, según los analistas, es confuso.
Kate Knibbs de Wired dijo en un podcast :
"Si escribes algo sobre asma o tengo diabetes o básicamente si buscas algo relacionado con una enfermedad, es muy probable que todavía veas una descripción general de la IA. Quiero decir, no es para todos; todavía es alrededor del 63%. Y creo que depende".
Algunos médicos, como el Dr. Dariush Mozaffarian , dicen que las resúmenes de IA muestran algunos hechos correctos y los resumen en respuestas, pero no diferencian entre evidencia de estudios observacionales y ensayos aleatorios.
Se agrega otra capa de información errónea cuando la función confunde la información. Por ejemplo, “el té verde contiene antioxidantes y ayuda a prevenir el cáncer”. Si bien lo primero es cierto, lo segundo no ha sido probado clínicamente. Cuando dichas afirmaciones se enumeran juntas, dan la falsa impresión de que son creíbles.
Google tiene descripciones generales limitadas de IA
Las personas que observan la implementación de la IA recomiendan tener precaución al abordar los resultados de las investigaciones sobre IA relacionadas con la salud. Dicen que los usuarios deberían considerar la letra pequeña de algunas respuestas que dicen: "Esto es sólo para fines informativos". El informe del NYTimes señaló que la IA generativa se encuentra en la etapa experimental y los usuarios deben consultar a los médicos en cualquier condición grave.
En una declaración del 30 de mayo, Google dijo que había reducido el uso de resúmenes de IA en algunas categorías. Los datos de una empresa de SEO, Brightedge, confirman la posición de Google, sugiriendo que el recorte había comenzado incluso antes del anuncio de la empresa.
Otros informes también afirman que Google comenzó a revertir las descripciones generales de IA para ciertas categorías incluso antes de que los internautas comenzaran a burlarse de él por respuestas sin sentido. Sin embargo, se afirma que la categoría Salud sigue mostrando una gran cantidad de resúmenes de IA. Knibbs dice:
"Hablé con otros investigadores de SEO que descubrieron que la industria de la salud todavía estaba produciendo muchas resúmenes de IA".
Knibbs dice que probó algunas consultas relacionadas con la salud y encontró resultados diferentes a las pocas horas de intentarlo, lo que demuestra que Google está trabajando para mejorar los resultados. Ella dijo: “Está bien, lo están intentando. No sé si están haciendo un buen trabajo, pero definitivamente lo están intentando.
Informe criptopolitano de Aamir Sheikh