La UNESCO ha expresado su preocupación de que la IA generativa pueda distorsionar la historia del Holocausto si los desarrolladores de la IA no aplican estándares éticos. En un informe publicado el lunes, UNICEF advirtió sobre el posible uso indebido de la inteligencia artificial generativa por parte de actores maliciosos.
Lea también: Los bancos centrales deben "subir la apuesta" en materia de inteligencia artificial, advierte el BIS
El informe de la UNESCO advierte que los malos actores podrían utilizar la tecnología para difundir desinformación, información errónea y contenido engañoso sobre el Holocausto.
Los jóvenes son vulnerables a la desinformación
El informe , publicado en colaboración con el Congreso Judío Mundial, advierte de que los jóvenes corren un mayor riesgo de recibir información sesgada debido a su alta exposición a tecnologías emergentes como la inteligencia artificial.
Esto se debe a que los informes también sugieren que el 80% de los jóvenes de entre 10 y 24 años utilizan la IA para diversas tareas, como las tareas escolares, lo que aumenta sus posibilidades de acceder a información sesgada.
“Si permitimos que los horribles hechos del Holocausto se diluyan, distorsionen o falsifiquen mediante el uso irresponsable de la inteligencia artificial, corremos el riesgo de que se propague explosivamente el antisemitismo y de que nuestra comprensión de las causas y consecuencias de estas atrocidades disminuya gradualmente. "
La directora general de la UNESCO, Audrey Azoulay.
El informe también destaca que la IA tiene una fuerte propensión a “simplificar demasiado la historia compleja, favoreciendo una gama estrecha de fuentes y una pequeña selección de eventos”. Por ejemplo, alrededor del 60-80% de los resultados de las imágenes principales de los motores de búsqueda de IA muestran solo un sitio del Holocausto, Auschwitz-Birkenau.
La UNESCO llama a actuar para hacer cumplir la ética
El informe sostiene que la IA puede perpetuar los sesgos existentes y que el Holocausto no se librará de estos sesgos de la IA. Según la UNESCO, ya existe una prevalencia de desinformación sobre el Holocausto, que puede empeorar debido al uso generativo de la inteligencia artificial.
Lea también: Meta AI se expande en India en medio de una creciente competencia en IA
Azoulay destacó la importancia de aplicar estándares éticos para proteger a los jóvenes de información distorsionada.
“Se necesita urgentemente la implementación de la Recomendación de la UNESCO sobre la ética de la IA para que las generaciones más jóvenes crezcan con hechos y no con invenciones”.
Azoulay.
El informe destaca que modelos de IA como ChatGPT de OpenAI y Bard de Google, ahora Gemini, han alucinado el Holocausto, detallando eventos que nunca sucedieron. Según la UNESCO, estos modelos “fabricaron el concepto del Holocausto a través de campañas de ahogamiento en las que los nazis ahogaron a judíos en ríos y lagos”.
Los modelos de IA también han creado citas falsas para respaldar estas narrativas distorsionadas. A la luz de estos incidentes, la UNESCO pidió un enfoque multilateral para abordar el desafío. Una de las soluciones es la rápida implementación de la Recomendación sobre ética de la IA adoptada por los Estados miembros en 2021.
La UNESCO también instó a las empresas de tecnología a respetar los principios de equidad, transparencia, derechos humanos y diligencia debida. Ocho empresas de tecnología firmaron un compromiso con el Director General de la UNESCO en febrero, comprometiéndose a aplicar un enfoque ético en el desarrollo de sus modelos de inteligencia artificial.
Informes criptopolíticos de Enacy Mapakame