Meta comenzará a informar en Facebook, Instagram y Threads si una imagen se generó con IA. Google también hizo el mismo anuncio, pero luchar contra los deepfakes parece una misión imposible. Hechos y comentarios
¿Quién por un momento no creyó (o quiso creer, en algunos casos) que las fotos del Papa Francisco con un llamativo plumífero blanco o las de la detención de Donald Trump y Vladimir Putin eran ciertas? Con el rápido desarrollo de la inteligencia artificial (IA) y sus herramientas en los últimos meses, distinguir la realidad de la ficción es cada vez más difícil, especialmente en las redes sociales, el vehículo preferido para la circulación de deepfakes, es decir, fotos, vídeos y audio creados con software informático. Parece real.
Meta de Mark Zuckerberg anunció luego que, en los próximos meses, aparecerán etiquetas en Facebook, Instagram y Threads para indicar si una imagen fue generada con IA. El año pasado, Google también dijo que tomaría la misma medida para YouTube y sus otras plataformas.
Sin embargo, los expertos, aunque valoran la iniciativa, se muestran escépticos sobre su eficacia.
META Y LAS ETIQUETAS “MADE BY AI”
Mientras la línea entre realidad y ficción se vuelve cada vez más difusa en la red, Meta anunció ayer que las imágenes generadas con IA serán reconocibles en sus redes sociales gracias a una etiqueta donde se escribirá "made by AI". El objetivo es evitar crear confusión y difundir deepfakes entre los usuarios a través de Facebook, Instagram y Threads. Sin embargo, en cuanto a los contenidos que se pueden compartir en WhatsApp, aún no se sabe qué sucederá.
Los estándares técnicos con los que trabaja la empresa de Zuckerberg podrían extenderse también al vídeo y al audio creados con herramientas de IA, aunque en estos casos, según el presidente de asuntos globales de la empresa, Nick Clegg, "es más complicado" . Luego, Meta dijo que comenzará a pedir a los usuarios que etiqueten su contenido de audio y video de IA y aplicará sanciones no especificadas si no lo hacen. Clegg, sin embargo, recordó que, sin embargo, no existe un mecanismo válido para etiquetar el texto escrito generado por herramientas como ChatGpt.
La ambiciosa intención de Meta, que ya etiqueta cualquier contenido generado con sus propias herramientas de inteligencia artificial, es ampliar la monitorización a imágenes generadas por los servicios de IA de otras empresas, como OpenAI, Microsoft, Adobe, Midjourney, Shutterstock y Google. Y aquí es donde muchos expertos se muestran escépticos.
PORQUE SERÁ DIFÍCIL LUCHAR CONTRA LOS DEEPFAKES
En una época en la que generar contenidos falsos es muy fácil, gracias al software elemental de IA, intentar contener un río embravecido parece muy difícil. Además, 2024 es un año electoral y si las elecciones presidenciales estadounidenses de 2020, seguidas del asalto al Capitolio, fueron solo una muestra del peso que tuvieron las redes sociales para influir o desinformar a las personas, sólo es imaginable lo que podría suceder con las herramientas actuales. y los gigantescos avances logrados en muy poco tiempo por la IA. “Espero un tsunami de desinformación”, afirmó Oren Etzioni, experto en inteligencia artificial y profesor emérito de la Universidad de Washington. “No puedo probarlo. Espero que se demuestre que estoy equivocado. Pero los ingredientes están ahí y estoy completamente aterrorizado".
Luego están también los riesgos para la privacidad y las relaciones con el individuo, como en el caso de las imágenes pornográficas deepfake de Taylor Swift que han circulado por Internet y que se cree que han sido generadas por modelos de difusión como Stable Diffusion, Midjourney o Dall- E, pero cuyo origen no se intentó determinar entonces.
Aunque recibidas con entusiasmo, la noticia de Meta no hace que uno se sienta del todo tranquilo. Como dijo Gili Vidan de la Universidad de Cornell, el sistema puede ser "bastante efectivo" para señalar gran parte del contenido generado por IA creado con herramientas comerciales, pero probablemente no lo captará todo. Incluso para los consumidores, escribe Quartz , una posible preocupación es que las plataformas tecnológicas sean mejores a la hora de identificar el contenido generado por IA de una serie de importantes proveedores comerciales, pero no logren identificar el contenido producido con otras herramientas.
Esta es una traducción automática de una publicación publicada en StartMag en la URL https://www.startmag.it/innovazione/letichetta-made-by-ia-di-meta-riuscira-ad-arginare-il-mare-magnum-di-deepfake/ el Wed, 07 Feb 2024 10:20:33 +0000.