El gigante del software Adobe ha sido sorprendido vendiendo imágenes generadas por IA de la guerra entre Israel y Hamás, como detectó por primera vez la agencia de noticias australiana Crikey , un caso impactante y moralmente reprobable de una empresa que se beneficia directamente de la difusión de información errónea en línea.
Una búsqueda rápida en el sitio web Adobe Stock de la compañía (un servicio que brinda a los clientes de suscripción acceso a una biblioteca de imágenes de archivo genéricas y ahora también tomas de IA) de “conflicto Israel-Palestina” conduce a imágenes fotorrealistas de explosiones en entornos urbanos de alta densidad que se parecen mucho a la carnicería de la vida real que se está desarrollando en Gaza.
ejemplos de imágenes generadas por IA en Adobe
Otra imagen muestra a “una madre y su hijo en una ciudad destruida en el conflicto entre Palestina e Israel”, una toma devastadora generada íntegramente por inteligencia artificial. Esta es una serie de 33 imágenes que muestran una composición similar.
Otro más muestra “edificios destruidos y quemados en la ciudad de Israel”.
Todas estas imágenes parecen haber sido enviadas por usuarios de Adobe Stock y aparentemente no fueron generadas por el propio Adobe, pero el hecho de que fueron cargadas sin la supervisión adecuada sigue siendo grave.
Sin embargo, aunque técnicamente están etiquetadas como "generadas por IA", un requisito para todo trabajo enviado por los usuarios, algunas de estas imágenes ya están circulando en otras partes de la web, como descubrió Crikey, y podrían fácilmente atraer el engaño de miembros desprevenidos del grupo. público.
Una simple búsqueda inversa de imágenes en Google lo confirma: varias publicaciones pequeñas han utilizado una imagen fotorrealista de IA de una gran explosión.
Los generadores de imágenes de IA como DALL-E, Stable Diffusion y Midjourney de OpenAI han logrado enormes avances tecnológicos en los últimos 12 meses. Atrás quedaron los días en que las imágenes generadas eran claramente poco realistas.
Como resultado, las imágenes generadas por IA están ganando una enorme visibilidad en línea. A principios de este año, Futurism descubrió que la imagen principal en Google con el nombre del famoso artista realista Edward Hopper era una IA falsa.
En lugar de entrar con cautela en el mundo de la IA generativa, Adobe ha optado por adoptar esta tecnología con entusiasmo.
El mes pasado causó un gran revuelo después de sacar de la versión beta su modelo de IA generativa llamado Firefly, convirtiéndolo en una parte integral y de fácil acceso de su ampliamente utilizado Photoshop. La compañía incluso ha agregado un nuevo esquema de bonificación anual para los contribuyentes de Adobe Stock, incentivándolos activamente a permitir que su trabajo se utilice para entrenar el modelo de inteligencia artificial de la compañía.
Pero este tipo de fervor no siempre beneficia a todos. Con la forma en que Adobe elige comercializar imágenes generadas por IA, la empresa también está socavando activamente el trabajo de los fotoperiodistas. En muchos sentidos, este es otro caso más en el que las tecnologías de IA amenazan con quitarles una gran cantidad de dinero a quienes tomaron las imágenes originales en las que se entrenaron los algoritmos de generación de imágenes de IA.
Es un ejemplo particularmente preocupante y éticamente cuestionable, considerando la enorme cantidad de peligros a los que se exponen los fotógrafos de guerra cuando documentan las duras realidades de los conflictos humanos.
Obviamente, el mayor problema ahora es que estas imágenes falsas pueden ser la base de narrativas falsas. Antes ya era difícil distinguir entre verdadero y falso, pero ahora, con imágenes realistas dibujadas por IA basadas en indicaciones de los clientes, se vuelve casi imposible, especialmente si las imágenes se presentan como representaciones de imágenes de noticias, y no como producto de la imaginación. .
Habrá que resolver muchos problemas.
Gracias a nuestro canal de Telegram podrás mantenerte actualizado sobre la publicación de nuevos artículos de Escenarios Económicos.
Artículo Adobe vende imágenes generadas por IA sobre la guerra entre Hamás e Israel. proviene de Escenarios Económicos .
Esta es una traducción automática de una publicación publicada en Scenari economici en la URL https://scenarieconomici.it/adobe-vende-immagini-generate-dalla-ai-sulla-guerra-fra-hamas-e-israele/ el Sun, 05 Nov 2023 11:58:49 +0000.