Un artículo del Washington Post se queja de los estereotipos producidos por los generadores de imágenes de IA, pero el problema es la realidad, no la ficción. Nota diplomática de James Hansen
El Washington Post es un importante periódico estadounidense que, en un reciente y detallado informe sobre el impacto de la Inteligencia Artificial en la comunicación visual, alertó sobre el riesgo de que los generadores de imágenes de IA pudieran reforzar los estereotipos raciales y étnicos ya existentes al estar demasiado influenciados inicialmente. por fotografías "reales" recopiladas en línea.
De hecho, los periodistas se quejan de que, a falta de indicaciones explícitas en contrario, las fotografías generadas a pedido por estos programas tienden a presentar demasiadas imágenes de "líderes mundiales" masculinos, "europeos" cosmopolitas y "prisioneros" negros. Serían estereotipos que, según los autores del artículo , "no reflejan el mundo real" , "no reflejan el mundo real".
Parece claro, sin embargo, que el verdadero problema tiene que ver con el hecho de que las fotografías con IA reproducen demasiado bien lo "real". Hasta la fecha, está claro que los líderes mundiales son en realidad una mayoría sustancial de hombres, así como que los negros -especialmente en los Estados Unidos- están sobrerrepresentados entre la población carcelaria. En lo que respecta a los europeos, no es nada descabellado suponer que el europeo medio sabe más sobre las costumbres de otros países que el americano "típico".
En lugar del "mundo real", a los editores del periódico les hubiera gustado que las imágenes generadas por las máquinas representaran el mundo tal como ellos pensaban que debería ser… Sin embargo, el artículo demuestra de manera convincente cómo la "artificialidad" de la inteligencia artificial también depende en el hecho de que –si no están debidamente instruidos por los humanos– estos sistemas no saben mentir. Si realmente necesitan ser útiles, es necesario que se les enseñe a contar mentiras…
Además, cabe recordar que la investigación del Post se llevó a cabo gracias a la cuidadosa colaboración de un equipo de siete periodistas ciertamente expertos. Si pensaron en escribir que los líderes masculinos no son característicos del "mundo real", debe haber una razón. De hecho, es un ejemplo de "pensamiento mágico", es decir, el intento de hacer que algo se convierta en verdad simplemente declarándolo enfáticamente, incluso cuando la realidad objetiva está ahí para que todos la vean.
En sí mismo no hay nada nuevo hasta el momento, sin embargo, la facilidad moderna de la comunicación "instantánea y universal" ha abierto la puerta a todos y a todo. Ha provocado debates públicos tremendos y espectacularmente vulgares (al menos según los estándares del pasado) sobre temas como el género trans, debates que llevan el tema de los genitales a la televisión y a las columnas de los periódicos a diario.
Y pensar que alguna vez nos limitamos a discutir el 'sexo de los ángeles', expresión que debería remontarse al período bizantino cuando, durante el sitio de Constantinopla, los teólogos ortodoxos permanecían cerrados a debatir el tema incluso mientras los turcos estaban a punto de conquistar su ciudad y poner fin al Imperio Romano de Oriente.
Esta es una traducción automática de una publicación publicada en StartMag en la URL https://www.startmag.it/mondo/lintelligenza-artificiale-non-e-razzista-o-discriminante-riflette-la-triste-realta/ el Sun, 26 Nov 2023 06:28:44 +0000.