Con inteligencia artificial es más fácil crear contenidos plausibles que puedan interferir con la democracia. Pero si los gobiernos aprovechan este miedo generalizado para imponer control sobre la información, el riesgo es que conduzca a la censura. El análisis en profundidad de la abogada Laura Turini para el boletín Appunti di Stefano Feltri
El portal de información de Buckeye State Press realmente existe, aunque actualmente se requiere una contraseña para ingresar al sitio. Se trata de una especie de periódico que informa las noticias más actualizadas de Ohio, como lo indica su subtítulo, creado por el periodista estadounidense Jack Brewster, quien en un artículo publicado en el Wall Street Journal , cuenta cómo con 105 dólares, y En sólo dos días logró poner en línea un verdadero periódico, capaz de publicar miles de noticias al día, gracias a la ayuda de un desarrollador independiente.
Todo es normal, se podría decir, pero no.
La característica de este sitio es que está basado en un sistema de inteligencia artificial que genera noticias falsas e inventadas, de forma automática, en un lenguaje y estilo al que los ciudadanos de Ohio están acostumbrados, en base a las indicaciones dadas por el desarrollador.
Así que Jack Brewster se aseguró de que, inicialmente, el sitio ofreciera noticias políticas falsas a favor del retador republicano Bernie Moreno y, más tarde, otras tantas noticias falsas a favor del demócrata Sherrod Brown.
Brewster quería realizar un experimento para demostrar con hechos que la información, o mejor dicho, la desinformación, se puede crear muy fácilmente, con poco esfuerzo y poca inversión, arrojando luz sobre uno de los aspectos más críticos de la inteligencia artificial, especialmente en un período de elecciones importantes como el que estamos atravesando.
Según The Global Risks Report 2024 del Foro Económico Mundial , la desinformación, incrementada por la creación de noticias artificiales de alta calidad generadas por inteligencia artificial, puede alterar considerablemente los procesos electorales en los próximos dos años, tanto por la pérdida de confianza de los lectores. en noticias cuya fiabilidad no se puede establecer, tanto debido a las actividades de control como de represión por parte de los gobiernos, con el objetivo de limitar la proliferación de noticias artificiales.
La desinformación y la desinformación, o la producción de noticias falsas sin intención, se encuentran por primera vez entre los diez principales factores de riesgo para el desarrollo social y económico.
El hecho de que existan sistemas informáticos que permitan crear, en poco tiempo y a bajo coste, informaciones ricas en datos sintéticos, orientadas y destinadas a orientar las decisiones políticas, sociales y económicas de las personas, podría tener un impacto decisivo en la inminente futuro.
Incluso si muchas regulaciones, como la ley china y la esperada Ley europea sobre IA, intervienen para hacer identificables las noticias creadas artificialmente, con sellos o palabras dedicadas, según el Informe, estas intervenciones podrían ser insuficientes y llegar demasiado tarde, cuando el daño ya está hecho.
En dos años, la comercialización de información alterada podría tener un efecto distorsionador muy grave, con repercusiones también en la economía, que serían difíciles de remediar.
A estas predicciones, que ya no son muy tranquilizadoras, el Informe añade otra preocupación no menos grave, a saber, el hecho de que los gobiernos podrían aprovechar este miedo generalizado para imponer un control sobre la información hasta rozar la censura y frenar sobre la libre expresión del pensamiento.
Ya hemos vivido una situación similar tras el derrumbe de las Torres Gemelas, cuando con el objetivo de emprender una lucha contra el terrorismo se levantaron barricadas con controles generalizados e indiscriminados sobre todo y sobre todos, en detrimento de la libertad de los ciudadanos.
Las amenazas son a menudo una buena excusa para reducir el libre ejercicio de derechos fundamentales que han sido duramente conquistados a lo largo de los siglos.
Falsedad hecha a medida
Otro aspecto especialmente grave de esta manipulación se observa también en la personalización de las noticias, no sólo a través de canales informativos sino también a través de las redes sociales, que ofrecen información dirigida a determinados grupos de personas con el objetivo de fortalecer sus creencias.
Esta tendencia se considera muy grave no sólo a nivel político, sino también a nivel social, porque corre el riesgo de crear grupos distintos de personas que comparten y alimentan una visión del mundo autónoma y distante de la de otros grupos, al detrimento del crecimiento cultural y del conocimiento científico colectivo.
Como afirma el Informe, “las sociedades podrían polarizarse no sólo en sus afiliaciones políticas, sino también en sus percepciones de la realidad, lo que plantea un grave desafío a la cohesión social e incluso a la salud mental”.
La represión no parece ser la mejor solución ya que, según el Informe, la introducción de normas autoritarias podría crear un círculo vicioso, considerando que "el riesgo de desinformación se transforma rápidamente en un control generalizado de la información que, a su vez, vuelve a los ciudadanos vulnerables a represión política y desinformación a nivel nacional."
La relación entre la desinformación, la censura y la vigilancia y la erosión de los derechos humanos es una mezcla explosiva a la que se debe prestar especial atención.
Los periodistas son mejores.
Una forma de avanzar podría ser fomentar el periodismo real, el periodismo humano y el periodismo de investigación, pero las perspectivas, incluso a este nivel, no son halagüeñas.
En los últimos años, ante el considerable crecimiento de los GAFAM (Google, Amazon, Facebook/Meta, Apple, Microsoft), un tercio de los periódicos y dos tercios de los periodistas se han perdido en Estados Unidos.
Las inversiones en publicidad se han dirigido a empresas tecnológicas y los periódicos tienen cada vez menos ingresos con los que contar.
Sin embargo, hay quienes todavía confían en que las inversiones puedan volver al periodismo de calidad, ya que la inteligencia artificial no puede percibir las emociones de las personas, no puede participar en manifestaciones, juicios y todos los acontecimientos de la vida política y social, como a menudo no lo hacen. tener acceso a lo que sucede a nivel local.
Dado que los sistemas de inteligencia artificial se entrenan a partir de datos, y parece que muchos de ellos son artículos periodísticos, si no se genera información de calidad los perdedores no sólo serían los ciudadanos sino los propios sistemas informáticos.
Una especie de círculo vicioso, en el que el periodismo es importante no por su función social sino para alimentar la máquina que lo está devorando.
Sin embargo, quisiera terminar con la esperanza de que pueda haber un movimiento de redención hacia la manipulación, que impulse a cada uno de nosotros a informarnos seriamente y a los periodistas a investigar y transmitir sus conocimientos con aún mayor pasión.
Esta es una traducción automática de una publicación publicada en StartMag en la URL https://www.startmag.it/innovazione/i-diritti-fondamentali-alla-prova-dellintelligenza-artificiale/ el Sun, 26 May 2024 05:12:01 +0000.