La Ley de IA de la Unión Europea para regular la inteligencia artificial está a punto de entrar en vigor, pero Italia ha aprobado un proyecto de ley que prevé algunas reglas aún más estrictas y, en parte, diferentes. Si se convirtiera en ley, ¿cómo se armonizarían? El análisis en profundidad de Laura Turini extraído del boletín Appunti di Stefano Feltri
Tras el voto positivo del Parlamento Europeo, el Consejo de la Unión Europea también aprobó el Reglamento sobre inteligencia artificial, lanzando el nuevo texto del 14 de mayo de 2024 que, sin embargo, cambia poco respecto al texto de marzo de este año.
Dentro de unos días se publicará en el Diario Oficial de la Unión Europea y entrará en vigor veinte días después de esa fecha, aunque de forma progresiva.
Las normas relativas a prácticas prohibidas entrarán en vigor a los seis meses, las relativas a la inteligencia artificial para fines generales, GPAI, General Purpose AI, a los doce meses, salvo que ya hayan sido comercializadas, en cuyo caso se aplicará el plazo general de veinticinco meses. cuatro meses, que rige con carácter general durante toda la Ley de AI (art. 113). Las normas relativas a los sistemas de inteligencia artificial destinados a ser utilizados como componentes de seguridad de alto riesgo entrarán en vigor al cabo de treinta y seis meses.
Habrá tiempo para adaptarse, pero no tanto. Además, las empresas que operan en este sector no podrán permitirse el lujo de no tener en cuenta la nueva legislación, con el riesgo de tener que cambiar de estrategia en unos meses.
La adaptación debe realizarse de inmediato y afecta a un gran grupo de operadores.
Le recordamos que el Reglamento se aplica a los proveedores de sistemas de inteligencia artificial que los desarrollen, o hagan que los desarrollen terceros, o los importen al territorio de la Unión, incluso si tienen su sede fuera de la Unión, pero también a los usuarios ( implementadores ) de dichos sistemas residentes en Europa, salvo que dicho uso se produzca con fines exclusivamente personales y ajenos a una actividad profesional.
Esto significa que las empresas, y ya hay muchas en Italia, que desarrollen nuevos programas o sistemas basados en sistemas de inteligencia artificial, incluso los ya existentes y consolidados, deberán implementar todas las acciones previstas por el Reglamento y asumir los costes y responsabilidades que no son pocos y varían según el tipo de sistema producido o adoptado.
Alto riesgo
La legislación distingue sistemas con riesgo inaceptable, que no pueden introducirse de ninguna manera en Europa, con riesgo alto o bajo, que son aquellos que no afectan a los derechos ni a la seguridad de los ciudadanos y que no están sujetos a obligaciones específicas.
Las prácticas prohibidas, que no están permitidas, incluyen sistemas que, a través de técnicas subliminales, manipulan el comportamiento humano, aquellas que explotan las vulnerabilidades o características de una persona para hacerla comportarse de una determinada manera y sistemas de puntuación social para clasificar a las personas en función de su comportamiento, nivel socio-social. situación económica y características personales.
El núcleo del Reglamento son los sistemas de alto riesgo, para los cuales se prevén obligaciones y procedimientos rigurosos.
Los sistemas de alto riesgo son aquellos que impactan la vida de las personas, como los sistemas de determinación de acceso a escuelas o de selección de personal, sistemas utilizados en la gestión de justicia, sistemas de identificación biométrica y muchos otros descritos en el art. 6 del Reglamento.
Cualquiera que produzca o utilice con fines profesionales estos sistemas debe adoptar un sistema de gestión de calidad documentado y ordenado, que consista en procedimientos e instrucciones para una estrategia de cumplimiento normativo, intervenciones para el control del diseño y la verificación de la calidad de los sistemas, incluidos exámenes, pruebas. y procedimientos de validación a realizar antes, durante y después del desarrollo del sistema de alto riesgo. También deberán contar con procedimientos para la gestión de datos, incluida la captura, recopilación, análisis, etiquetado, un sistema de gestión de riesgos, seguimiento y procedimientos para informar de un incidente grave.
El Reglamento se aplica a la inteligencia artificial en sentido amplio y no sólo a la inteligencia generativa como ChatGPT o Midjourney, sino a cualquier sistema automatizado diseñado para operar con niveles variables de autonomía, que pueda presentar adaptabilidad después de su despliegue y que, a partir de los inputs, recibe cómo generar salida.
El Reglamento es directamente aplicable y no requiere normas de aplicación.
Mientras tanto en Italia
En Italia, sin embargo, el 23 de abril el Consejo de Ministros aprobó un proyecto de ley (DDL) que pretendía anticipar la Ley de IA y que prevé normas aún más estrictas y, en parte, diferentes.
Por ejemplo, los menores de catorce años no podrán acceder a tecnologías de inteligencia artificial sin el consentimiento de quienes ejerzan la patria potestad y, en materia de información, y en general para los productos audiovisuales y radiofónicos, el art. 23 del proyecto de ley, establece que cualquier contenido que haya sido creado, o incluso simplemente modificado, con inteligencia artificial debe hacerse claramente visible y reconocible mediante la inserción de un signo, una marca de agua o una marca de tiempo que contenga el acrónimo “IA”.
En el sector sanitario se espera que el interesado esté informado sobre el uso de los sistemas de inteligencia artificial y las ventajas que ofrece para el diagnóstico y la terapia, así como "la lógica de toma de decisiones utilizada".
También en este sector el art. 8 establece que son tratamientos de datos, incluidos los datos personales, realizados sin ánimo de lucro con fines de investigación y experimentación científica para el desarrollo de sistemas de inteligencia artificial para la prevención, el diagnóstico y el tratamiento de enfermedades o el desarrollo de medicamentos. declarados “de interés público significativo” y, sin perjuicio de la obligación de información, “siempre se autoriza el uso secundario de datos personales sin elementos identificativos directos”.
Este artículo ha sido criticado y considerado estar en conflicto con el GDPR, pero el objetivo es fomentar el desarrollo de sistemas de inteligencia artificial que puedan mejorar la salud pública al hacer que los datos anónimos o anonimizados de los pacientes estén disponibles para la investigación. A tal efecto, se introducen garantías y el control por parte del Garante sobre la protección de datos personales no se ve afectado.
Se introduce un Observatorio sobre la adopción de sistemas de inteligencia artificial en el lugar de trabajo que también tiene como objetivo promover la formación de trabajadores y empresarios en inteligencia artificial.
Quienes ejercen profesiones intelectuales pueden utilizar sistemas de inteligencia artificial pero debe prevalecer el aporte humano y así lo deben declarar expresamente a sus clientes. Los jueces, en cambio, pueden utilizar la inteligencia artificial con fines organizativos y para realizar investigaciones, pero no para tomar decisiones que siempre deben depender de la persona física.
La estrategia nacional
El proyecto de ley también introduce una "estrategia nacional" para la inteligencia artificial que pretende mejorar la colaboración entre lo público y lo privado y también se prevén inversiones mediante la asunción de participaciones en el capital riesgo de pequeñas y medianas empresas, con sede en Italia, que operan en el sector de la inteligencia artificial, la ciberseguridad y la computación cuántica, utilizando el Fondo de Apoyo al Capital Riesgo o la suscripción de participaciones o acciones de fondos específicamente establecidos.
Sobre el controvertido tema de quién deberá asumir el papel de autoridad de control, la elección del Gobierno parece ser considerar a la Agencia para la Italia Digital (AgID) y a la Agencia Nacional de Ciberseguridad (ACN) como autoridades nacionales en materia de inteligencia artificial. Ambos organismos colaborarán para alcanzar los objetivos marcados por la legislación y, para ello, se ha creado un Comité de Coordinación en la Presidencia del Consejo de Ministros.
El arte. 18 se añade que las competencias del Garante para la protección de datos personales permanecen sin cambios, nos gustaría añadir "obviamente", relegándolo un poco a los márgenes de la gestión de la inteligencia artificial que está completamente centralizada.
Sobre el otro tema debatido, el de los derechos de autor, el Gobierno adopta una posición clara, considerando que las obras generadas por sistemas de inteligencia artificial sólo pueden protegerse si prevalece la contribución humana, mientras que en lo que respecta al uso de materiales protegidos para la formación, se reitera el principio de exclusión voluntaria, según el cual los derechos Los titulares que no deseen que sus obras sean utilizadas con este fin deberán declararlo expresamente.
No sabemos si el proyecto de ley se convertirá en ley y cuándo, mientras que en unos días tendremos un Reglamento directamente aplicable en nuestro país. Aunque el proyecto de ley tenga esto en cuenta, en caso de ser aprobado, quedará por evaluar cuidadosamente cuál será la elección política final y cómo se pueden armonizar las dos normas, en caso necesario.
Esta es una traducción automática de una publicación publicada en StartMag en la URL https://www.startmag.it/innovazione/in-cosa-differiscono-il-disegno-di-legge-sullia-dellitalia-e-lai-act-dellue/ el Sun, 26 May 2024 05:35:16 +0000.