La neurotecnología, una controvertida aplicación de la inteligencia artificial, se está convirtiendo cada vez más en un punto central de las discusiones sobre privacidad y derechos humanos.
A medida que los avances tecnológicos en el campo avanzan rápidamente, las Naciones Unidas (ONU) se han hecho eco de los llamados a favor de un marco ético para salvaguardar las libertades individuales.
Neurotecnologías: cuestiones éticas
En términos generales, la neurotecnología no es un concepto nuevo. Los ingenieros han desarrollado durante mucho tiempo tecnologías para escanear, reparar y mejorar el cerebro humano y el sistema nervioso.
Sin embargo, el campo ha visto una explosión reciente de poderosos modelos de aprendizaje automático e inteligencia artificial, impulsando la neurotecnología hacia áreas éticamente controvertidas.
Para abordar estos desafíos, las Naciones Unidas organizaron la Conferencia Internacional sobre la Ética de la Neurotecnología en París. El evento reunió a responsables políticos, especialistas en IA, grupos cívicos y empresas privadas, lo que provocó un debate sobre las cuestiones éticas que rodean a la neurotecnología.
Antes de la conferencia, Audrey Azoulay, directora general de la UNESCO, compartió sus temores.
“La neurotecnología podría ayudar a resolver muchos problemas de salud, pero también podría acceder y manipular el cerebro de las personas, produciendo información sobre nuestras identidades y nuestras emociones. Podría amenazar nuestros derechos a la dignidad humana, la libertad de pensamiento y la privacidad. Hay una necesidad urgente de establecer un marco ético común a nivel internacional, como lo hizo la UNESCO para la inteligencia artificial”, dijo Azoulay.
Los reguladores de todo el mundo se esfuerzan por crear reglas para la industria de la IA. Empresas de alto perfil como OpenAI incluso han comenzado a resistirse a la regulación de la IA . A medida que la tecnología se vuelve más íntima, más desacuerdos parecen casi inevitables.
Es más que chips cerebrales
Sin embargo, Gabriela Ramos, Directora General Adjunta de Ciencias Sociales y Humanidades de la UNESCO, destacó durante la conferencia que la neurotecnología no se trata solo de tecnologías tempranas que aparecen en los titulares.
“Estamos en el camino hacia un mundo donde los algoritmos nos permitirán decodificar los procesos de pensamiento de las personas y manipular directamente los mecanismos cerebrales que subyacen a sus intenciones, emociones y decisiones”, dijo Ramos.
La imagen pública de la neurotecnología a menudo está dominada por proyectos ambiciosos como Neuralink de Elon Musk y su interfaz cerebro-computadora. Sin embargo, ya se encuentran entre nosotros aplicaciones más discretas de la neurotecnología que pueden interpretar y manipular pensamientos sin intervención física .
“Cuando agregas inteligencia artificial, estás poniendo neurotecnología en esteroides”, dijo Mariagrazia Squicciarini, autora principal de un informe de la Unesco.
Los investigadores de IA están desarrollando nuevas tecnologías con intenciones predominantemente beneficiosas. Un grupo de investigación, por ejemplo, usó inteligencia artificial para interpretar lo que escuchaba un sujeto en función de las señales eléctricas en su cerebro.
Sin embargo, los investigadores advirtieron que los desarrollos futuros podrían permitir que tales tecnologías eviten la necesidad de cooperación voluntaria.
tecnología de control mental
Curiosamente, la neurotecnología de lectura mental antes mencionada utiliza herramientas de inteligencia artificial ampliamente accesibles. El equipo de investigación construyó su modelo utilizando GPT-1 de OpenAI , un precursor de GPT-4, que impulsa el popular chatbot ChatGPT.
También utilizaron varios algoritmos disponibles gratuitamente en línea, entrenando su modelo con conjuntos de datos que incluían oraciones de Reddit y transcripciones de podcasts del New York Times.
Tales avances subrayan que los problemas de privacidad relacionados con la IA no son especulaciones futuras, sino preocupaciones urgentes que requieren atención inmediata.
OpenAI, por ejemplo, se enfrenta a una demanda colectiva por presuntamente recopilar datos personales sin consentimiento. Muchas de las principales empresas de redes sociales han sido acusadas de manejar mal los datos de los usuarios para entrenar sus modelos de IA.
Los casos en los que se utiliza la inteligencia artificial para leer y manipular a las personas sin consentimiento informado ya son una realidad. Abordar estas preocupaciones requerirá pautas éticas sólidas y medidas regulatorias proactivas.
La publicación La manipulación de las señales cerebrales por parte de la IA está avanzando demasiado rápido, las advertencias de la UNESCO aparecieron por primera vez en BeInCrypto .