El Instituto de Seguridad de IA de EE. UU., dependiente del Departamento de Comercio, ha anunciado cinco nuevos miembros para su equipo de liderazgo. Entre los cinco nuevos miembros hay uno que predijo que hay un 50% de posibilidades de que el desarrollo de la inteligencia artificial acabe comprometiendo a la humanidad. Pero esta no es su única presentación; Hay algunas innovaciones muy importantes en su haber.
Nuevos miembros del equipo de seguridad de IA
Durante mucho tiempo se ha debatido si la inteligencia artificial se convertirá en una amenaza existencial para los humanos, pero muchos expertos sostienen que es exagerada y exagerada, y que este tipo de predicción podría obstaculizar el progreso en este campo. La tarea del nuevo equipo es fomentar el desarrollo para que la inteligencia artificial sea beneficiosa para las personas, en contra de esta percepción de daño según el Instituto Nacional de Estándares y Tecnología (NIST).
La directora del NIST y subsecretaria de Comercio para Estándares y Tecnología, Laurie E. Locascio, dijo:
“Me complace mucho dar la bienvenida a estos talentosos expertos al equipo de liderazgo del Instituto de Seguridad de IA de EE. UU. para ayudar a establecer la ciencia de medición que respaldará el desarrollo de una inteligencia artificial segura y confiable. Cada uno de ellos aporta experiencias únicas que ayudarán al instituto a construir una base sólida para la seguridad de la IA en el futuro”.
Entre los nuevos miembros se encuentra Adam Russell, director de visión, quien también es director de la división de IA del Instituto de Ciencias de la Información de la Universidad de California. El asesor principal será el profesor Rob Reich, nativo de Stanford, que trabaja como director asociado del Instituto de IA centrada en el ser humano y también es un experto en ciencias políticas.
Mara Quintero Campbell es nombrada directora de operaciones y jefa de personal. Actualmente trabaja en la Administración de Desarrollo Económico del Comercio como subdirector de operaciones. Mark Latonero liderará el esfuerzo internacional, proviene de la Oficina de Política Científica y Tecnológica de la Casa Blanca y trabaja como subdirector de la Oficina de Iniciativa Nacional de IA.
La inteligencia artificial está a bordo, pero hay más
El nuevo miembro llamado AI Doomer no es otro que Paul Christiano. Es designado jefe de seguridad de IA del equipo. Es un ex investigador de OpenAI y fundador del Alignment Research Center. También es el inventor de una técnica de seguridad clave basada en IA conocida como aprendizaje por refuerzo, que incorpora retroalimentación humana. Obtuvo su etiqueta de arruinador de la IA después de que le preguntaran en un podcast sobre la posibilidad de que las ambiciones de la IA humana terminaran en la ruina, tras lo cual mostró cierta preocupación por que la humanidad estuviera condenada al fracaso, dijo.
"Creo que hay entre un 10% y un 20% de posibilidades de que la IA tome el control y la mayoría de los humanos mueran, lo tomo muy en serio".
Él también dijo,
"En general, tal vez tenga un 50/50 más de posibilidades de arruinarse inmediatamente después de obtener sistemas de inteligencia artificial a nivel humano".
Fuente: Podcast no bancarizado.
Christiano expresó estos pensamientos en el podcast Bankless con los presentadores David Hoffman y Ryan Sean Adams, pero insiste en que sus puntos de vista no son tan extremos como los del famoso experto en inteligencia artificial, Eliezer Yudkowsky, lo que sugiere un escenario completamente negativo.
La secretaria de Comercio de Estados Unidos, Gina Raimondo, también dijo que para salvaguardar el liderazgo global en materia de IA responsable y garantizar la seguridad de la IA y mitigar los riesgos asociados a ella, necesitamos los mejores talentos del país, razón por la cual se trata de personas seleccionadas, que son las mejores en sus campos para unirse ahora al equipo de liderazgo ejecutivo del AI Safety Institute de Estados Unidos.
El comunicado de prensa del Departamento de Comercio de EE. UU. se puede encontrar aquí .