El gobierno del Reino Unido ha anunciado planes para abrir la primera oficina en el extranjero de su Instituto de Seguridad de IA en Estados Unidos este verano.
Lea también: El papel del acuerdo de seguridad de IA entre el Reino Unido y Estados Unidos en la evolución tecnológica
En un comunicado publicado el lunes , la secretaria británica de ciencia y tecnología, Michelle Donelan, dijo que la nueva oficina estadounidense estaría ubicada en San Francisco. La ciudad alberga algunas de las empresas de inteligencia artificial más grandes, incluidas OpenAI, Anthropic e Inflection AI.
El Reino Unido busca fortalecer la asociación con los EE. UU. en materia de seguridad de la IA
La oficina con sede en Estados Unidos buscará contratar un equipo de personal técnico dirigido por un director de investigación cuando comience a operar a finales de este año. La sede del Instituto en Londres cuenta actualmente con un equipo de más de 30 técnicos.
El Secretario de Tecnología dijo que la expansión del Instituto representa el liderazgo británico en inteligencia artificial y establecerá una estrecha colaboración con el Gobierno de Estados Unidos.
Este es un momento crucial para la capacidad del Reino Unido de estudiar tanto los riesgos como el potencial de la IA desde una perspectiva global, fortaleciendo nuestra asociación con los EE. UU. y allanando el camino para que otros países aprovechen nuestra experiencia mientras continuamos liderando el mundo en inteligencia artificial. inteligencia. seguridad.
Michelle Donelan, Secretaria de Ciencia y Tecnología del Reino Unido.
Donelan dice que el instituto ha crecido "fuerza en fuerza"
El gobierno del Reino Unido introdujo el Instituto de Seguridad de la IA en noviembre de 2023. Dijo que el objetivo era “minimizar las sorpresas para el Reino Unido y la humanidad que surjan de los avances rápidos e inesperados en la inteligencia artificial”.
Lea también: El gobierno del Reino Unido anuncia la creación del Instituto de Seguridad de IA
El Instituto se centra principalmente en evaluar sistemas de IA "fronterizos" desde una perspectiva de seguridad nacional. Con esta medida, el gobierno del Reino Unido dijo que podrá desarrollar políticas y respuestas regulatorias efectivas para las aplicaciones de IA implementadas en su jurisdicción.
Desde que el Primer Ministro y yo fundamos el AI Safety Institute, ha ido creciendo cada vez más en poco más de un año.
Michelle Donelan, Secretaria de Ciencia y Tecnología del Reino Unido.
El Instituto publica los resultados de sus pruebas modelo
Según se informa, el Instituto de Seguridad de IA del Reino Unido es la primera organización respaldada por el gobierno que publica los resultados de las pruebas de seguridad de sus modelos de IA. El Instituto probó cinco modelos de lenguaje grandes disponibles públicamente, aunque no especifica sus nombres.
La seguridad de la IA es todavía un campo muy joven y emergente. […] Nuestra ambición es seguir ampliando los límites de este campo mediante el desarrollo de evaluaciones de vanguardia, con un enfoque particular en los riesgos de seguridad nacional.
Ian Hogarth, presidente del Instituto de Seguridad de IA del Reino Unido.
Dijo que varios modelos han complementado sus desafíos de ciberseguridad. Sin embargo, todos han demostrado ser muy vulnerables a los jailbreak básicos. Algunos modelos han producido resultados perjudiciales incluso cuando no ha habido intentos deliberados de eludir las salvaguardias.
Informes criptopolíticos de Ibiam Wayas