Ahora que Sam Altman ha regresado, queda un misterio: ¿por qué fue realmente despedido el viernes 17 de noviembre? ¿Fue simplemente un día desfavorable? ¿Se ha vuelto loca la junta directiva? Esta decisión repentina y arriesgada también podría girar en torno a una noticia de Reuters que sugiere una conexión con un descubrimiento en el campo de la inteligencia artificial general (AGI), que podría amenazar a la humanidad.
En los días previos a que Altman fuera enviado al exilio, varios investigadores del personal escribieron una carta a la junta sobre un avance significativo, llamado Q* y pronunciado Q-Star, que permitió al modelo de IA “superar a los humanos en los aspectos más rentables”. tareas.”importantes.”
Fuentes de Reuters dijeron que el hito de la IA fue uno de los factores importantes que llevaron al repentino despido de Altman por parte de la junta el viernes pasado. La preocupación estaba vinculada a la comercialización de un modelo avanzado de inteligencia artificial sin comprender las consecuencias socioeconómicas que serían potencialmente enormes.
Además, antes de que Altman fuera despedido, podría haberse referido a Q* en la Cooperación Económica Asia-Pacífico en San Francisco: “Cuatro veces en la historia de OpenAI (la última vez fue apenas en las últimas dos semanas) logré ser en la sala, cuando en cierto modo hacemos retroceder el velo de la ignorancia y la frontera del descubrimiento”, dijo Altman.
Este paso adelante habría desencadenado un conflicto interno dentro de OpenAI, que tiene sus raíces en una batalla ideológica entre quienes presionan por un rápido progreso en IA y quienes apoyan un enfoque de desarrollo más lento y responsable.
Reuters habló con un portavoz de OpenAI que confirmó la existencia del proyecto Q* y la carta a la junta antes del despido de Altman.
Entonces, ¿por qué Q* cambia las reglas del juego? Como explica el blog de tecnología 9to5Mac:
Actualmente, si le pides a ChatGPT que resuelva un problema matemático, seguirá utilizando su enfoque predictivo de texto con esteroides para compilar una respuesta utilizando una enorme base de datos de texto y decidir palabra por palabra cómo respondería un humano. Esto significa que puede o no dar la respuesta correcta, pero en cualquier caso no tiene competencia matemática, simplemente buscará la respuesta en alguna parte.
OpenAI parece haber dado un paso adelante en este ámbito, permitiendo con éxito que un modelo de inteligencia artificial resuelva problemas matemáticos nunca antes vistos y, por tanto, no almacenados en alguna base de datos. Este desarrollo se conoce como Q*. Desafortunadamente, el equipo no usó un patrón de nombres lo suficientemente inteligente como para evitar algo que parezca un puntero a una nota al pie, así que usaré la versión Q-Star.
Se dice que la habilidad matemática actual de Q-Star es la de un estudiante de escuela primaria, pero se espera que esta habilidad mejore rápidamente.
Este desarrollo tecnológico podría ser uno de los primeros signos de la inminente comercialización de AGI, una forma de inteligencia artificial capaz de superar a los humanos.
AGI tiene el potencial de superar a los humanos en todos los campos, incluida la creatividad, la resolución de problemas, la toma de decisiones, la comprensión del lenguaje, etc., lo que genera preocupación sobre un desplazamiento masivo de empleos. Un informe reciente de Goldman destaca que podrían producirse 300 millones de despidos en el mundo occidental debido a la inteligencia artificial.
El avance de Q* y el rápido avance de esta tecnología ahora explican por qué la junta despidió repentinamente a Altman por su prisa por desarrollar esta tecnología sin estudiar el impacto del modelo sobre cómo amenaza a la humanidad.
Altman dijo recientemente: “ Creo que esta es definitivamente la actualización más importante para la gente hasta ahora. Y tal vez el más grande que tengamos porque de ahora en adelante, la gente aceptará que la IA es poderosa, sucederá y habrá actualizaciones incrementales… fue como el año en que salió el primer iPhone, y luego ahí. Fueron todos los siguientes ”.
Según un informe de Reuters, el avance secreto de OpenAI llamado Q* (pronunciado Q-Star) precipitó el derrocamiento de Sam Altman.
Antes del despido de Sam, los investigadores enviaron a la junta una carta advirtiendo sobre un nuevo descubrimiento de IA que podría "amenazar a la humanidad". pic.twitter.com/F9bAeJG0fX
– Rowan Cheung (@rowancheung) 23 de noviembre de 2023
Mientras tanto, Musk, que advirtió sobre la inteligencia artificial que amenaza a la humanidad, calificó el informe de Reuters de “extremadamente preocupante”.
¡Extremadamente preocupante! https://t.co/Ru2FU2tOFG
– Elon Musk (@elonmusk) 23 de noviembre de 2023
Gracias a nuestro canal de Telegram podrás mantenerte actualizado sobre la publicación de nuevos artículos de Escenarios Económicos.
El artículo ¿Fue despedido Sam Altman de OpenAI porque la IA se ha vuelto demasiado peligrosa? El proyecto Q* surge de Escenarios Económicos .
Esta es una traducción automática de una publicación publicada en Scenari economici en la URL https://scenarieconomici.it/sam-altman-era-stato-licenziato-perche-la-ai-e-diventata-troppo-pericolosa/ el Fri, 24 Nov 2023 10:00:42 +0000.