En un Espacio de Twitter realizado el viernes 14 de julio, Elon Musk y el equipo de xAI respondieron muchas de las preguntas que habían surgido tras el anuncio de una iniciativa más del emprendedor. Aquí hay algunos puntos que nos parecieron originales y de absoluto interés.
Instalaciones
Como sabemos, está en marcha una fiebre del oro : la de la Inteligencia Artificial , donde el objetivo -declarado por unos y mantenido oculto por otros- es lograr AGI, General Artificial Intelligence .
En otras palabras, la “ representación de capacidades cognitivas humanas generalizadas en software para que, ante una tarea desconocida, el sistema AGI pueda encontrar una solución ”. Por lo tanto, la intención de un sistema AGI es realizar cualquier tarea de la que un ser humano sea capaz.
Los Twitter Spaces son en cambio el clon de Clubhouse creado por Twitter 1.0 (pre-Musk) y podríamos describirlos como una emisión de radio en la que los oyentes pueden pedir la palabra (alzando su mano virtual) y que luego se convierten en un podcast . Cualquiera que desee escuchar la versión original del evento puede hacer clic aquí . Para otros, lo nuestro es un breve "resumen".
Una IA curiosa por la verdad
Comencemos diciendo que el equipo fundador de xAI estuvo presente al completo en el evento. Este es un equipo impresionante con un historial muy impresionante. Origen Deep Mind , OpenAI , Google , Tesla .
Para empezar, Elon Musk dijo que el objetivo con xAI es construir una AGI (Inteligencia General Artificial) con el propósito de comprender el universo . Musk dijo que la forma más segura de hacer esto es construir un AGI que sea " máximamente curioso " y " curioso por la verdad" y tratar de minimizar el delta entre lo que creemos que es cierto y lo que es realmente cierto.
Este es un punto esencial, considerando que prácticamente todos los modelos en uso hoy en día (empezando por ChatGPT ) son en cambio " políticamente correctos " (debido a intervenciones humanas "correctivas").
Por ejemplo, intente preguntarle a ChatGPT “ ¿es más fácil fotografiar a una novia con un vestido blanco con una tez blanca o negra a pleno sol? La respuesta obtenida es falsa , pero moralmente aceptable para todos (" un desafío tanto para una tez blanca como para una negra ").
La respuesta correcta -y nada racista- sería "es más difícil fotografiar a una novia negra, ya que el contraste muy fuerte entre el color del vestido y el de las facciones requiere un flash fuerte, y/o un sensor con un gran rango dinámico, esa característica que en los días de lo analógico se llamaba latitud de exposición” .
Bueno, la IA de Musk probablemente tendrá el coraje de explicárnoslo, también porque como dijo el empresario " una IA que no dice la verdad no es muy útil ". Pero volvamos al evento del viernes.
La humanidad es interesante
La consecuencia interesante es que para una superinteligencia que busca la verdad, la humanidad es mucho más interesante que la no humanidad. Por ejemplo, tan interesante como es explorar y comprender Marte, comprender la naturaleza humana sigue siendo un tema mucho más fascinante.
También porque – dijo Musk – hay tantas cosas que creemos que entendemos, pero en realidad no entendemos. Hay muchas preguntas sin respuesta . Por ejemplo, hay muchas preguntas abiertas sobre la naturaleza de la gravedad y por qué no hay evidencia masiva de que existan extraterrestres.
La paradoja de Fermi
También se aventuró en la paradoja de Fermi que, con suerte, podría ser resuelta por xAI . Recordemos que la paradoja de Fermi es el contraste entre la afirmación, compartida por muchos y sustentada en las estimaciones de Drake, de que no estamos solos en el universo y los datos observados, que contradirían esta hipótesis.
De ello se deduce que: o la intuición y las estimaciones como las de Drake están equivocadas, o nuestra observación y comprensión de los datos es incompleta. Pero “si haces preguntas técnicas sobre la IA avanzada de hoy en día, simplemente obtienes tonterías ”, dijo.
Por lo tanto, Musk cree que, de hecho, nos estamos equivocando en muchos órdenes de magnitud y que debemos mejorar.
Poder computacional
La unidad de medida utilizada para describir la infraestructura recién comprada para xAI es interesante. Como recordamos, en la prensa se hablaba de 10.000 GPU ( nVidia ). Pero Elon dijo que tuvo que adquirir hardware " por varios gigavatios" , mientras que " es de conocimiento común que un cerebro humano a menudo más inteligente (que la IA) consume solo 10 vatios ".
En cualquier caso, al principio este enfoque de fuerza bruta (resolver un problema con computadoras gigantes) es necesario, pero en su opinión será cada vez menos útil y efectivo con el tiempo.
La experiencia de Tesla (el famoso coche eléctrico autónomo) ha demostrado, en efecto, que problemas que parecen insolubles, y que aparentemente requieren enormes potencias informáticas, se han resuelto de una forma muy sencilla (“¿ eso es todo? ”), cambiando totalmente el planteamiento (y para los más curiosos: no, "no podía" aportar otros detalles). “ Probablemente también lo averiguaremos con el AGI. Una vez que se resuelva AGI, miraremos hacia atrás y pensaremos, ¿por qué pensamos que esto sería tan difícil? ”
En todo caso, en el espacio se decía que nada puede presumir el nombre de AGI si no ha resuelto de manera independiente al menos “ una cuestión fundamental ” (imaginemos entre la física y la filosofía).
Competencia con OpenAI
Todo fascinante, pero afortunadamente los oyentes han devuelto la discusión a niveles menos esotéricos. “¿ Vas a competir con OpenAI, Bard, Anthropic, etc. con xAI? ”, preguntó @krassenstein.
Tras todas estas premisas esperábamos un rotundo "no", pero Musk no deja de sorprender: " xAI se creó para competir con OpenAI ", la respuesta no puede ser más clara.
Escasez de energía
Último punto que encontramos notable. Hacia el final del espacio , todavía hablando de la infraestructura necesaria para impulsar los modelos de IA, de las grandes potencias requeridas, Musk afirmó que en unos dos años pasaremos de una situación de escasez de GPU a una de escasez de energía : “ Tendremos escasez de electricidad en dos años .
La sospecha que teníamos, escuchándole, es que también se refería a la creciente flota de coches eléctricos de gran consumo energético , y no solo a las GPU de IA. O tal vez ambos juntos: muchas GPU y muchos autos eléctricos pedirán simultáneamente más energía de la que estamos equipados para producir.
¿Y quién mejor que el creador de Tesla está en condiciones de hacer una predicción correcta? Nos quedamos con la curiosidad de entender por qué ninguno de los partidarios de la transición verde habla de ello. Sin duda será la primera pregunta que le haremos a xAI .
El artículo xAI, la nueva empresa de Musk: comprender el universo diciendo la verdad proviene de Nicola Porro .
Esta es una traducción automática de una publicación publicada en Atlantico Quotidiano en la URL https://www.nicolaporro.it/atlanticoquotidiano/quotidiano/media/xai-la-nuova-impresa-di-musk-comprendere-luniverso-dicendo-la-verita/ el Mon, 17 Jul 2023 03:58:00 +0000.