La ex miembro de la junta directiva Helen Toner reveló que Sam Altman fue despedido como director ejecutivo de OpenAI porque intencionalmente desinformó a la junta directiva sobre los procesos de seguridad y desarrollo de productos de la empresa.
Lea también: OpenAI alinea al sucesor de GPT-4 en medio de preocupaciones de seguridad
Toner, un investigador de inteligencia artificial y uno de los directores que despidió a Altman en noviembre, habló por primera vez sobre el fallido golpe en la sala de juntas en una entrevista del 28 de mayo con el presentador del programa TEDTalk AI, Bilawal Sidhu.
“Sam Altman mintió descaradamente a la junta”
La junta directiva de OpenAI se estableció para mantener a la empresa basada en el bien público antes que en las ganancias, reveló Toner en una entrevista. Dijo: "Durante años, Sam hizo realmente difícil que la junta directiva hiciera ese trabajo reteniendo información, tergiversando cosas que estaban sucediendo en la empresa y, en algunos casos, mintiendo abiertamente a la junta".
Les comparto esto, grabado hace unas semanas. La mayor parte del episodio trata sobre la política de IA en general, pero esta fue mi primera entrevista extensa desde que se cerró la investigación de OpenAI, por lo que también hablamos un poco sobre noviembre.
¡Gracias a @bilawalsidhu por una conversación divertida! https://t.co/h0PtK06T0K
– Helen Toner (@hlntnr) 28 de mayo de 2024
Sam Altman fue despedido repentinamente como director ejecutivo el 17 de noviembre de 2023, una decisión que conmocionó a toda la industria de la inteligencia artificial. Toner dijo que el secreto en torno a la decisión era parte de un plan deliberado de la junta.
Según Toner, "para todos nosotros estaba claro que tan pronto como Sam tuviera la más mínima sospecha de que podríamos hacer algo para ir en su contra, haría todo lo posible, haría todo lo que estuviera en su poder para socavar el consejo, para evitar de nosotros, ya sabes, llegando incluso a poder despedirlo.
Altman prevaleció sobre la junta directiva en las consecuencias de noviembre, y los empleados e inversores de OpenAI, incluido Microsoft, denunciaron su despido. Fue reintegrado como director ejecutivo al cabo de una semana, mientras que el científico jefe Ilya Sutskever, Toner y otros "conspiradores" acordaron abandonar la junta directiva.
La reputación de AI Posterboy está derrotada
La reputación de Altman como "imagen de cartel de la inteligencia artificial generativa" se ha visto afectada en las últimas semanas, ya que ex altos mandos, incluidos Jan Leike, Gretchen Krueger y Tasha McCauley, han cuestionado su liderazgo.
Hablando sobre el despido de Altman, Toner dijo que la junta solo se enteró del lanzamiento de ChatGPT en noviembre de 2022 en Twitter, hora X, ya que no había sido notificada. También acusó a Altman de negar ante la junta que fuera propietario del fondo de inicio OpenAI.
Lea también: ChatGPT todavía difunde falsedades, dice el regulador de datos de la UE
“Cuando ChatGPT salió [en] noviembre de 2022, la junta no fue notificada con anticipación. Aprendimos sobre GPT en Twitter”, dijo Toner.
Continuó diciendo: "Sam no informó a la junta que es propietario del fondo inicial OpenAI, a pesar de que ha declarado constantemente que es un miembro independiente de la junta sin ningún interés financiero en la empresa".
Más adelante en la entrevista, Toner habló sobre la divulgación discrecional de Sam sobre cuestiones de seguridad. “En varias ocasiones nos proporcionó información inexacta sobre el número limitado de procesos de seguridad formales que la empresa tenía implementados, lo que significaba que era prácticamente imposible para la junta saber qué tan bien estaban funcionando esos procesos de seguridad o qué sería necesario cambiar. "
"Atmósfera tóxica" en OpenAI
Según Toner, algunos empleados clave eludieron la autocensura inicial y dijeron a la junta directiva que no se podía confiar en Sam Altman debido a la "atmósfera tóxica" que estaba creando en la empresa. Él reveló:
"Usaron la frase 'abuso psicológico' y nos dijeron que no creían que él fuera la persona adecuada para liderar la empresa hacia la inteligencia artificial general (AGI)".
Los investigadores internos de los acontecimientos de noviembre informaron recientemente que la junta actuó de buena fe pero no previó la inestabilidad que seguiría al despido de Altman. El CEO ha estado consolidando su dominio en OpenAI desde noviembre. El “ equipo de Superalineación ” copresidido por el principal conspirador Sutskever fue disuelto a principios de este mes después de una serie de renuncias.
El martes, la startup con sede en San Francisco anunció un nuevo comité de seguridad que estará dirigido por los directores Altman, Bret Taylor (presidente), Adam D'Angelo y Nicole Seligman.
La nueva entrevista de Toner duplica su reciente columna invitada para The Economist, coescrita con la ex directora de OpenAI, Tasha McCauley. Los dos dijeron que el autogobierno no había podido resistir la presión de los incentivos de ganancias de OpenAI.
Reportaje criptopolitano de Jeffrey Gogo