Voyage,– Je suis peut-être en train de parcourir l’étang en ce moment sur PTO, mais comment pourrais-je ne pas m’attaquer à la mutinerie sur le Bounty (uniquement moi, Conseil d’administration) qui se passe aujourd’hui à OpenAI ? Avez-vous entendu parler de l’actualité : plus de 500 membres du personnel d’OpenAI ont signé une lettre disant qu’ils pourraient démissionner et s’inscrire avec Sam Altman chez Microsoft (ce qui était la nouvelle la plus récente avant cette nouvelle la plus récente, qui est venue après la nouvelle la plus récente précédente) à propos de tous ces émojis de cœur) à moins que le conseil d’administration à but non lucratif d’OpenAI ne démissionne et ne renomme Altman ?
Permettez-moi de revenir à une semaine plus tôt. Lundi dernier, j’ai publié un article sur la façon dont les six membres du conseil d’administration d’OpenAI avaient le pouvoir de décider « quand nous aurons réellement atteint l’AGI ». J’ai blogué sur la structure à but non lucratif d’OpenAI, que de nombreux avocats avec qui j’ai parlé ont qualifiée de « rare », qui exerçait un pouvoir sur le côté à but lucratif de l’entreprise, et sur le nombre de membres du conseil d’administration liés au mouvement d’altruisme efficace.
Résumant mon reportage dans le contexte de l’éviction de Sam Altman
Ce fut une journée éclair de vendredi où le conseil d’administration d’OpenAI a tiré son PDG Sam Altman l’a remplacé par intérim par la directrice technique principale Mira Murati, et le président Greg Brockman a été éliminé en tant que président du conseil d’administration, puis a démissionné après l’éviction d’Altman. J’ai conclu la folle coïncidence de mon histoire de la semaine précédente avec un article sur mon Substack intitulé « J’ai investi le week-end dernier dans un blog sur le conseil d’administration à but non lucratif d’OpenAI – maintenant au cœur de l’éviction de Sam Altman. »
Dans cet article, j’ai mentionné que dans le contexte de mon article initial, il me semblait logique que le conseil d’administration à but non lucratif d’OpenAI – dont l’objectif était de se concentrer sur les problèmes de sécurité de l’IA, et non de faire de la publicité pour des articles – être au cœur de l’éviction d’Altman et du retrait de Brockman du conseil d’administration. The Details avait rapporté que lorsque le membre du conseil d’administration Ilya Sutskever, chercheur en chef d’OpenAI, a déclaré que « c’était le conseil d’administration qui assumait sa responsabilité envers la mission de l’organisation à but non lucratif, qui est de garantir qu’OpenAI construit une AGI qui profite à toute l’humanité. »
Événement VB
La tournée des effets IA
Entrez en contact avec le quartier de l’IA d’entreprise lors du AI Effect Trip de VentureBeat qui se déroulera dans une ville près de chez vous !
En savoir plus Les chaises musicales du PDG d’OpenAI mènent à la mutinerie des employés De
bien sûr, puis
l’enfer a éclaté. Après que le conseil d’administration d’OpenAI ait reçu une énorme réaction de la part des financiers, dont Microsoft, les discussions ont tout d’un coup commencé pour… vous l’avez pensé, le ramener. Il y avait la photo d’Altman utilisant un badge de visiteur au siège de l’entreprise dimanche. Des centaines de membres du personnel d’OpenAI ont publié des émojis en forme de cœur indiquant qu’ils étaient de son côté. Puis, autre drame : quelques heures plus tard, le PDG de Microsoft, Satya Nadella, a annoncé qu’Altman et
Brockman rejoindraient l’entreprise pour diriger une nouvelle unité d’étude de recherche avancée sur l’IA et semblait prêt à inviter tous les employés d’OpenAI prêts à se lancer. bateau. Mais ce n’est pas tout : lors d’une autre délocalisation vertigineuse, le même conseil d’administration d’OpenAI qui a mis Altman au bord du trottoir a soudainement destitué Murati et désigné PDG par intérim, Emmett Shear, l’ancien PDG du site de streaming de jeux vidéo Twitch. Cela semblait être un coup final : Steven Levy de Wired a rapporté aujourd’hui que « certains membres du personnel d’OpenAI ont continué toute la nuit à contester une stratégie suite à l’annonce selon laquelle Altman ne reviendrait pas à OpenAI. Des employés ont semblé manifester leur désir de quitter le navire et de s’inscrire chez Altman hier soir en publiant « OpenAI n’est rien sans ses individus. » sur X. Dans leur lettre, le personnel d’OpenAI menace de rejoindre Altman chez Microsoft. Microsoft nous a en fait assuré qu’il y avait des postes pour tous les employés d’OpenAI dans cette nouvelle filiale avec lesquels nous devons choisir de nous inscrire », écrivent-ils. « Le désalignement de la sécurité de l’IA conduit à une mutinerie humaine. Il semble pour le moins ironique que l’extraordinaire Les actions du conseil d’administration à but non lucratif d’OpenAI – qui prenait sa mission de sécurité de l’IA si au sérieux qu’il
allait en fait licencier le PDG – affaibliraient en fait
ses efforts en développant une incertitude à l’échelle de l’industrie. et briser la confiance avec ses travailleurs, provoquant leur propre mutinerie et laissant OpenAI plus faible et probablement moins sûr – du moins à court terme – comme résultat. L’objectif du conseil d’administration de produire une intelligence artificielle bénéficiant à l’ensemble de l’humanité a en fait été considérablement ralenti. Le scientifique en chef Ilya Sutskever semble définitivement regretter ses actions, avec un message sur X aujourd’hui disant : « Je regrette profondément mon implication dans les actions du conseil d’administration. Je n’ai jamais eu l’intention de nuire à OpenAI. J’apprécie tout ce que nous avons construit ensemble et je ferai tout ce que je peux pour réunir l’entreprise. « Finalement, OpenAI a prouvé qu’en attendant, ce sont toujours les êtres humains qui se trompent et deviennent des voyous. L’IA est génial, semble-t-il – mais les gens ont beaucoup de travail à faire. La gouvernance du conseil d’administration peut sembler inintéressante par rapport à la construction d’AGI, mais avec le recul, il semble qu’OpenAI – et leur mission déclarée visant à construire une AGI sûre – auraient été Il vaut mieux se concentrer sur le développement d’un meilleur conseil d’administration. Au contraire, il semble qu’une mutinerie soit sur les bras. L’objectif de VentureBeat est d’être une place publique numérique permettant aux décideurs techniques d’acquérir des connaissances sur l’innovation et les transactions d’entreprise transformatrices. Découvrez nos briefings ..
Toute l’actualité en temps réel, est sur L’Entrepreneur
