lundi, 4 mars 2024

Le retour de Sam Altman à OpenAI souligne un besoin urgent de confiance et de diversité

La déclaration d’OpenAI hier soir a évidemment résolu la saga qui l’assiégeait depuis cinq jours : elle rétablit Sam Altman en tant que PDG, et elle a en fait choisi 3 membres préliminaires du conseil d’administration – et d’autres sont à venir. .

Alors que de plus amples détails émergent de sources sur ce qui a déclenché le chaos dans l’entreprise, il est clair que l’entreprise doit consolider un problème de confiance qui pourrait éventuellement tourmenter Altman à la suite de son récent actions dans l’entreprise. On ne sait pas non plus comment il entend résoudre les problèmes de gouvernance encore difficiles, notamment la structure et le mandat du conseil d’administration, qui sont devenus compliqués, voire incohérents.

Pour les décideurs commerciaux qui regardent cette saga et s’interrogent sur ce que tout cela implique pour eux et sur la fiabilité d’OpenAI à l’avenir, cela vaut la peine d’examiner en détail comment nous en sommes arrivés là. Après cela, voici où j’en suis arrivé : le résultat, du moins tel qu’il apparaît aujourd’hui, annonce le changement continu d’OpenAI vers une position plus agressive en tant qu’entreprise orientée produit. Je prévois que la position d’OpenAI en tant que concurrent majeur dans la fourniture de produits d’IA complets pour les entreprises, un rôle qui nécessite confiance et sécurité optimale, pourrait diminuer. Ses conceptions de langage, en particulier ChatGPT et GPT-4, resteront probablement très populaires parmi les développeurs et continueront à être utilisées comme API dans un large éventail d’éléments d’IA.

Plus d’informations à ce sujet dans une seconde, mais d’abord un regardez l’aspect confiance qui pèse sur l’entreprise et comment il doit être géré.

Occasion VB

Le voyage des effets AI

Entrez en contact avec la communauté de l’IA d’entreprise au AI Effect Tour de VentureBeat qui se déroulera dans une ville près de chez vous !

Découvrez davantage Le bon côté

est que l’entreprise a fait de solides progrès

en désignant des membres initiaux du conseil d’administration très dignes de confiance, Bret Taylor et Lawrence Summers, et en mettant en place de solides garde-fous. Le conseil d’administration sortant a insisté pour qu’une enquête soit menée sur la direction d’Altman. Il a également bloqué le retour d’Altman et de son co-fondateur Greg Brockman au conseil d’administration, et a en fait insisté pour que les nouveaux membres du conseil d’administration soient suffisamment forts pour pouvoir tenir tête à Altman, selon le New York Times. Critiques d’Altman à l’égard de l’accord de Helen Toner, membre du conseil d’administration, sur la sécurité de l’IA. L’un des principaux points qui ont motivé la colère du conseil d’administration contre Altman aurait eu lieu en octobre, lorsque Altman a critiqué Helen Toner parmi les membres du conseil d’administration, parce qu’il croyait un article. elle avait écrit qu’elle critiquait l’Open AI, selon un article antérieur du Times. Dans l’article, Toner, directeur technique au Centre pour la sécurité et les technologies émergentes de l’Université de Georgetown, consistait en une section de trois pages qui constituait un compte rendu approfondi et sérieux de la méthode OpenAI et un important Le concurrent Anthropic a approché la sortie de ses derniers grands modèles de langage (LLM) en mars 2023. OpenAI a choisi de publier son modèle, contrairement à Anthropic, qui a choisi de retarder sa conception, appelée Claude, en raison de problèmes de sécurité. Le paragraphe le plus crucial (à la page 31) de l’article de Toner contient une formulation académique, mais vous en comprendrez l’essentiel : «  »Après s’être plaint

à Toner à ce sujet, Altman a envoyé un message à ses collègues disant qu’il l’avait en fait réprimandée parce que cela menaçait de l’entreprise

, en particulier à une époque où la FTC enquêtait sur l’utilisation des informations par OpenAI, selon une source citée par le Times. Toner a ensuite apparemment été en désaccord avec ces critiques, affirmant qu’il s’agissait d’un article universitaire qui étudiait la complexité, à l’ère moderne, de la façon dont les entreprises et les pays signifient leurs intentions sur le marché. Les hauts dirigeants d’OpenAI se sont ensuite demandé si Toner devait être supprimé, mais le co-fondateur Ilya Sutskever, profondément préoccupé par les dangers de l’innovation en matière d’IA, s’est rangé du côté d’autres membres du conseil d’administration pour évincer Altman pour ne pas avoir été « systématiquement honnête dans ses interactions avec le conseil d’administration ». « . Tout cela fait suite à quelques déceptions précédentes du conseil d’administration avec Altman au sujet de son évolution trop rapide du côté des produits, d’autres témoignages suggérant que le récent DevDay de la société a également été une frustration importante pour le conseil d’administration. L’affrontement d’Altman avec Toner n’était pas une belle apparence, compte tenu de l’objectif initial de l’entreprise et des exigences du conseil d’administration, qui étaient de développer une intelligence de base synthétique (AGI) sûre au profit de « l’humanité, et non des investisseurs d’OpenAI ». Ce contexte aide à décrire comment l’entreprise est parvenue à faire son choix hier soir sur les conditions du retour d’Altman. Après des jours de va-et-vient, Toner et un autre membre du conseil d’administration, Tasha McCauley, ont accepté l’autre jour de quitter le conseil d’administration, ont déclaré des sources du Times, car ils étaient d’accord que l’entreprise avait besoin d’un nouveau départ. . Les membres du conseil d’administration craignaient que si tous démissionnaient, cela donnerait l’impression que le conseil d’administration reconnaissait ses erreurs, même si les membres du conseil d’administration pensaient avoir fait la meilleure chose. Un conseil d’administration prêt à poursuivre sa mission de croissance Ils ont choisi de conserver le membre restant du conseil d’administration qui avait maintenu la décision d’évincer Altman : Adam D’Angelo. D’Angelo a fait la plupart des négociations au nom du conseil d’administration avec des étrangers, parmi lesquels Altman et le PDG par intérim jusqu’à hier soir, Emmett Shear. Les deux autres membres préliminaires du conseil d’administration annoncés par l’entreprise, Taylor et Summers, possèdent des qualifications exceptionnelles. Taylor est l’installation la plus performante de la Silicon Valley, ayant vendu une entreprise de 50 millions de dollars à Facebook, où il était CTO. Il a également travaillé chez Google, puis est devenu co-directeur général de Salesforce. Lawrence Summers est un ancien secrétaire au Trésor américain, avec un historique de performances exceptionnelles dans la direction de l’économie. Cela me ramène à la direction que prend cette entreprise, ou du moins semble se diriger compte tenu des résultats obtenus jusqu’à présent : vers une entreprise de produits incroyables. Vous ne pouvez pas vraiment commencer avec un conseil d’administration plus rock star que celui-ci lorsqu’il s’agit d’orientation vers la croissance. D’Angelo, l’un des premiers CTO de et co-fondateur de Quora, et Taylor, ont d’excellents produits

. Compte tenu des différentes cartes dont disposait chaque joueur dans ce jeu vidéo, le résultat semble avoir un certain raisonnement, malgré l’apparence d’un processus extrêmement désordonné et d’une incompétence apparente. Le rejet de deux membres du conseil d’administration qui avaient le plus adopté un point de vue d’altruisme efficace (EA) semble également avoir été un résultat essentiel ici pour qu’OpenAI puisse continuer à fonctionner comme une entreprise réalisable.

Même parmi les bailleurs de fonds les plus importants. du mouvement EA, le co-fondateur de Skype, Jaan Tallinn, a récemment remis en question la viabilité de la gestion d’entreprises basée sur cette approche, qui est également

liée à l’inquiétude quant aux risques que l’IA présente pour l’humanité. « La gouvernance OpenAI « La crise met en évidence la fragilité des systèmes de gouvernance volontaires motivés par l’évaluation environnementale », a déclaré Tallinn à Semaphor. « Le monde ne devrait donc pas compter sur une telle gouvernance qui fonctionnera comme prévu. » Il n’est pas tout à fait clair si Tallinn est réellement approprié sur ce point. À titre d’exemple des programmes Anthropic, il peut être possible de gérer une entreprise dirigée par une EA. Mais dans le cas d’OpenAI, il y avait au moins suffisamment de frictions pour que quelque chose

devait changer. Variété requise Dans sa déclaration d’hier soir, la société a déclaré : « Nous collaborons pour régler les détails. Merci beaucoup pour votre patience. » La délibération est une excellente indication, car

les prochaines étapes nécessiteront que la société a créé un conseil d’administration élargi qui est tout aussi digne de confiance que les trois premiers – si cette entreprise espère rester sur sa trajectoire de succès. Un historique d’équité et de réflexion est

essentiellement essentiel lorsqu’il s’agit

d’exigences en matière de sécurité de l’IA. Et de la variété, bien sûr : à titre d’exemple, Summers a dû démissionner de son poste de président de Harvard en raison de certaines remarques qu’il a faites sur les raisons de la sous-représentation des femmes dans les sciences et l’ingénierie (y compris la possibilité qu’il existe une « accessibilité variable aux compétences »). au haut de gamme »). Conclusion Nous verrons au cours des prochains jours comment l’entreprise assemblera les pièces restantes, mais pour l’instant, l’entreprise semble prête à évoluer vers des instructions d’articles plus reconnues et à but lucratif. Cependant, d’après nos rapports des derniers jours et mois, il semble qu’OpenAI soit sur la bonne voie pour fonctionner à grande échelle pour des centaines d’innombrables personnes, avec des LLM à usage général que d’innombrables concepteurs adoreront et qui seront bons pour de nombreuses tâches. Mais ses LLM ne seront pas toujours capables, ni fiables, d’effectuer le travail spécifique, bien gouverné,

sûr, impartial et entièrement orchestré que les entreprises auront besoin de l’IA pour accomplir. Là-bas, de nombreuses autres entreprises combleront le vide. L’objectif de VentureBeat est d’être une place publique numérique permettant aux décideurs techniques de comprendre l’innovation commerciale transformatrice et les transactions. Découvrez nos aperçus..

Toute l’actualité en temps réel, est sur L’Entrepreneur

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici