jeudi, 28 mars 2024

La lettre du Sénat à Meta sur la fuite de LLaMA est une menace pour l’IA open source, selon les experts

Une lettre envoyée mardi par 2 sénateurs américains au PDG de Meta, Mark Zuckerberg, qui remettait en question la fuite en mars de LLaMA, le célèbre langage open source de Meta, met en danger la communauté de l’IA open source, déclare spécialistes. Il est important car il intervient à un moment clé où le Congrès a donné la priorité à la réglementation du système expert, tandis que l’IA open source voit une vague de tout nouveaux LLM.

Il y a trois semaines, le PDG d’OpenAI, Sam Altman, a témoigné devant le sous-comité sénatorial sur la vie privée, la technologie et la loi – le sénateur Richard Blumenthal (D-CT) est le président et le sénateur Josh Hawley (R-MO) son membre de rang – et a souscrit aux appels pour une nouvelle société de réglementation de l’IA

La lettre à Meta (qui a refusé de commenter pour le moment) était envoyé par Blumenthal et Hawley au nom du même sous-comité. Les sénateurs se sont dits préoccupés par la « capacité de LLaMA à abuser des spams, des escroqueries, des logiciels malveillants, des atteintes à la vie privée, du harcèlement et d’autres méfaits et préjudices ».

La lettre indiquait la libération de LLaMA en février, disant que Meta a publié LLaMA pour téléchargement par des chercheurs agréés, « au lieu de centraliser et de limiter l’accès aux informations, logiciels et modèles sous-jacents ». Il a ajouté que « l’option de Meta de distribuer LLaMA d’une manière aussi illimitée et permissive soulève des inquiétudes cruciales et compliquées quant au moment et à la manière dont il convient de lancer librement des conceptions d’IA sophistiquées ».

Événement

Changement 2023

Rejoignez-nous à San Francisco les 11 et 12 juillet, où des cadres supérieurs expliqueront comment ils ont intégré et optimisé les investissements en IA pour succès et erreurs courantes évitées.

Inscrivez-vous maintenant Problèmes concernant les efforts lancés en open source

AI’sous le

bus’ De nombreux professionnels ont déclaré qu’ils n’étaient « pas intéressés » par les théories du complot

, mais s’inquiétaient des machinations en coulisses. » Écoutez, il est facile pour les responsables du gouvernement fédéral et les rivaux propriétaires

de jeter l’open source sous le bus, car les décideurs le considèrent nerveusement comme quelque chose de plus difficile à contrôler – et les fournisseurs de logiciels propriétaires le considèrent comme un type de concurrents qu’ils préféreraient tout simplement voir disparaître dans de nombreux cas « , a déclaré Adam Thierer, expert en politique d’innovation chez R Street Institute, a informé VentureBeat dans une interview. « Cela en fait donc une cible facile. lettre était « extrêmement surprenante », et bien qu’il ne veuille pas « alimenter les théories du complot », il « semble pratiquement qu’OpenAI et le Congrès interagissent maintenant ». « Et Steven Weber, professeur à la School of Information et au département de

sciences politiques de l’Université de Californie à Berkeley, est allé encore plus loin en disant à VentureBeat qu’il pense que Microsoft, opérant via OpenAI, est » en train de prendre peur, en exactement de la même manière que Microsoft avait peur de Linux à la fin des années 1990 et décrivait les logiciels open source comme un « cancer » du système du droit d’auteur. que l’open source était un mal, alors qu’en réalité c’était un danger concurrentiel pour Windows. « La libération de LLaMA n’était » pas un danger inapproprié « , Christopher Manning,

directeur du laboratoire d’IA de Stanford, a déclaré à VentureBeat dans un

message que, bien qu’il n’y ait pas actuellement de législation ou de « normes de quartier strictes sur les pratiques acceptables « en ce qui concerne l’IA, il a » fortement exhorté « le gouvernement et la communauté de l’IA à travailler pour établir des réglementations et des normes adaptées à toutes les entreprises, tous les quartiers et toutes les personnes développant ou utilisant de grandes conceptions d’IA. Il a déclaré: » Dans ces circonstances, je suis heureux de prendre en charge la version open source de modèles tels que les modèles LLaMA.  » Bien qu’il « reconnaisse totalement » que des conceptions comme LLaMA peuvent être utilisées pour de mauvaises fonctions, telles que la désinformation ou le spam, il a déclaré qu’elles sont de plus petite taille et moins performantes que les plus grands modèles développés par OpenAI, Anthropic et Google (environ 175 milliards à 512 milliards de spécifications). Inversement, il a déclaré que si les modèles de LLaMA sont plus grands et de meilleure qualité que les conceptions lancées par des collectifs open source, ils ne sont pas radicalement plus grands (la plus grande conception LLaMA est de 60 milliards de spécifications ; le modèle GPT-Neo-X publié par le cumul dispersé des contributeurs d’EleutherAE est de 20 milliards de spécifications). « En tant que tel, je ne considère pas leur publication comme un danger indésirable », a-t-il déclaré. construire l’avenir. Souvent, il est préférable de gérer les utilisations de la technologie plutôt que l’accessibilité de la technologie. » Un effort « malavisé » pour restreindre l’accès à Vipul Ved Prakash, co-fondateur et PDG de Together, qui gère le travail open source RedPajama qui

a reproduit l’ensemble de données LLaMA pour créer des LLM avancés et open source, a déclaré que la lettre du Sénat à Meta est un « effort malavisé pour restreindre l’accès à une toute nouvelle innovation ». La lettre, a-t-il expliqué, est » plein de problèmes communs d’homme de paille. » Il a dit, « cela n’a aucun sens d’utiliser un modèle de langage pour créer du spam. J’ai aidé à produire ce qui est potentiellement le système anti-spam le plus largement déployé sur Internet

aujourd’hui, et je peux affirmer avec confiance que les spammeurs n’utiliseront pas LLaMA ou d’autres LLM en raison du fait qu’il existe des moyens beaucoup plus abordables de créer des messages de spam. « Une grande partie de ces préoccupations, a-t-il poursuivi, sont » applicables aux langages de programmation qui vous permettent d’établir des programmes uniques, et quelques-uns de ces programmes sont composés avec une intention destructrice. Cependant, nous ne restreignons pas les langages de programmation sophistiqués en tant que société, car nous apprécions les capacités et les fonctionnalités qu’ils apportent dans nos vies. « En gros, il a déclaré que le discours autour de la sécurité de l’IA est une » réponse paniquée avec peu ou pas de preuves à l’appui des dommages sociétaux. « Prakash a déclaré qu’il insistait sur le fait que cela provoquait » l’étouffement du développement en Amérique et la divulgation des secrets de la technologie la plus essentielle de notre génération à quelques entreprises, qui ont façonné de manière proactive le différend. « Pourquoi Meta est-il une cible? Une question est pourquoi les modèles de Meta sont distingués (au-delà de la réalité que Meta a eu des rencontres avec le Congrès pendant des décennies). Après tout, Manning et Falcon ont mentionné qu’un tout nouveau

design par l’innovation soutenue par le gouvernement des EAU L’Institut a fourni un modèle de critère de 40 milliards de qualité encore meilleure, Falcon. à propos de sa sortie :  » Qu’est-ce qu’ils vont faire ? Informer les EAU qu’ils ne peuvent pas rendre le modèle

public ? » Thierer a affirmé que c’est là que la « politique d’intimidation » peut être trouvée. La lettre Blumenthal/Hawley, a-t-il décrit, est « un risque pour l’open source à travers ce que j’appellerai un ‘méchant gramme’ – une lettre méchante disant ‘vous devriez réévaluer votre position à ce sujet.’Ils ne disent pas que nous allons

vous gérer, mais il y a certainement une déclaration « ou bien » accrochée dans la pièce qui se profile au-dessus d’une lettre comme celle-là. « C’est, dit-il, ce qui est le plus inconfortable. » À un moment donné, les législateurs commenceront à mettre de plus en plus de pression sur d’autres entreprises ou plates-formes susceptibles de faire affaire avec ou de fournir une plate-forme pour des applications ou des conceptions open source « , a-t-il déclaré. « Et c’est ainsi que vous arrivez à gérer l’open source sans gérer formellement l’open source. « La mission de VentureBeat est d’être une place publique numérique permettant aux décideurs techniques de comprendre la technologie d’entreprise transformatrice et d’effectuer des transactions. Découvrez nos briefings..

Toute l’actualité en temps réel, est sur L’Entrepreneur

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici