vendredi, 1 mars 2024

Pourquoi la loi européenne sur l’IA est-elle en jeu ? Le drame OpenAI offre des indices

La loi européenne sur l’IA, qui est sur le point de devenir une législation globale historique sur l’IA, est actuellement en jeu en raison de querelles autour de la réglementation des modèles « de base », ou des modèles d’IA formés à grande échelle comme GPT-4, Claude et Llama.

Les gouvernements français, allemand et italien ont récemment plaidé en faveur d’une réglementation limitée des modèles de fondations, ce qui, selon beaucoup, est le résultat d’un lobbying intense de la part des Big Tech ainsi que des sociétés open source comme Mistral, conseillé par Cédric O, ancien ministre du numérique du gouvernement français. Certains ont qualifié cela de « prise de pouvoir » qui viderait de sa substance la loi européenne sur l’IA.

Pendant ce temps, les partisans de l’inclusion de modèles de base dans les réglementations de la loi européenne sur l’IA ont repoussé : hier encore, un « groupe d’experts allemands et internationaux dans le domaine de l’IA et de dirigeants du monde des affaires, de la société civile et du monde universitaire » a publié une nouvelle lettre ouverte appelant le gouvernement allemand à ne pas exempter les modèles de fondations du La loi européenne sur l’IA, qui « nuirait à la sécurité publique et aux entreprises européennes ». Parmi les signataires figurent d’éminents chercheurs en IA, dont Geoffrey Hinton et Yoshua Bengio, qui ont exprimé leur inquiétude quant aux risques existentiels de l’IA ces derniers mois, ainsi que le critique de l’IA Gary Marcus.

De plus, des experts français, dont Bengio, ont également publié un éditorial commun dans le journal d’aujourd’hui Monde, s’exprimant « contre les tentatives en cours des grands Tech pour vider de son contenu ce projet de loi historique dans sa phase finale », selon un porte-parole du Future of Life Institute.

Événement VB

La tournée d’impact de l’IA

Connectez-vous à la communauté de l’IA d’entreprise lors du AI Impact Tour de VentureBeat qui se déroulera dans une ville près de chez vous !

 

En savoir plus

Pourquoi la législation atteint-elle cet obstacle dans sa dernière ligne droite ? Après tout, deux ans et demi après la proposition du projet de règles et plusieurs mois après le début des négociations, la loi européenne sur l’IA, qui se concentre sur les systèmes d’IA à haut risque, la transparence de l’IA qui interagit avec les humains et les systèmes d’IA dans les produits réglementés, est dans sa dernière étape de négociations appelée trilogue, lorsque les législateurs de l’UE et les États membres négocient les derniers détails du projet de loi. La Commission européenne nourrit l’espoir de voter la loi sur l’IA d’ici la fin 2023, avant tout impact politique des élections au Parlement européen de 2024.

Le récent drame OpenAI offre quelques indices pour la loi européenne sur l’IA

Croyez-le ou non, le récent drame autour d’OpenAI — dans lequel le PDG Sam Altman a été licencié par le conseil d’administration à but non lucratif de l’entreprise, pour ensuite être réintégré cinq jours plus tard après la destitution et le remplacement de deux membres du conseil d’administration — offre quelques indices sur ce qui se passe. se passe dans l’UE.

Tout comme à OpenAI, les débats sur la loi européenne sur l’IA opposent ceux qui se concentrent soit sur le potentiel de profit commercial de l’IA et/ou les conséquences de la réduction des opportunités d’innovation ouverte, et ceux qui ont de fortes convictions autour du risque X, ou de l’éventuel risque. risques existentiels de l’IA.

D’après ce que nous avons appris d’OpenAI, le PDG Sam Altman et le président Greg Brockman, qui siégeaient tous deux au conseil d’administration à but non lucratif de l’entreprise, étaient du côté de la promotion d’opportunités de profit commercial afin de financer la mission de l’entreprise consistant à développer l’intelligence artificielle générale. , ou AGI. Mais trois autres membres non salariés du conseil d’administration – Adam D’Angelo, Tasha McCauley et Helen Toner – étaient plus préoccupés par la « sécurité » de l’IA et étaient prêts à fermer l’entreprise avant d’autoriser le potentiel de ce qu’ils considéraient comme élevé. risque, une technologie de type AGI sera publiée. Après avoir recruté le scientifique en chef Ilya Sutskever (jeu de mots), Altman a été évincé.

Les trois membres non salariés avait des liens avec le mouvement Effective Altruism – et cela remonte au lobbying autour de la loi européenne sur l’IA. Max Tegmark, président du Future of Life Institute, a ses propres liens avec Effective Altruisme. Le Wall Street Journal a rapporté la semaine dernière, la communauté Effective Altruism a « dépensé d’énormes sommes pour promouvoir l’idée que l’IA présente un risque existentiel ».

Réglementation relative aux grandes technologies et à la loi européenne sur l’IA

Mais les grandes technologies, y compris OpenAI, ont également fait beaucoup de lobbying : n’oublions pas que le héros de retour du PDG d’OpenAI, Sam Altman, avait proposé des messages contradictoires sur la réglementation de l’IA pendant des mois, en particulier dans l’UE. En juin, une enquête TIME a révélé que pendant qu’Altman avait passé des semaines à parcourir les villes du monde et à s’exprimer sur la nécessité d’une réglementation mondiale de l’IA, dans les coulisses, OpenAI avait fait pression pour que « des éléments importants de la législation sur l’IA la plus complète au monde – la loi européenne sur l’IA – soient arrosés ». de manière à réduire le fardeau réglementaire pesant sur l’entreprise, selon des documents sur l’engagement d’OpenAI avec l’UE. fonctionnaires obtenus par TIME auprès de la Commission européenne via des demandes d’accès à l’information.

Gary Marcus a récemment souligné le drame de l’OpenAI comme une raison pour laquelle les régulateurs européens doivent s’assurer que les grandes technologies n’ont pas la possibilité de s’autoréguler.

En tant que signataire d’encore une autre lettre ouverte de la semaine dernière proposant soutenant l’approche à plusieurs niveaux soutenue par le Parlement européen pour gérer les risques associés aux modèles de base dans la loi européenne sur l’IA, il a posté sur X : « Le chaos à OpenAI ne fait que mettre en évidence l’évidence : nous ne pouvons pas faire confiance aux grandes technologies pour s’auto- réglementer. Réduire les parties critiques de la loi européenne sur l’IA à un exercice d’autorégulation aurait des conséquences dévastatrices pour le monde. »

Et Brando Benifei, l’un des deux législateurs du Parlement européen menant les négociations sur les lois, a déclaré à Reuters la semaine dernière : « Le drame compréhensible autour du licenciement d’Altman d’OpenAI et de son arrivée chez Microsoft montre nous que nous ne pouvons pas compter sur des accords volontaires négociés par des dirigeants visionnaires.

La loi européenne sur l’IA est-elle réellement en danger ?

Il reste à voir si la loi européenne sur l’IA est réellement en danger, selon le consultant allemand Benedikt Kohn, qui a écrit hier dans une analyse que, même si de nouvelles négociations sont en cours, « un accord devrait être conclu le plus rapidement possible, le plus rapidement possible ». le temps presse. » En effet, le prochain trilogue – et, selon le plan initial, le dernier – aura lieu le 6 décembre, après quoi il ne restera plus qu’un mois à la présidence espagnole du Conseil avant que la Belgique ne prenne la présidence en janvier 2024. « Sous la direction belge, il Il y aurait alors une pression particulière pour parvenir à un accord », a écrit Kohn, car les élections européennes de juin 2024 aboutiront à un nouveau Parlement.

Un échec de la loi européenne sur l’IA, a-t-il poursuivi, « serait probablement un coup dur pour toutes les personnes impliquées, car l’UE se considère depuis longtemps comme un pionnier mondial avec ses projets de réglementation de l’intelligence artificielle ».

La mission de VentureBeat est d’être une place publique numérique permettant aux décideurs techniques d’acquérir des connaissances sur les technologies d’entreprise transformatrices et d’effectuer des transactions. Découvrez nos Briefings.

.

Toute l’actualité en temps réel, est sur L’Entrepreneur

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici