Un article de ce matin, intitulé « Comment informer si votre IA est consciente », indique que dans un tout nouveau rapport, « les chercheurs utilisent une liste de qualités mesurables qui peuvent suggérer la présence d’une certaine présence dans un créateur » basé sur une « toute nouvelle » science de la conscience.
Ce court article m’a tout de suite sauté aux yeux, car il a été publié quelques jours seulement après une longue conversation avec Thomas Krendl Gilbert, un éthicien des appareils qui, pour ne citer que quelques éléments, a longtemps a étudié le carrefour de la science et de la politique. Gilbert a récemment publié un tout nouveau podcast, intitulé « The Retort », avec le scientifique de Hugging Face Nathan Lambert, avec un épisode inaugural qui repousse l’idée de l’IA d’aujourd’hui comme une entreprise véritablement clinique.
Gilbert maintient qu’une grande partie de la recherche actuelle sur l’IA ne peut pas du tout être qualifiée de science. Au contraire, elle peut être considérée comme un tout nouveau type d’alchimie, c’est-à-dire le précurseur médiéval de la chimie, qui peut également être défini comme un « processus d’amélioration relativement magique ».
Comme l’alchimie, l’IA est enracinée dans des métaphores « magiques »
De nombreux critiques de l’apprentissage profond et des grands modèles de langage, y compris ceux qui les ont construits, souvent décrire l’IA comme une sorte d’alchimie, m’a dit Gilbert lors d’un appel vidéo. Ce qu’ils indiquent par là, a-t-il expliqué, c’est que ce n’est pas scientifique, dans le sens où ce n’est pas approfondi ou spéculatif. Il a ajouté qu’il indique en fait quelque chose de plus littéral lorsqu’il dit que l’IA est de l’alchimie.
« Les gens qui le construisent pensent en fait que ce qu’ils font est merveilleux », a-t-il déclaré. « Et cela est enraciné dans de nombreuses métaphores, des concepts qui ont maintenant filtré dans le discours public au cours des derniers mois, comme l’AGI et l’extrême intelligence. » L’idée dominante, a-t-il décrit, est que l’intelligence elle-même est scalaire, dépendant uniquement de la quantité de données générées lors d’une conception et des limites informatiques du modèle lui-même.
Il a souligné que, comme pour l’alchimie, une grande partie des recherches actuelles sur l’IA ne cherchent pas toujours à être ce que nous appelons la science. Par exemple, la pratique de l’alchimie ne faisait traditionnellement pas l’objet d’une évaluation par les pairs ni d’un partage public des résultats. Une grande partie des études de recherche fermées sur l’IA actuelles ne le font pas non plus.
« C’était vraiment secret, et honnêtement, c’est ainsi que fonctionne l’IA aujourd’hui », a-t-il déclaré. « Il s’agit principalement de présumer des foyers magiques sur la quantité d’intelligence qui est implicite dans la structure d’Internet, puis de développer le calcul et de le structurer de telle sorte que vous puissiez résumer ce réseau de connaissances que nous avons tous construit depuis des décennies maintenant, et après cela, nous verrons ce qui en sortira. »
IA et dissonance cognitive
Je pensais particulièrement aux idées de Gilbert sur « l’alchimie » étant donné le discours actuel sur l’IA, qui me semble inclure quelques doozies. de dureté cognitive : il y a eu le « AI Insight Forum » à huis clos du Sénat, au cours duquel Elon Musk a demandé aux régulateurs de l’IA d’agir comme « arbitre » pour assurer la « sécurité » de l’IA, tout en travaillant activement sur l’utilisation de l’IA pour insérer des micropuces dans le cerveau humain et faisant des humains une « espèce multiplanétaire ». Le Parlement européen a déclaré que le risque de disparition de l’IA devrait être une priorité mondiale, tandis qu’au même moment, le PDG d’OpenAI, Sam Altman, a déclaré que les hallucinations peuvent être considérées comme favorables – faisant partie de la « magie » de l’IA générative – et que La « superintelligence » est simplement une « question d’ingénierie ».
Et il y avait Mustafa Suleyman, co-fondateur de DeepMind, qui n’a pas voulu décrire au MIT Innovation Evaluation comment son entreprise Inflection’s Pi parvient à s’abstenir de toute production toxique : « Je ne vais pas aborder beaucoup de choses. informations car elles sont sensibles », a-t-il déclaré, tout en contactant les gouvernements pour contrôler l’IA et nommer des ministres de la technologie au niveau du cabinet.
Cela suffit à me faire tourner la tête, mais la vision de Gilbert de l’IA en tant qu’alchimie met en perspective ces concepts apparemment opposés.
La « magie » vient de l’interface utilisateur, pas du design
Gilbert a précisé qu’il ne déclare pas que la notion d’IA en tant qu’alchimie est faux– mais que son manque de rigueur clinique doit être qualifié de tel qu’il est réellement.
« Ils construisent des systèmes qui sont arbitrairement intelligents, pas intelligents comme le sont les êtres humains – quoi que cela implique – mais simplement arbitrairement intelligents », a-t-il expliqué. « Ce n’est pas une question bien formulée, car cela suppose quelque chose concernant l’intelligence dont nous avons très peu ou pas de preuves, c’est une affirmation naturellement mystique ou surnaturelle. »
Les entrepreneurs en IA, a-t-il poursuivi, « n’ont pas besoin de comprendre quels sont les mécanismes » qui font que l’innovation fonctionne, mais ils sont « suffisamment intéressés et motivés et, franchement, ils ont également suffisamment de ressources pour simplement joue avec. »
La magie de l’IA générative, a-t-il ajouté, ne vient pas du modèle. « La magie vient de la manière dont le modèle est adapté à l’interface. Ce qui est magique, c’est que j’ai l’impression de parler avec un créateur lorsque je m’amuse avec ChatGPT. Ce n’est pas une propriété de la conception, c’est une propriété résidentielle ou commerciale de ChatGPT– de l’interface utilisateur. »
Pour soutenir cette idée, des chercheurs de la division IA d’Alphabet, DeepMind, ont récemment publié des travaux révélant que l’IA peut optimise ses propres invites et fonctionne bien mieux lorsqu’il est déclenché pour « prendre une profonde respiration et travailler sur ce problème en détail », bien que les scientifiques ne sachent pas exactement pourquoi cette nécromancie fonctionne avec elle (en particulier étant donné qu’un modèle d’IA ne le fait pas). respire vraiment du tout.)
Les effets de l’IA en tant qu’alchimie
L’un des effets significatifs de l’alchimie de l’IA est lorsqu’elle converge avec la politique- – comme c’est le cas actuellement avec les discussions sur la réglementation de l’IA aux États-Unis et dans l’UE, a déclaré Gilbert.
« En politique, ce que nous essayons de faire, c’est d’articuler une notion de ce qu’il est bon de faire, établir les prémisses d’un consensus, c’est fondamentalement l’enjeu des auditions d’aujourd’hui », a-t-il déclaré. « Nous avons en fait un monde très rare d’entrepreneurs et d’ingénieurs en IA, qui s’efforcent d’exprimer ce qu’ils font et pourquoi il est important pour les personnes que nous avons élues pour représenter nos intérêts politiques. »
Le problème est que nous ne pouvons que deviner le travail des sous-traitants de Huge Tech AI, a-t-il déclaré. « Nous vivons un moment étrange », a-t-il expliqué, où les métaphores qui comparent l’IA à l’intelligence humaine sont toujours utilisées, mais les systèmes ne sont « pas du tout » bien compris.
« Dans l’IA, nous ne savons pas vraiment quels sont les mécanismes de ces conceptions, mais nous en parlons toujours comme s’ils étaient intelligents. Nous en discutons toujours comme… il y a une sorte de réflexion anthropologique. terrain qui est en train d’être découvert… et il n’y a vraiment aucune base pour cela. »
Bien qu’il n’existe aucune preuve scientifique solide pour étayer la plupart des allégations selon lesquelles l’IA présente un risque existentiel, cela ne signifie pas qu’elles ne méritent pas d’être examinées, a-t-il averti. « En vérité, je dirais qu’ils valent grandement la peine d’être examinés cliniquement — [mais] lorsque ces choses commencent à être présentées comme un projet politique ou une priorité politique absolue, cela prend une importance variable. »
Le mouvement de l’IA générative open source, mené par Meta Platforms avec ses modèles Llama, ainsi que par d’autres start-ups plus petites telles que Anyscale et Deci, offre aux scientifiques, aux technologues, aux décideurs politiques et aux clients potentiels une fenêtre plus claire sur les fonctions internes de la technologie. Traduire la recherche en termes non techniques que les profanes – constitués de législateurs – peuvent comprendre, reste un obstacle important.
Alchimie de l’IA : ni grande politique ni excellente science
C’est le problème clé du fait que l’IA, en tant qu’alchimie et non science, est devenue un tâche politique, a expliqué Gilbert.
« C’est un laxisme de rigueur publique, intégré à un type spécifique de… détermination à garder vos cartes près de votre poitrine, mais dites ensuite ce que vous désirez à propos de vos cartes en public sans interface utilisateur robuste pour reliant les deux », a-t-il déclaré.
En fin de compte, dit-il, l’alchimie actuelle de l’IA peut être considérée comme « tragique ».
« Il y a une sorte d’éclat dans les pronostics, mais ils ne correspondent pas clairement à un régime de responsabilité », a-t-il déclaré. « Et sans responsabilité, on n’obtient ni une grande politique ni une excellente science. »
La mission de VentureBeat est d’être une place publique numérique permettant aux décideurs techniques d’acquérir des connaissances sur les technologies commerciales transformatrices et d’effectuer des transactions. Découvrez nos instructions.
.
Toute l’actualité en temps réel, est sur L’Entrepreneur
