2 organismes de presse réputés : Reuters et The Détails— des sources ont récemment rapporté que le drame récent autour de la gestion d’OpenAI était basé en partie sur un énorme progrès technologique au sein de l’entreprise.
Cette avancée s’appelle Q * (prononcé cue-star) , qui est censé être capable de faire des mathématiques au niveau de l’école primaire et d’intégrer ce raisonnement mathématique pour améliorer la sélection des réponses.
Voici tout ce que vous devez comprendre sur Q * et pourquoi il n’y a rien de flippant.
Le problème : l’IA ne peut pas croire
La révolution de l’IA générative (genAI) basée sur le LLM qui nous obsède tous cette année est basée sur ce qui est essentiellement un algorithme de prédiction de mots ou de nombres. Il s’agit essentiellement de la fonctionnalité « Smart Compose » de Gmail sous stéroïdes.
Lorsque vous interagissez avec un chatbot genAI, tel que ChatGPT, il prend en compte vos commentaires et répond en fonction de la prédiction. Il prévoit que le premier mot sera X, puis le deuxième mot sera Y et le troisième mot sera Z, le tout sur la base de son entraînement sur d’énormes quantités de données. Mais ces chatbots ne comprennent pas ce que signifient les mots ni quels sont les concepts. Il anticipe simplement les mots suivants, dans les limites des critères générés par l’homme.
C’est pourquoi le système expert peut être artificiellement stupide.
En mai, un avocat appelé Steven A. Schwartz a utilisé ChatGPT pour rédiger un procès-verbal pour une affaire devant le Tribunal fédéral de district. Le court cite des cas qui n’ont jamais existé. ChatGPT vient de les inventer puisque les LLM ne connaissent pas ou n’apprécient pas la réalité, seulement très probablement l’ordre des mots.
En septembre, le site d’information appartenant à Microsoft, MSN, a publié une nécrologie écrite par LLM pour l’ancien joueur de la NBA Brandon Hunter. . Le titre disait : « Brandon Hunter ne vaut rien à 42 ans ». Le court article déclarait que Hunter était en fait « décédé à l’âge de 42 ans » et qu’au cours de ses deux saisons de carrière, il avait joué « 67 jeux vidéo ».
GenAI ne peut pas raisonner. Il peut savoir qu’il est possible de remplacer « mort » par « sans valeur », « passé » par « remis » et « jeux » par « jeux informatiques ». Mais il est trop stupide de comprendre que ces alternatives n’ont aucun sens dans la nécrologie d’un joueur de basket-ball.
La solution Q * : une IA qui peut penser
Aucune réalité réelle n’est publiquement comprise à propos de Q *, l’accord qui se dessine dans les cercles de l’IA est que la technologie est mise en place par une équipe dirigée par le scientifique en chef d’OpenAI, Ilya Sutskever, et qu’elle intègre les stratégies d’IA Q-learning et A * search (d’où le nom Q *).
(Q-learning est un outil de formation en IA qui récompense l’outil d’IA pour avoir fait le « choix » approprié dans le processus de création d’une réponse. A * est un algorithme permettant d’examiner les nœuds d’un graphique et d’essayer de trouver des chemins. entre les nœuds. Aucune de ces stratégies n’est nouvelle ou unique à OpenAI.)
Le concept est qu’elle pourrait stimuler ChatGPT par l’application de quelque chose comme un facteur ou une logique mathématique – c’est-à-dire « croire » – – pour arriver à de bien meilleurs résultats. Et, selon le buzz, un ChatGPT capable de penser se rapproche de l’intelligence artificielle de base (AGI).
L’objectif de l’AGI, que poursuit clairement OpenAI, serait un outil d’IA capable de penser et de raisonner comme un être humain. – ou faire semblant de manière convaincante. Il pourrait également être plus efficace face aux concepts abstraits. Certains disent également que Q * doit être capable de créer des concepts originaux, au lieu de simplement exprimer le consensus de son ensemble de données.
Le modèle Q *, selon la rumeur, excellerait également dans les mathématiques elles-mêmes, ce qui en ferait un meilleur outil pour designers.
En revanche, l’ensemble pessimiste suggère même que Q * représente une menace pour l’humanité – ou, au minimum, pour nos emplois.
Mais voici où le buzz déraille.
Pas si vite : le rythme rapide du changement de l’IA est une impression
Le professeur d’informatique de Georgia Tech, Mark Riedl, a publié sur les réseaux sociaux X que c’est possible Q * n’est qu’une recherche menée par OpenAI visant une « supervision des procédures » qui remplace la « supervision des résultats » et que lorsque OpenAI a publié des informations de base sur ce concept en mai, « personne n’a perdu la tête à ce sujet, et ne devrait pas le faire. »
Le concept de modification d’une prédiction de mot ou de caractère avec un certain type de planification surveillée de la procédure pour arriver au résultat est une instruction quasi universelle dans les laboratoires traitant de la genAI basée sur LLM. Ce n’est pas distinct d’OpenAI. Et il ne s’agit pas d’un « développement » qui changera le monde.
L’IA ne progresse pas lorsque les entreprises privées ou les laboratoires réalisent d’énormes progrès qui modifient quoi que ce soit. C’est ce que l’on ressent grâce à OpenAI.
OpenAI a été créé en 2015, son chatbot ChatGPT qui change la culture a été lancé il y a seulement environ un an. Depuis, le monde de la technologie a été bouleversé. Des milliers d’applications basées sur le LLM ont vu le jour. Le financement technologique s’est fortement tourné vers le financement des start-ups d’IA. Et il semble que ce nom de marque de l’IA ait déjà tout changé.
En vérité, cependant, le développement d’OpenAI ne s’est pas concentré sur l’IA, mais sur la tâche d’offrir l’accès aux outils genAI au grand public. et aux développeurs. Les services ChatGPT de l’entreprise (et leur intégration par Microsoft dans Bing Browse) ont capturé par surprise des centaines d’autres laboratoires d’IA dans les entreprises et les universités, alors qu’ils se poursuivaient méticuleusement depuis des années. ChatGPT a incité le reste de l’industrie à se précipiter pour diffuser ses propres recherches auprès du public sous la forme d’outils fonctionnels et d’API ouvertes.
En d’autres termes, le véritable changement que nous avons réellement connu au cours de l’année écoulée a en fait a à voir avec le changement d’étude de recherche sur l’IA du personnel au public. Le public est sous le choc, mais ce n’est pas dû au fait que l’innovation en matière d’IA elle-même s’est soudainement accélérée. Il n’est pas non plus probable qu’il s’accélère à nouveau de manière anormale grâce à une « percée » d’OpenAI.
En réalité, l’inverse est vrai. Si vous examinez n’importe quelle branche d’une innovation ou un ensemble de technologies qui se rapproche de l’IA, vous remarquerez que plus elle progresse, plus les améliorations supplémentaires apparaissent lentement.
Regardez les automobiles autonomes. J’étais physiquement présent au DARPA Grand Obstacle en 2004. Lors de ce concours, le Pentagone a déclaré qu’il accorderait un million de dollars à toute organisation disposant d’un véhicule autonome capable de parcourir un trajet de 150 milles dans le désert. Personne n’a fini. L’année suivante et lors du prochain Grand Obstacle du DARPA, l’entrée de Stanford a terminé le chemin. Tout le monde était convaincu que les véhicules à conduite humaine seraient obsolètes d’ici 2015.
Avance rapide jusqu’en 2023 et des activistes désactivent les automobiles autonomes en plaçant des cônes de signalisation sur leurs capots.
Les plus grands le niveau d’autonomie est de niveau 4, et aucun véhicule de niveau 4 n’est proposé au grand public ni efficace pour circuler sur des routes en dehors des itinéraires prédéfinis et connus et dans des conditions spécifiques de temps et de météo. Ces derniers 5 % prendront probablement plus de temps à réaliser que les premiers 95 %.
C’est ainsi que les innovations en matière d’IA ont tendance à progresser. Mais nous oublions cela parce que beaucoup de technologues, d’investisseurs, de boosters et de doomers en IA sont de vrais croyants avec des sentiments extrêmes d’optimisme ou de pessimisme et des croyances peu pratiques sur le temps que prend l’amélioration. Le public découvre que ces délais accélérés sont plausibles en raison des transformations de la culture induites par l’OpenAI que nous avons connues à la suite de l’accès public actuel à l’IA.
Respirons tous et détendons-nous devant les prédictions surexcitées. sur la façon dont l’IA en général, et Q * en particulier, sont sur le point de tout modifier partout d’un seul coup.
.
Toute l’actualité en temps réel, est sur L’Entrepreneur
