Un spécialiste de la gestion des données met en garde contre les dangers des données de l’IA générative

p>

Nous nous sommes assis avec elle pour savoir quels pourraient être ces effets.

THQ :

Commençons par la préoccupation spectaculaire : l’IA générative a-t-elle également été lancée dans le monde ? tôt? Avant que les implications sur les données n’aient été réfléchies et avant que les exigences ne soient définies sur place ?

KS :
Je pense que c’est bien que nous ayons pu voir ce que l’IA générative pourrait faire, en particulier avec des choses comme ChatGPT, en raison du fait que nous discutons de l’IA et de l’apprentissage automatique depuis de nombreuses années, et certaines personnes se demandaient si tout cela n’était que du buzz. Voir le fonctionnement de ChatGPT et pouvoir s’y connecter a en fait été très utile pour apaiser ces sceptiques.

Le problème n’est pas que nous ne devrions pas l’essayer et le comprendre. Le problème est que les gens et les entreprises se précipitent pour avoir des articles commerciaux basés dessus. C’est là que nous allons trop tôt.

IA générative : le nouveau jouet préféré de tout le monde.

THQ :

Ce sont les choses importantes, cependant, n’est-ce pas il? Pratiquement aussi rapidement qu’il a été lancé, pratiquement tout le monde a trouvé le moyen de l’utiliser d’une manière ou d’une autre.

KS :
Et c’est le risque. Plus précisément en Amérique, où vous êtes récompensé pour prendre des risques et pour aller vite. Sans aucune réglementation, les entreprises peuvent évoluer rapidement, les entreprises peuvent innover, il n’y a donc aucun inconvénient réel à ajouter ChatGPT à toute conception d’entreprise d’un point de vue commercial. Encore. Et je pense que c’est là le défi.

THQ :
Nous avons assisté à la conférence des rois de l’IA générative à la Maison Blanche, dont le point à retenir semblait être que si vous voulez gagner des milliards de dollars avec cette technologie, les responsabilités doivent s’accompagner des avantages.

KS :
Et évidemment, cela a été suivi par Sam Altman d’OpenAI parlant au Congrès et convenant qu’une réglementation était nécessaire, puis des auditions au Sénat autour de l’IA.

La bonne nouvelle est que je pense que la lettre ouverte que de nombreux dirigeants ont envoyée au Congrès déclarant que le gouvernement fédéral doit intervenir a eu un effet et que des particuliers y réfléchissent. Je pense que le problème pourrait être qu’en général, les directives ont tendance à suivre après avoir vu une ou deux mauvaises choses se produire. Et dans le cas de l’IA, il pourrait être beaucoup trop tard si cela nous prend autant de temps pour obtenir des réglementations.

IA générative : un génie qui progresse rapidement ?

THQ :
Il n’y a pas de véritable méthode pour remettre ce génie spécifique dans n’importe quel type de bouteille. C’est juste comment nous le contenons d’une manière ou d’une autre afin que nous comprenions ce qu’il est sur le point de faire, n’est-ce pas ?

KS :
Exact. Nous avons en fait inclus d’autres éléments précédemment. Nous avons contenu des armes nucléaires. Nous savions comment inclure les bombes atomiques. Nous savons comment contenir une étude de recherche sur les médicaments qui pourrait être potentiellement dangereuse si elle est effectuée de la mauvaise manière.

Ainsi, le concept de réglementer quelque chose qui peut avoir un grand effet n’est pas une idée nouvelle. C’est juste que la réglementation doit intervenir très rapidement. Ce qui est nouveau, c’est la vitesse à laquelle cela évolue.

THQ :
Absolument – après tout, il y a quelques semaines à peine, les géants de la technologie faisaient l’actualité, avec leurs conceptions d’IA génératives. Ensuite, les codeurs open-source ont mis la main sur LLaMA, et maintenant tout d’un coup ils sontla nouvelle, avec leurs modèles d’IA génératifs plus petits, plus agiles et plus spécifiques à la fonction.

6 mois à partir de maintenant, vous pouvez placer vos paris sur ce qui va changer le monde à cet endroit. Comment un programme de régulation qui met un an à se développer peut-il rester pertinent, alors que la technologie l’a dépassé deux ou trois fois dans le temps d’élaboration ?

« J’hésite, je ne peux pas ça, Dave… »

KS :
Exactement. Une partie du point, une partie de la façon dont l’IA générative peut nous offrir d’excellents avantages, est qu’elle fait les choses beaucoup plus rapidement que les humains ne peuvent le faire. C’est donc extrêmement puissant, mais il y a aussi beaucoup de menaces parce que les individus ne comprennent pas ce qu’il fait et comment il le fait.

Plus précisément, il y a beaucoup de risques autour des données sur lesquelles l’IA générative est basée sur, en raison du fait qu’en fin de compte, c’est toujours un fabricant qui apprend des modèles et il glane ces modèles à partir des informations que vous lui offrez. Les gens oublient ça. Comme cela semble si humain, nous lui attribuons des qualités humaines, mais c’est vraiment de l’apprentissage automatique en fin de compte.

THQ :
C’est toute la préoccupation avec la condamnation par la Chine de l’innovation, n’est-ce pas ? Ils ne souhaitent pas en avoir une version dans le pays qui ne soit pas enseignée sur des concepts solidement socialistes. Donc, ce que vous obtiendrez lorsque vous lui poserez des questions, ce sont des réponses résolument socialistes, qui ne reflètent pas toujours « la vérité », comme nous le voyons en Occident.

KS :
Exactement. Cette idée de biais dans les données est très courante. Et du fait qu’il est génératif, parce qu’il produit du tout nouveau contenu, vous avez tendance à croire qu’il est également innovant et change les mentalités. Ce n’est pas. C’est en fait perpétuer la prédisposition qui existe actuellement dans les données dont vous l’alimentez. Il produit de plus en plus de exactement le même type de données.

THQ :

Provoquer un résultat en entonnoir avec le temps, où vous continuez à réduire l’objectif de les résultats que vous obtenez ?

KS :
Ouais, et les gens ne comprennent pas ça. L’IA est un domaine immense et nous l’utilisons actuellement dans de nombreux produits commerciaux. L’IA standard et non générative – l’IA que nous avons utilisée jusqu’à présent – est en fait une automatisation plus prédictive ou une connaissance de la machine spécifique à un domaine, dont la portée est vraiment étroite. Et c’est aussi très déterministe.

Vous pouvez informer en fonction de votre algorithme quels seront les résultats. Vous pouvez lui donner des objectifs et vous comprenez comment il va atteindre ces objectifs. Cela va simplement le faire plus rapidement et automatiser des choses qu’en tant qu’humain, vous n’avez pas besoin de faire.

Ce type d’IA est déjà sur le marché depuis un certain temps. La majorité des entreprises l’utilisent d’une manière ou d’une autre. Pratiquement tous les produits en contiennent.

Ce qui est nouveau, c’est ce que nous appelons l’IA générative, où elle découvre quelque chose à partir des données que vous lui offrez. Et ce n’est pas déterministe.

Cela ressemble à un tout-petit découvrant quelque chose, et même si vous informez le tout-petit de ne pas faire quelque chose, il pourrait vous écouter 10 ou 15 % du temps temps– et 85 % du temps ils ne vous écouteront pas. C’est donc de l’IA générative : elle se forge ses opinions propres.

Je veux dire, ce que nous pensons des points de vue – ce ne sont pas des points de vue, cependant il fonde ses conclusions sur des possibilités analytiques élevées, basées sur des modèles. Il essaie de prédire les modèles prochains.

IA générative : un tout-petit efficace ?

THQ :
Comme un tout-petit…

KS :
Et il le fait tout seul, via un réseau de neurones quelconque. Et puisqu’il fait cela, nous l’utilisons pour des domaines généraux comme le langage naturel ou la gestion d’images et des choses comme ça.

C’est là que nous avons vraiment besoin d’une politique, car lorsque vous appliquez quelque chose dans le domaine général , il a un potentiel remarquable pour produire des impacts positifs et défavorables.

Et quand vous avez quelque chose qui n’est pas déterministe, vous ne comprenez pas ce qu’il va faire.

THQ :
Et dans cette courte phrase, vous avez simplement décrit environ la moitié des récits dystopiques de science-fiction qui ont été composés au cours des six ou deux derniers mois.

Vous ne savez pas ce que cela va faire — et pourtant c’est pratiquement fini, utilisé pour une grande variété d’utilisations, soutenant des entreprises à travers le monde, utilisant des quantités massives de données d’entreprise de manière peut-être obscure.

KS :
C’est pourquoi la gestion de l’information va faire partie intégrante de l’avenir de l’IA générative, et pourquoi nous avons besoin de certaines protections de l’information sur place.

Dans la partie 2 de ce court article, nous explorerons les problèmes d’information potentiels qui l’utilisation de l’IA générative vous ouvre la voie à – et comment, en termes pratiques, vous pouvez vous défendre contre eux, tandis que les réglementations sont élaborées par les pouvoirs en place.

.

Toute l’actualité en temps réel, est sur L’Entrepreneur