Plus tôt dans la journée, j’ai signé la « Time out Letter » émise par le Future of Life Institute en contactant tous les laboratoires d’IA pour suspendre leur formation sur les systèmes d’IA à grande échelle pendant au moins 6 mois.
Dès que la lettre a été publiée, j’ai été inondé de questions me demandant pourquoi je pense que l’industrie a besoin d’un « temps mort » et si un hold-up comme celui-ci est même pratique. Je veux donner mon point de vue ici, car je vois cela un peu différemment de beaucoup.
Je ne crains pas que ces systèmes d’IA à grande échelle soient sur le point de finir par être sensibles, développant tout d’un coup une volonté propre et tourner leur colère contre la race humaine. Cela dit, ces systèmes d’IA n’ont pas besoin d’une volonté propre pour être nuisibles ; ils ont juste besoin d’être maniés par des humains contraires à l’éthique qui les utilisent pour influencer, saper et contrôler le grand public.
Il s’agit d’un danger extrêmement réel, et nous ne sommes pas tous prêts à le gérer. Si je suis tout à fait sincère, je veux que nous ayons encore quelques années pour nous préparer, mais six mois, c’est mieux que rien. Après tout, une modification technologique majeure est sur le point de frapper la société. Ce sera tout simplement aussi considérable que la transformation du PC, la transformation d’Internet et la transformation du téléphone portable.
Événement
Transformer 2023
Rejoignez-nous à San Francisco les 11 et 12 juillet, où des cadres supérieurs expliqueront comment ils ont réellement intégré et amélioré l’IA financière investissements pour réussir et éviter les erreurs typiques.
Inscrivez-vous maintenant Cependant
contrairement à ces transitions précédentes, qui
S’est produite au fil des années et même des années, la révolution de l’IA va déferler sur nous comme une avalanche tonitruante de modifications. Taux de modification inégalé Cette avalanche est déjà
en mouvement. ChatGPT est actuellement
le LLM (Large Language Design) le plus populaire pour entrer dans la sphère publique. Incroyablement, il a atteint 100 millions d’utilisateurs en seulement 2 mois. Pour le contexte, il a fallu 5 ans à Twitter pour atteindre ce tournant. Nous connaissons clairement un taux de modification sans précédent dans l’industrie informatique. En conséquence, les régulateurs et les décideurs politiques ne sont profondément pas préparés aux modifications et aux dangers qui nous attendent. Pour rendre la difficulté à laquelle nous sommes confrontés aussi claire que possible, je trouve utile de considérer les dangers
dans 2 catégories uniques : les dangers associés aux systèmes d’IA générative qui peuvent produire du contenu de niveau humain et remplacer l’humain- travailleurs de niveau
décrite la capacité des LLM à créer du matériel initial en action pour répondre aux demandes humaines. Le contenu généré par l’IA va désormais des images, des illustrations et des vidéos aux essais, à la poésie, aux logiciels informatiques, à la musique et aux courts articles scientifiques. Dans le passé, le contenu génératif était remarquable mais pas acceptable en tant que sortie au niveau humain. Tout cela a changé au cours des douze derniers mois, les systèmes d’IA finissant soudainement par être capables de développer des artefacts qui peuvent
facilement nous tromper, nous faisant penser qu’il s’agit soit d’authentiques développements humains, soit de vraies vidéos ou images capturées dans le monde réel. Ces capacités sont maintenant déployées à grande échelle, créant un certain nombre de dangers importants pour la société. Une menace apparente est le marché des tâches. Cela est dû au fait que les artefacts de qualité humaine développés par l’IA réduiront les besoins en travailleurs qui auraient créé ce contenu. Cela affecte une grande variété de professions, des artistes et écrivains aux programmeurs et analystes monétaires. En réalité, une toute nouvelle étude de recherche d’Open AI, OpenResearch et de l’Université de Pennsylvanie a vérifié l’effet de l’IA sur le marché du travail américain en comparant les capacités du GPT-4 aux exigences des tâches. Ils estiment que 20 % de la main-d’œuvre américaine auront au moins 50 % de leurs emplois
affectés par le GPT-4, les emplois à revenu plus élevé subissant des effets plus importants. Ils se rapprochent encore plus du fait que « 15 % de toutes les tâches des employés » aux États-Unis pourraient être effectuées plus rapidement, à moindre coût et avec une qualité égale en utilisant l’innovation de niveau GPT-4 d’aujourd’hui. Des erreurs subtiles aux fabrications sauvages L’impact imminent sur les emplois est profondément préoccupant, mais ce n’est pas la raison pour laquelle j’ai signé la Time out Letter. L’inquiétude la plus urgente est que le matériel généré par l’IA peut sembler authentique et fréquemment rencontré comme fiable, et pourtant il peut facilement contenir des erreurs précises.
Aucune exigence de précision ou aucun organe directeur n’est en place
emplacement pour aider à s’assurer que ces systèmes – qui deviendront une grande partie de la main-d’œuvre internationale – ne propageront pas les erreurs, des erreurs subtiles aux fabrications sauvages. Nous avons besoin de temps pour mettre en place des garanties et renforcer les autorités de réglementation afin de garantir que ces défenses sont utilisées. Un autre grand risque est la capacité des mauvais acteurs à créer intentionnellement un contenu défectueux avec des erreurs factuelles dans le cadre de projets d’influence générés par l’IA qui diffusent de la propagande, de la désinformation et des mensonges éhontés.
Les mauvais acteurs peuvent actuellement le faire, mais l’IA générative permet de le faire à grande échelle, inondant le monde de matériel qui semble
fiable et pourtant entièrement fabriqué. Cela atteint les deepfakes dans lesquels des personnalités publiques peuvent être amenées à faire ou à déclarer n’importe quoi dans des images et des vidéos pratiques. L’IA étant progressivement expérimentée, le grand public n’aura bientôt plus d’autre moyen de distinguer le réel de l’artificiel. Nous avons besoin de systèmes de filigrane qui reconnaissent le contenu généré par l’IA comme synthétique et permettent au grand public de savoir quand (et avec quels systèmes d’IA) le matériel a été produit. Cela suggère que nous avons besoin de temps pour placer les titres en place et renforcer les autorités de régulation
pour imposer leur utilisation. Les menaces de l’impact conversationnel Permettez-moi de passer aux systèmes d’IA conversationnelle, une forme d’IA générative qui peut engager les utilisateurs dans un dialogue en temps réel via le chat textuel et le chat vocal. Ces systèmes ont tout récemment avancé au point où l’IA peut tenir une conversation significative avec les êtres humains, en gardant un œil sur la circulation et le contexte de la conversation au fil du temps.
Ces technologies m’inquiètent le plus car elles présentent une toute nouvelle forme d’influence ciblée à laquelle les régulateurs ne sont pas préparés : l’impact conversationnel. Comme chaque vendeur le comprend, la meilleure façon de convaincre quelqu’un d’acheter quelque chose ou de penser quelque chose est de l’engager dans une discussion afin que vous puissiez faire valoir vos arguments, observer ses réponses et ensuite ajuster vos tactiques pour répondre à sa résistance ou à ses problèmes. Avec la sortie de GPT-4, il est désormais très clair que les systèmes d’IA pourront engager les utilisateurs dans des discussions authentiques en temps réel comme une sorte d’influence ciblée. Je crains que des tiers utilisant des API ou des plugins ne transmettent des objectifs promotionnels à ce qui semble être des discussions naturelles, que les utilisateurs sans méfiance seront contrôlés pour acheter des articles qu’ils ne veulent pas, s’inscrire à des services dont ils n’ont pas besoin ou qu’ils croient
informations fausses. Le problème de manipulation de l’IA Je le décris comme le problème de contrôle de l’IA – et il a fini par devenir une menace immédiate. C’est parce que la technologie existe maintenant pour déployer des projets d’influence conversationnelle qui nous ciblent individuellement en fonction de nos valeurs, de nos intérêts, de notre histoire et de nos antécédents pour améliorer l’effet persuasif. À moins d’être contrôlées, ces technologies seront utilisées pour favoriser des méthodes de vente prédatrices, de la propagande, de la désinformation et des mensonges éhontés. Si elles ne sont pas contrôlées, les discussions axées sur l’IA pourraient devenir la forme de persuasion ciblée la plus puissante que nous, les humains, ayons jamais produite. Nous avons besoin de temps pour mettre en place des directives, interdisant ou limitant fortement l’utilisation de l’influence conversationnelle médiée par l’IA. Oui, j’ai signé la Time out Letter, plaidant pour un délai supplémentaire pour sécuriser la société. La lettre fera-t-elle une différence? Il n’est pas clair si l’industrie
acceptera un délai de six mois, mais la lettre attire l’attention mondiale sur le problème. Et honnêtement, nous avons besoin d’autant de sonnettes d’alarme que possible pour inciter les régulateurs, les décideurs et les leaders du marché à agir. C’est peut-être positif, mais j’espère que de nombreux acteurs majeurs apprécieront un peu de répit pour garantir qu’ils obtiennent ces innovations. La vérité est que nous avons besoin de pacifier la course aux armements actuelle :
Cela entraîne des déploiements de plus en plus rapides de systèmes d’IA dans la nature, poussant certaines entreprises à aller plus vite qu’elles ne le devraient.
Toute l’actualité en temps réel, est sur L’Entrepreneur
