lundi, 5 décembre 2022

Un tiers des chercheurs en IA pensent que l’IA pourrait provoquer des résultats « catastrophiques » à égalité avec la guerre nucléaire de ce siècle

Une enquête menée auprès de scientifiques et de scientifiques travaillant dans le domaine de l’intelligence artificielle (IA) a en fait découvert qu’environ un tiers d’entre eux pensent que cela pourrait déclencher une catastrophe comparable à une guerre nucléaire totale.

L’étude a été fournie aux scientifiques qui avaient co-écrit un minimum de 2 publications en linguistique computationnelle entre 2019 et 2022. Elle visait à connaître les points de vue de l’industrie sur des sujets discutables concernant l’IA et l’intelligence générale synthétique (AGI) — la capacité d’une IA à penser comme un humain — plus l’effet que les gens dans le domaine de la recherche pensent que l’IA aura sur la société dans son ensemble. Les résultats sont publiés dans un article préimprimé qui n’a pas encore fait l’objet d’un examen par les pairs.

Annonce

AGI, en tant que papier garde à l’esprit, est un sujet discutable dans le domaine. Il existe d’énormes divergences d’opinion sur la question de savoir si nous avançons vers cela, si c’est quelque chose que nous devrions viser du tout, et ce qui se passerait lorsque l’humanité y parviendrait.

« Le quartier dans son ensemble sait que c’est une préoccupation controversée, et maintenant (grâce à cette étude) nous pouvons comprendre que nous comprenons que c’est controversé », a composé l’équipe dans ses recherches. Parmi les conclusions (assez divisées), 58 % des participants ont convenu que l’AGI doit être un problème important pour le traitement du langage naturel, tandis que 57 % ont convenu qu’une étude récente nous avait en fait conduits vers l’AGI.

Là où cela devient intéressant, c’est la façon dont les chercheurs en intelligence artificielle pensent que l’IAG affectera le monde dans son ensemble.

Publicité

 » 73 pour cent des personnes interrogées conviennent que l’automatisation du travail par l’IA pourrait vraisemblablement conduire à un changement sociétal révolutionnaire au cours de ce siècle, au minimum à l’échelle de la révolution industrielle « , ont écrit les scientifiques à propos de leur étude.

Pendant ce temps, un non -trivial 36% des participants ont convenu qu’il est possible que l’IA produise des résultats dévastateurs au cours de ce siècle, « au niveau d’une véritable guerre nucléaire ».

Ce n’est pas la chose la plus réconfortante lorsqu’un pourcentage important d’un champ pense que cela pourrait causer des dommages à l’humanité. Cependant, dans la section des commentaires, certains répondants se sont opposés à la formulation de  » guerre nucléaire à part entière « , affirmant qu’ils  » seraient d’accord avec des formulations moins sévères de la préoccupation « .

Annonce

 » Cela suggère que notre résultat de 36 % est une sous-estimation des répondants qui s’inquiètent sérieusement des effets défavorables des systèmes d’IA « , a écrit l’équipe.

(peut-être avec un excellent facteur) prudents quant aux conséquences désastreuses potentielles de l’IAG, les chercheurs ont convenu à une écrasante majorité que le traitement du langage naturel a  » un impact global favorable sur le monde, à la fois jusqu’à aujourd’hui (89 %) et dans le futur (87 %). « 

 » Bien que les opinions soient anticorrélées, une minorité considérable de 23 % des répondants étaient d’accord avec Q6-2 [que l’AGI pourrait être catastrophique à égalité avec une guerre nucléaire totale] et Q3-4 [que la PNL a une influence totalement favorable sur le monde] », ont écrit les scientifiques, « recommandant qu’ils pourraient penser que la capacité de la PNL à avoir un effet positif est si formidable qu’elle surpasse même les menaces plausibles à la civilisation. « 

Annonce

Pour n’en citer que quelques-unes, 74 % des scientifiques de l’IA pensent que le secteur économique affecte trop fortement le domaine, et que 60 % pensent que l’empreinte carbone de la formation de grands modèles doit être un problème important pour les chercheurs en PNL.

Le document est publié sur le serveur de pré-impression arXiv

Toute l’actualité en temps réel, est sur L’Entrepreneur

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici