Près de 200 dirigeants, scientifiques et data scientists de l’IA ont signé une lettre ouverte publiée mardi dernier par le « Accountable AI Neighbourhood », qui, en plus de condamner « la violence la plus récente d’Israël contre les Palestiniens à Gaza et « Nous condamnons également l’utilisation de technologies basées sur l’IA pour mener des guerres, dont l’objectif est de rendre la perte de vies humaines plus efficace, et les cas dans lesquels les préjugés anti-palestiniens se perpétuent à travers l’IA. systèmes. »
La lettre, qui semble avoir été initialement distribuée par Tina Park, responsable de l’étude de recherche inclusive et de la conception au Partenariat sur l’IA, exige le retrait du soutien à l’innovation au gouvernement fédéral israélien et la fin du accords de défense avec le gouvernement et les forces armées israéliens. Il indique également que « l’histoire n’a pas commencé le 7 octobre 2023, mais que la crise actuelle reflète l’ampleur et l’ampleur effroyables de la violence rendue possible par l’utilisation d’innovations basées sur l’IA ». L’utilisation par le gouvernement fédéral israélien de l’innovation basée sur l’IA, poursuit la lettre, a « conduit à des frappes contre plus de 11 000 cibles à Gaza depuis le début du dernier conflit le 7 octobre 2023 ».
Les signataires de la lettre sont Timnit Gebru, scientifique en éthique de l’IA et fondateur du DAIR (The Distributed AI Research Study Institute) ; Alex Hanna, directeur de recherche à DAIR; Abeba Birhane, chercheur principal en IA fiable à la Fondation Mozilla ; Emily Bender, professeur de linguistique à l’Université de Washington ; et Sarah Myers West, directrice générale de l’AI Now Institute.
Les dirigeants israéliens et juifs d’IA ont en fait renoncé à cette lettre.
Les dirigeants israéliens et juifs d’IA, dont certains font également partie de l’éthique de l’IA. /communauté responsable de l’IA, ont rejeté la lettre, affirmant qu’il s’agit d’un exemple de plus dans une série d’exemples d’éminents éthiciens de l’IA soit « applaudissant » les attaques du Hamas contre Israël le 7 octobre, soit gardant le silence à leur sujet. La lettre ouverte ne mentionne pas les captifs israéliens détenus à Gaza, ni ne condamne le Hamas pour les attaques du 7 octobre.
Événement VB
Le AI Effect Trip
Entrez en contact avec la communauté IA d’entreprise lors du AI Impact Trip de VentureBeat concernant une ville près de chez vous !
Découvrez plus de Jules
Polonetsky
, PDG de le Forum sur l’avenir de la vie privée, a déclaré qu’il était « profondément bouleversant que cette lettre ne s’engage pas un seul mot à condamner le massacre perpétré par le Hamas ». En outre, a-t-il déclaré, « il y a certainement des préoccupations morales complexes à prendre en compte lorsque la technologie est utilisée dans un conflit militaire », mais « une bordée unilatérale comme celle-ci ne fait malheureusement pas grand-chose pour faire la lumière sur la voie à suivre pour mettre fin à l’effusion de sang ».
Yoav Goldberg, professeur à l’université Bar Ilan et directeur de recherche à AI2-Israël, a également souligné qu’une grande partie des « systèmes d’IA » ou des « systèmes de surveillance » expliqués dans la lettre ont « très probablement sauvé d’innombrables Palestiniens ». vies. » Il a déclaré qu’il était utilisé des innovations spécifiques en matière d’IA – ou des interfaces collectives IA-humain – pour tenter de suivre les captifs. « Trouver des otages permettra d’accélérer les choses et de sauver des vies », a-t-il déclaré. L’IA est également utilisée pour parcourir les roquettes, a-t-il ajouté, ce qui les rend plus susceptibles de frapper leurs cibles et non des individus aléatoires, tandis que l’IA est utilisée pour apparaître comme des cibles. « Cela signifie que Tsahal peut cibler de véritables cibles militaires et non des cibles aléatoires », a-t-il expliqué.
Enfin, il a expliqué qu’avant le 7 octobre, « de nombreuses attaques, probablement à plus petite échelle, ont été évitées, probablement également grâce à l’utilisation de systèmes impliquant « l’IA », notamment en matière de renseignement ». Les attaques évitées, a-t-il expliqué, empêchent également les représailles israéliennes : « Imaginez un système théorique qui aurait eu la capacité de notifier/d’avertir à l’avance du 7 octobre – nous n’aurions pas réellement été dans cette guerre maintenant », a-t-il déclaré.
Et Shira Eisenberg, une ingénieure en IA actuellement basée à Washington DC et également membre du conseil scientifique de l’Association israélienne pour l’éthique de l’intelligence artificielle, a ajouté que « l’IA est une innovation vitale en temps de guerre et est également utilisé pour assimiler les messages russes interceptés à la guerre en Ukraine. Elle a convenu qu’Israël doit être responsable de son utilisation de l’IA, « mais exclure une utilisation en temps de guerre, c’est mettre en danger la sécurité de nombreuses personnes ». Elle a évoqué des systèmes tels que le Dôme de fer israélien, alimenté par l’IA, qui intercepte fréquemment les roquettes lancées depuis Gaza vers Israël.
Certains qualifient d’antisémites des éléments de la lettre et des commentaires sur les réseaux sociaux
En outre, nombre de ces dirigeants israéliens et juifs d’IA déclarent qu’ils se sont sentis stupéfaits. , peiné et déçu par les propos sur les réseaux sociaux depuis le 7 octobre qu’ils considèrent comme antisémites, unilatéraux et extrêmement insensibles, publiés par certains des mêmes scientifiques de l’IA et leaders de l’industrie qui ont signé la lettre ouverte.
« Dès les premières semaines, moi-même et de nombreuses autres personnes en Israël, en particulier dans le monde universitaire et dans les cercles de gauche israéliens, avons été entièrement choqués par cela », a déclaré Goldberg. « Nous nous sommes sentis trahis. Nous nous sommes sentis déconcertés. Nous nous sommes sentis seuls. Comment des gens que nous comprenons, avec qui nous pensions partager des valeurs, peuvent-ils faire preuve d’un jugement éthique aussi faible ? Comment peuvent-ils être unilatéraux ? Comment peuvent-ils être si superficiels ? Maintenant … Je ne suis plus surpris. Je ne suis pas indigné. Je suis juste extrêmement très triste et extrêmement insatisfait. »
Eran Toch, professeur agrégé à l’Université de Tel Aviv, dont les recherches se concentrent sur la frontière entre les êtres humains et les ordinateurs, en se concentrant sur la confidentialité et la sécurité fonctionnelles, l’apprentissage automatique et la sécurité en ligne, a ajouté : « Je pense que cela rend Les membres israéliens de l’important quartier d’IA se sentent très seuls. » En Israël, comme ailleurs, a-t-il déclaré, « les gens de cette communauté sont plus politiques et plus progressistes que les autres », a-t-il déclaré. « Le fait que des gens que nous croyions faire partie de notre quartier n’aient montré absolument aucune empathie ni curiosité à l’égard de notre expérience pique amèrement. » De nombreux Israéliens attachés aux principes de l’IA, a-t-il déclaré, « tentent de lutter pour une résolution du différend avec les Palestiniens et des droits de l’homme, notamment numérique pour les Palestiniens et les Israéliens. Il est difficile d’y parvenir sans alliés extérieurs ». Au-delà de la politique, ajoute-t-il, « beaucoup s’inquiètent, et j’ai été victime de discrimination dans les cercles d’experts. Les individus examinent nos documents comme s’il s’agissait d’une bataille de fils sur les réseaux sociaux ».
En outre, il s’est déclaré « particulièrement préoccupé » par ce qu’il considère comme une « théorie du complot qui se propage dans les lettres anti-israéliennes écrites par des membres de la communauté ». L’idée, a-t-il expliqué, est qu’Israël « est l’épicentre de la technologie inhumaine de l’IA, utilisée contre les Palestiniens, puis contre d’autres individus dans le Sud global. Cette théorie répète des tropes antisémites vieux de plusieurs siècles qui relient les Juifs, la technologie et l’oppression. « . Même s’il reconnaît qu’Israël est un centre technologique, dont il est lui-même vital, les technologies ne sont « pas différentes de celles produites dans la Silicon Valley ou à Londres ». Présenter le concept d’Israël comme le cerveau de l’IA « est une théorie du complot que je vois actuellement se propager dans des cercles profondément antisémites. Je crois que ces lettres menacent ».
VentureBeat a contacté Gebru et Hanna pour commentaires. Alors qu’Hanna n’a pas répondu officiellement, Gebru a réagi en disant « Je ne vais pas m’engager. Assez, c’est assez. Nous voyons les choses de nos propres yeux et les étudiants (principalement de couleur) sont sans cesse harcelés et doxxés. Je vais me concentrer sur mon aide aux Palestiniens.
Une fracture au sein de la communauté de l’IA
Certains voient ces problèmes provoquer une fracture, ou un schisme, au sein de la communauté de l’IA et de la communauté technologique en général, Ce chiffre n’a cessé de croître depuis le 7 octobre. Le mois dernier, par exemple, de nombreux leaders de l’IA se sont retirés du Web Top à Lisbonne, la principale conférence européenne sur l’innovation. Cette décision a été prise en réponse au fondateur et PDG de l’événement, Paddy Cosgrave, qualifiant les actions d’Israël suite à l’attaque terroriste surprise du Hamas du 7 octobre de « crimes de guerre ».
« Je vois définitivement cela comme un schisme dans la communauté de l’IA et le monde technologique en général », a déclaré Eisenberg. « Le capital-risque a également été touché, avec des personnalités populaires qui se sont prononcées des deux côtés du problème. Je ne dirais pas que cela soit très problématique pour la communauté de l’IA – ce n’est pas aussi dissident que la ligne accélérationniste/décélérationniste, mais c’est un problème majeur. fracture. »
Dan Kotliar, un scientifique de l’Université de Haïfa qui mène des recherches critiques sur les algorithmes (et se décrit comme un militant pacifiste israélien qui réside dans une ville judéo-arabe dans une école où 50 % des étudiants sont arabes). ), a déclaré que dans mes recherches sur l’éthique israélienne de l’IA, il « avait l’habitude de désigner ces éthiciens et leurs organisations comme une sorte d’exigence en or – en supposant qu’ils viennent d’une croyance incontestable dans des valeurs universelles et humanistes ». Cependant, a-t-il poursuivi, « leur aide implicite au terrorisme de type ISIS du Hamas pose un énorme point d’interrogation quant à leur éthique et à leur capacité à diffuser cette éthique auprès des techniciens et des scientifiques du monde entier. Oui, je pense que les techniciens ne peuvent plus regarder ces éthiciens de la même manière, à moins qu’ils ne souhaitent activement que leurs algorithmes soient préjudiciables aux Juifs d’Israël. »
En d’autres termes, a-t-il ajouté, » quand certains des la plupart des partisans ardents de Accountable AI alimentent par ignorance et de manière irresponsable l’extrémisme au Moyen-Orient, lorsque les meilleurs éthiciens de l’IA ne peuvent pas dénoncer des actes horribles de meurtre, de viol, de mutilation et d’enlèvement d’enfants, de jeunes enfants et de personnes âgées, cela indique qu’il y a quelque chose de significatif enfreint les principes actuels de l’IA. civils de la bande de Gaza et d’Israël, a mentionné que dans ses écrits, il était essentiel à la privatisation et à la marchandisation des outils de surveillance basés sur l’IA en Israël. « Cependant, je pense que toute personne sensée peut comprendre pourquoi un État-nation avec Isis- comme les entreprises à ses frontières, nécessite de telles innovations », a-t-il déclaré. « J’ai donc lu cette lettre comme un nouvel appel malveillant à affaiblir Israël, et une fois de plus, la légitimation implicite des actions du Hamas en fait un appel à nous expulser de chez nous par toutes les méthodes possibles. »
Dans les cercles d’étude de la recherche sur l’IA, « il n’y a pas de place pour pleurer et être humain »
Talia Ringer, professeure adjointe en technologie informatique à l’Université de l’Illinois à Urbana-Champaign, déclare que même s’ils sont en accord politique général avec de nombreux signataires de la lettre, ils sont également israélo-américains et ont en fait trouvé leurs commentaires sur les réseaux sociaux « incroyablement difficiles ».
Le 7 octobre, ils ont déclaré : « J’ai ressenti une sorte de panique et de misère que je ne peux pas commencer à expliquer. J’ai découvert que deux beaux-parents de ma maison manquaient à l’appel. Plus tard, ils ont été retrouvés. morts – et plus d’un grand nombre de copains d’un tout premier cousin ont tous été tués le même jour. Une famille a en fait été brûlée vive.
Dans les cercles de recherche sur l’IA, on disait : « Je n’ai aucun endroit où pleurer et être humain. » Avant même qu’Israël ne réagisse le 7 octobre, a-t-elle ajouté, « mes cercles d’amis en ligne dans ce quartier d’étude [étaient inondés] au mieux de déni et au pire de célébrations de ces morts. J’étais dérangée et mise sur écoute pour arrêter de me « concentrer ». Des individus à qui je pensais depuis des années ont commencé à propager (accidentellement, je présume) des théories du complot antisémites selon lesquelles Israël aurait attaqué ses propres citoyens le 7 octobre, et j’ai perdu des amis pour avoir qualifié cela d’antisémitisme flagrant. avec une motion de paix commune israélo-palestinienne, qui a été un endroit merveilleux rempli d’espace pour le chagrin, la douleur et la peur de chacun et pour l’humanité tout entière. »
Néanmoins, Ringer a déclaré qu’il ne trouvait personnellement pas cette lettre ouverte particulière « trop répréhensible ». Il est vraiment essentiel d’être « préoccupé par l’utilisation de la technologie dans la guerre et l’assujettissement d’un individu », ont-ils déclaré. Ils ont toutefois souligné qu’ils étaient découragés par la phrase « l’histoire n’a pas commencé le 7 octobre », qui est « un peu trop dédaigneuse quant à la détresse de cette journée et aux connotations légèrement conspiratrices qui pourraient perpétuer même les théories du complot antisémites ». plus. »
Néanmoins, ils ont ajouté qu’« il est difficile pour moi d’apprécier l’IA aujourd’hui alors qu’elle a entièrement consumé ma vie depuis le 7 octobre. Je veux simplement que cela se termine. Je ne sais pas quelle est la prochaine étape. J’ai J’ai définitivement perdu des amis proches dans la communauté. Je ne comprends pas si nous nous pardonnerons mutuellement. Je ne sais pas ce que cela impliquera pour le quartier plus tard. Tout cela semble loin pour le moment.
La mission de VentureBeat est d’être une place publique numérique permettant aux décideurs techniques d’acquérir des connaissances sur l’innovation transformatrice des entreprises et de négocier. Découvrez nos aperçus.
.
Toute l’actualité en temps réel, est sur L’Entrepreneur