Il y a de quoi se réjouir de l’utilisation de la chaleur résiduelle des centres d’information pour chauffer les bureaux à domicile, les structures universitaires, les lieux de travail du conseil et des milliers de foyers. La réalité qu’il y a tant de chaleur à faire est un problème important avec les processeurs informatiques traditionnels : leur consommation d’énergie. Et tandis que la course actuelle pour développer des systèmes de systèmes experts (IA) beaucoup plus efficaces a la possibilité de changer notre façon de travailler, les exigences énergétiques de ces efforts de calcul intensifs suscitent des inquiétudes. Les architectures informatiques inspirées par le cerveau pourraient venir à la rescousse en réduisant l’empreinte carbone de l’IA.
Pour comprendre pourquoi, elle mérite d’évaluer ce que nous savons sur le cerveau humain et de se plonger dans la façon dont il est capable d’effectuer quelque part dans la région de 1000 trillions d’opérations par seconde, tout en ayant l’apport énergétique d’une faible ampoule. Notre cerveau comprend des milliards de neurones, et chacune de ces cellules électriquement excitables peut se connecter à d’innombrables autres cellules nerveuses, ce qui rend possible la création de milliards de synapses. Et ces jonctions entre des cellules spécifiques peuvent devenir plus puissantes ou plus faibles, ce qui pèse sur les calculs effectués.
La biologie bat le silicium
La plasticité du cerveau – un durcissement et un assouplissement des nœuds du réseau de sorte que diverses entrées déclenchent différentes sorties – est représentée grossièrement par les poids et les prédispositions dans les réseaux de neurones profonds. Cependant, ce que la biologie peut réaliser en utilisant 20 W (l’apport énergétique approximatif d’un cerveau humain complètement développé) nécessite beaucoup plus d’énergie lorsque des efforts sont faits pour recréer ces schémas de pensée à l’aide de puces de silicium.
— quand IBM a lancé son » simulation de synapse à échelle humaine en 2012, il avait besoin d’un supercalculateur de pointe consommant des mégawatts d’énergie. Une autre façon de visualiser les insuffisances de l’utilisation du silicium est de penser que le cerveau du grand maître de Go Lee Sedol est 50 000 fois plus économe en énergie que les racks de CPU et de GPU nécessaires à Alpha Go de Deepmind pour le battre dans leur concours de 5 matchs tenu en 2016.
Ce besoin de puissance augmente rapidement à mesure que davantage de GPU sont déployés. Les observateurs du marché ont en fait noté que si les performances du GPU ont explosé, la consommation d’énergie aussi. En 2012, les systèmes consommaient environ 25 W de puissance, alors que les modèles actuels, avec des capacités de traitement exceptionnelles, consomment plusieurs centaines de watts. Et les progrès de l’IA générative, qui font un usage intensif de GPU efficaces, ont envoyé des demandes d’énergie sur une trajectoire beaucoup plus abrupte.
Cependant, comme indiqué, les concepteurs testent d’autres techniques pour utiliser des conceptions CPU et GPU conventionnelles . Il y a de nombreuses années, IBM et ses partenaires ont exposé une plate-forme neuro-synaptique appelée TrueNorth avec 1 million de cellules nerveuses, 256 millions de synapses et 4096 noyaux neuronaux parallèles et dispersés. Et la prise de courant ? Simplement 70 mW.
Avantages en mémoire
Le système met en évidence le potentiel des conceptions informatiques inspirées par le cerveau pour ouvrir un développement d’IA beaucoup plus économe en énergie. Des gains d’efficacité sont réalisés car le calcul et le stockage peuvent être colocalisés. « Il n’est pas nécessaire de développer une interaction entre le raisonnement et la mémoire, il suffit d’établir des connexions appropriées entre les différentes cellules nerveuses », explique Manuel Le Gallo, membre du groupe In-Memory Computing d’IBM. « En informatique conventionnelle, chaque fois que vous souhaitez effectuer un calcul, vous devez d’abord accéder à la mémoire, obtenir vos informations et les transférer au système de raisonnement, qui renvoie le calcul. Et chaque fois que vous obtenez un résultat, vous devez l’envoyer. retour à la mémoire. »
Les neurones synthétiques au sein de cette logique informatique inspirée par le cerveau peuvent être considérés comme des accumulateurs, efficaces pour incorporer plusieurs entrées. Et ces neurones se déclenchent lorsqu’un seuil spécifique est atteint, informé par le nombre et la force de ces signaux. Un autre avantage des systèmes neuromorphiques – des styles informatiques qui s’inspirent de la structure du cerveau – est leur capacité à traiter les entrées fortes, ce qui présente des avantages dans le traitement du signal.
Réduire le budget énergétique nécessaire pour former des algorithmes sur de grands ensembles de données – une étape nécessaire pour déclencher les pleines puissances des réseaux de neurones profonds – pourrait ouvrir la voie à de nouvelles opportunités de produits. Des puces informatiques inspirées par le cerveau avec des performances d’intelligence artificielle économes en énergie permettent d’utiliser des gadgets plus petits et plus portables au lieu de simplement s’appuyer sur une grande infrastructure offerte dans le cloud.
La tendance de l’industrie à intégrer des applications spécifiques Les circuits créés pour répondre aux exigences croissantes de l’IA peuvent être vus avec des puces telles que Loihi 2 d’Intel, les TPU de Google et l’A16 d’Apple, qui, selon le fabricant d’iPhone, fonctionnent avec un moteur neuronal à 16 cœurs. Cependant, il n’y a pas que les géants de la technologie qui progressent dans ce domaine. BrainChip fournit ce qu’il appelle le « silicium de pointe intelligent » qui exploite les avantages de l’informatique neuromorphique pour réduire le coût énergétique de l’IA.
Et puis il y a les possibilités de matériaux innovants au-delà du silicium pour pensez aussi, qui ont le potentiel de porter l’informatique inspirée du cerveau à un tout nouveau niveau. Hybrain réunit un large éventail de partenaires d’études de marché et de recherche pour vérifier les structures capables de traiter à la fois les signaux lumineux et électriques. Les structures photoniques offrent la capacité de lire les détails, qui peuvent ensuite être introduits dans un système électronique informatique analogique en mémoire.
L’informatique inspirée par le cerveau gagne en vitesse à mesure que les limites d’énergie du silicium conventionnel sont atteintes plus évident par la ruée vers la construction de conceptions d’IA génératives encore plus grandes et plus performantes. Et le bon côté est que les récompenses énergétiques mises sur la table par le traitement en mémoire ont la possibilité de réinitialiser les progrès de l’IA industrielle sur une voie plus durable.
.
Toute l’actualité en temps réel, est sur L’Entrepreneur
