En 2017, l’audition du think tank The Shift Project par la commission Villani notait que « l’essor de l’IA renforçe les tendances observées : stockage et échange d’un volume croissant de données, augmentation de la puissance de calcul, pression sur le renouvellement des équipements pour augmenter les performances etc. » A la clé, une consommation accrue de la puissance électrique.
Pour rappel, les IA génératives doivent être entraînées par des modèles nécessitant des volumes colossaux de données (LLM) qui exigent beaucoup d’espace de stockage et de puissance de calcul dans les datacenters. Lesquels sont très majoritairement alimentés par des centrales électriques à charbon et à gaz, génératrices de grandes quantités de gaz à effet de serre (GES).
Dans la foulée de ChatGPT 3 en novembre 2022, le prestataire de services cloud américain TRG Datacenters, s'est penché sur les données relatives aux principaux chatbots IA actuels afin d'en savoir plus sur la manière dont ces outils utilisent l'électricité et leur consommation globale. Il s’agit, dans l’ordre du nombre de requêtes effectuées, de ChatGPT, Bing de Microsoft, Jasper, Bard de Google, Chatsonic, Socratic de Google et YouChat. Les différences sont notables. En premier lieu figure sans surprises ChatGPT4, utilisé par Bing de Microsoft qui consomme 7.200 MWh pour 16 millions de requêtes.
A comparer à la consommation moyenne d’une ville comme Nancy (200.000 MWh). Le modèle d’apprentissage de ChatGPT4 fait appel à 100 trillions de paramètres, un nombre astronomique, soit près de 6 fois plus que ChatGPT3. Pour information, la durée d’apprentissage d’OpenAI est d’environ 6 mois. Ainsi les 10.000 GPU (processeurs graphiques) V100 de Nvidia qui servent au calcul consomment 7.200 Mwh.
En deuxième position, ChatGPT3 consomme 1248 Mwh avec les mêmes règles de calcul.
Jasper, YouChat, Chatsonic de Writesonic ont une consommation d’électricité équivalente à celle de ChatGPT 3 et ChatGPT4.
Bard de Google avec ses 134 milliards de paramètres est le suivant par ordre de grandeur. Cette IA consomme 312 Mwh d’énergie électrique. Bard utilise des GPU TPUv4 (100 w de consommation par unité).
Socratic de Google à la plus basse consommation électrique
Cette autre IA du géant américain de Mountain View est le moins énergivore des chatbots étudiés dans le rapport de TRG qui indique une plage de consommation de 50 à 300 MWh pour Socratic. Il faut bien noter qu’il existe des centaines de milliers de chatbots reposant sur des IA et qui, même moins performants que ChatGPT3 ou 4, sont néanmoins très consommateurs d’énergie. Sur un plan écologique, reste à savoir quels modèles d’entraînement d’IA seront les moins énergivores et avec quels arbitrages.D’après Google, l'intelligence artificielle pourrait être responsable de la consommation énergétique de l'entreprise à hauteur de 10 à 15 %, soit 2,3 Twh. Pour avoir une idée de ce que cela représente, il s’agit de la consommation annuelle d’une partie d'Atlanta, soit
500 000 habitants.
Dans ces conditions, quid des objectifs de neutralité carbone dans les prochaines décennies avec des LLM de plus en plus énergivores ?
