Comment le RGESN permet-il de structurer une démarche d’écoconception autour de services IA ?

L’équipe projet choisit un référent sur les questions d’écoconception qui assure la mise en œuvre des mesures d’écoconception, leur suivi et leur pérennité. [1.3] 

Parmi les exigences à respecter, l’équipe peut se fixer des objectifs de réduction des impacts environnementaux pour le projet, ainsi qu’une méthodologie à suivre pour mesurer ces impacts. [1.5] 

Dans le cas où le projet veut intégrer une solution IA, il faut confronter les besoins à l’intérêt réel de l’IA. Les modèles d’IA ne sont qu’une des nombreuses ressources à notre disposition pour produire une solution de qualité. [1.1] 

De plus, l’architecture peut être pensée à la fois pour faciliter l’interopérabilité et réduire l’impact des composants, dépendances et ressources. [1.9] [3.1]

La section « Algorithmie » du RGESN explicite comment limiter les impacts de l’entraînement de modèles d’IA : 

• Peut-on se reposer sur des modèles pré-entraînés ? Quel est le gain de l’entraînement ? [9.1]

• Si l’entraînement est nécessaire, quelle méthode utiliser pour réduire la consommation d’énergie et de ressources ? [9.2]

• Comment optimiser et mesurer l’utilisation de ressources pendant la phase d’entraînement ? [9.3]

• Peut-on s’appuyer sur des données préexistantes ? Faut-il en collecter de nouvelles ? [9.4]

• Si un réentraînement régulier est nécessaire, quand le déclencher ? [9.5]

• Comment réduire la taille des modèles, qui ont une corrélation directe avec leur consommation de ressources ? [9.6]

L’utilisation de modèles distillés*, quantifiés* ou pré-entraînés réduit les ressources consommées pour leur utilisation.

Déployer des grands modèles de langage (LLMs) n’est pas chose aisée, en raison de leur taille (plusieurs centaines de giga-octets pour les plus importants), et de l’infrastructure à mettre en place pour les rendre accessibles. Il est plus aisé de se reposer sur des fournisseurs (LLM-as-a-service). Dans tous les cas, l’empreinte environnementale des serveurs sur lesquels vont tourner les modèles d’IA est à prendre en considération lors du choix du fournisseur. [8.1]  

Cela vaut pour la consommation électrique, mesurée par le Power Usage Effectiveness (PUE) que l’on veut proche de 1 [8.3], ainsi que pour la consommation d’eau pour refroidir les serveurs, mesurée par le Water Usage Effectiveness (WUE). [8.4]  

De plus, l’origine renouvelable et le pays de production de l’électricité consommée joue un rôle déterminant sur son empreinte environnementale. [8.5] [8.6] 

Afin d’assurer une meilleure compréhension du fonctionnement du service d’IA, l’utilisateur doit également être informé lorsqu’un traitement s’effectue en arrière-plan, ce qui garantit la transparence sur l’activité et les ressources mobilisées. L’affichage des étapes de traitement lors d’une requête à un LLM permet par exemple à l’utilisateur de suivre le bon déroulement du processus. [7.3]  

La mise en œuvre d’un système de cache côté serveur pour les requêtes les plus régulièrement formulées vise à optimiser les performances côté service tout en limitant la consommation de ressources. [7.1] 

Le prompt engineering* et le context engineering* permettent de formuler des requêtes plus efficaces aux modèles génératifs, en optimisant à la fois la pertinence des réponses et la frugalité du processus d’inférence. [9.7]

Lorsqu’un utilisateur prend en main la solution, il doit avoir un contrôle sur son emploi. Le RGESN pousse vers une expérience utilisateur responsable et transparente. Le service doit indiquer clairement lorsque certaines fonctionnalités présentent des impacts environnementaux significatifs, afin de sensibiliser l’utilisateur et d’encourager des usages plus responsables. [4.12]

De plus, il est important de fournir à l’utilisateur des outils lui permettant de contrôler ses usages et de suivre les impacts environnementaux qui en découlent ; pour une solution IA cela peut passer par l’affichage de la quantité de tokens consommés, et le partage du coût (en électricité, en eau, en GES, etc.) d’une requête. Cette démarche contribue à l’auto-régulation et à une prise de conscience accrue. [4.15]

Il est nécessaire de définir clairement la durée de conservation des données (discussions, consommation des tokens), afin de prévoir leur suppression ou leur archivage à échéance, dans le respect du RGPD et du RGESN. [7.2] 

Par ailleurs, le RGESN recommande d’adopter une stratégie de maintenance tout au long du cycle de vie, incluant les modalités de décommissions (des modèles, du service, etc.), pour assurer que le retrait ou désactivation du service se fasse de manière maîtrisée. [2.7]  

Enfin, il convient d’établir une stratégie d’archivage et de suppression des contenus obsolètes ou périmés (documents qui sont accessibles aux modèles, description des modèles, prompts systèmes, etc.), afin de maintenir la pertinence des informations stockées. [5.8]