Construire une intelligence artificielle frugale : une trajectoire stratégique

L’IA n’est plus une option pour les entreprises, mais la contrainte énergétique devient un enjeu business central

L’Intelligence Artificielle est désormais un levier transversal de performance pour toutes les fonctions de l’entreprise. Dans le secteur financier, l’IA est de plus en plus utilisée qu’il s’agisse d’estimer le risque de crédit, de lutter contre la fraude dans les paiements, de fixer les tarifs d’assurance ou d’évaluer la volatilité des actifs. Ne pas intégrer l’IA revient mécaniquement à perdre en productivité, en qualité de service et expérience utilisateur et en compétitivité. Mais un nouveau facteur s’impose brutalement dans l’équation économique : l’énergie (la facture dépend pour beaucoup des Joules dépensés pour faire tourner les logiciels d’IA)

Les modèles d’IA les plus visibles — notamment les grands modèles de langage généralistes — ont été construits par quelques acteurs disposant de ressources financières, matérielles et énergétiques hors norme. Pour la majorité des entreprises, la création de valeur ne se situe plus dans cette course au gigantisme, mais dans l’usage opérationnel de l’IA, c’est-à-dire dans l’inférence, au plus près des processus métier.

Or l’inférence est une activité continue, massifiée, directement corrélée aux volumes d’usage. Sans maîtrise, elle devient rapidement un poste de coûts incontrôlable (énergie, cloud, infrastructures, latence, dépendance fournisseurs). À performance métier équivalente, le choix d’un modèle surdimensionné peut multiplier les coûts énergétiques par 10 ou 20, sans gain opérationnel réel. La frugalité n’est donc pas un sujet environnemental périphérique : elle conditionne la rentabilité, la scalabilité et la pérennité économique des usages IA. Pour Denis Beau, (https://www.linkedin.com/in/denis-beau-b91073105/) Premier sous-gouverneur de la Banque de France, l’IA est une réelle source d’opportunité, mais aussi « un nouveau vecteur de risques ». Le risque environnemental de l’IA, encore mal quantifié faute de données et de standards communs, devient néanmoins de plus en plus préoccupant. Ces éléments invitent naturellement à un usage plutôt frugal de l’IA, c’est-à-dire, en premier lieu, à n’utiliser les systèmes d’IA que lorsque cela est nécessaire. L’entraînement et surtout l’usage massif des modèles d’IA générative, amplifié par l’utilisation régulière par des millions de clients, impose une approche frugale consistant à n’y recourir que lorsque la valeur métier le justifie.

La frugalité comme levier de performance, d’autonomie et de différenciation métier

La frugalité en IA ne consiste pas à « faire moins », mais à faire juste : choisir le bon modèle, la bonne architecture et le bon niveau de performance au regard du besoin métier réel. Les avancées récentes montrent qu’il est possible d’obtenir des résultats comparables avec des modèles beaucoup plus petits (SLM – Small Language Models), spécialisés, compressés, quantifiés, consommant beaucoup moins d’énergie et de ressources.

Pour les entreprises, cela ouvre des leviers concrets et immédiatement actionnables :

• Réduction du coût total d’usage (€/inférence, €/processus métier), en intégrant enfin l’énergie comme une variable économique à part entière.
• Amélioration de la scalabilité : une IA frugale permet de passer à l’échelle sans explosion linéaire des coûts d’infrastructure, de cloud et d’exploitation.
• Déploiement de l’IA embarquée et locale (objets connectés), indispensable pour les usages temps réel, les faibles latences et la résilience opérationnelle.
• Réduction de la dépendance aux « hyperscalers » grâce à une meilleure capacité d’arbitrage technologique et contractuelle.

Les exemples métiers montrent que la performance durable repose sur une logique de co-construction matériel / logiciel / usages métier. Qu’il s’agisse de grands groupes, de PME technologiques ou de startups, la frugalité devient un avantage compétitif structurel : elle permet de tenir les contraintes énergétiques, d’absorber les chocs de coûts, d’innover plus vite et d’attirer des talents experts.

C’est cette approche de co-construction avec les métiers que nous portons chez deepika.

Notre expérience dans le développement d’IA pour les métiers, nous a conduit à préconiser une approche Bottom-Up partant de la connaissance métier détenue par les experts métier et de bases de données métier. Cette démarche se fait en équipe Projet, faisant collaborer à la fois des experts métiers, des développeurs et un architecte IA en charge de la conception de modèle IA de connaissance et permet de se focaliser par construction sur les étapes apportant une vraie valeur utilisateur.

La clé n’est pas un état final, mais une trajectoire de frugalité : une feuille de route d’optimisation continue, alignée avec les priorités métiers. Les entreprises ne sont plus en concurrence uniquement sur leurs produits ou leurs modèles IA, mais sur leur capacité à améliorer durablement leur performance par watt, par euro et par usage.

Ainsi, face aux défis environnementaux et sociétaux que représente l’IA, le DataLab du Crédit Agricole s’est engagé dès 2022 dans une démarche de labellisation et de certification de ses pratiques RSE. Cette démarche porte sur l’intégralité du cycle de vie des IA, du cadrage (intégration de critères d’écoconception) au maintien en conditions opérationnelles en production (le projet « Reporting Infra » vise à réduire les ressources consommées par l’infrastructure de production). La banque veut s’assurer que les IA auront un impact positif sur la société tout en limitant les effets nocifs sur l’environnement.

Dans un contexte de tension énergétique, de dépendance technologique et de pression sur les marges, l’IA frugale s’impose ainsi comme un fondement stratégique de la compétitivité, bien au-delà des enjeux RSE. Les acteurs qui sauront structurer cette trajectoire aujourd’hui sécuriseront leur création de valeur demain ; les autres subiront leurs coûts.

Vous avez une idée de projet : https://www.deepika.ai/#Contact

A propos de Deepika :

Deepika est un Product Studio qui intervient sur vos situations métiers et vous assure une performance sur la durée en réalisant notamment le Co-développement et co-financement de solutions technologiques sur-mesure pour ses clients partenaires, via la modélisation du savoir-faire de leurs experts métiers Deepika est a même d’industrialiser ces solutions et de les transformer en produits, sur étagère, dopés à l’open source !