L’intelligence artificielle s’est imposée comme un moteur de transformation majeur dans le monde des affaires, promettant des gains significatifs en productivité, innovation et compétitivité. Alors que de plus en plus de CSI en EMEA sont désormais chargés de piloter des stratégies IA dans leur organisation
(source : Gartner), nombre d’entre eux se heurtent à des obstacles techniques, humains et financiers. La complexité des technologies, la gestion des coûts exponentiels, la protection des données et la résistance au changement au sein des équipes figurent parmi les principales difficultés rencontrées.

Dans un contexte où l’IA pourrait redéfinir les modèles d’affaires et transformer des industries entières, ces enjeux exigent des approches stratégiques et des solutions pragmatiques. Cet article explore l’état actuel du marché de l’IA et les défis que les DSI doivent relever pour concrétiser les promesses de cette révolution technologique.

Une récente étude Gartner, menée au deuxième trimestre 2024 auprès
de 451 responsables technologiques seniors dans la région EMEA (Europe, Moyen-Orient et Afrique), révèle que 45 % des DSI sont désormais chargés de piloter une stratégie d’IA au sein de leur entreprise. Cependant, quatre défis majeurs émergent, rendant difficile la création de valeur avec l’IA.

Une innovation effrénée face à des résultats parfois décevants

Lors du Gartner IT Symposium/Xpo à Barcelone, Alicia Mullery, vice-présidente de la recherche chez Gartner, soulignait la pression constante exercée par la course à l’innovation technologique : « Les DSI se retrouvent souvent à vivre le battage médiatique autour de l’IA, alors que la réalité des résultats est bien plus ardue ». Daryl Plummer,
vice-président distingué chez Gartner, a, quant à lui, insisté sur l’importance pour les DSI de maîtriser le rythme de leur « course aux résultats en IA ».

Il estime que les organisations aux ambitions modestes peuvent adopter un rythme mesuré (IA-steady). Tandis que les entreprises opérant dans des secteurs transformés par l’IA devront opter pour un rythme accéléré (IA-accelerated). Dans tous les cas, que l’approche soit prudente ou volontariste, l’objectif reste le même : générer de la valeur
tangible grâce à l’IA.

Gérer les bénéfices de l’IA comme un portefeuille d’investissement

Selon une enquête menée par Gartner auprès de plus de 5 000 travailleurs numériques dans cinq pays (Royaume-Uni, États-Unis, Inde, Australie, Chine), les employés économisent en moyenne 3,37 heures par semaine grâce aux outils d’IA générative. Cependant, ces gains sont loin d’être uniformes. Tout d’abord, il existe des inégalités selon les profils : les bénéfices varient selon le niveau d’expérience, la complexité des tâches ou encore l’intérêt personnel.

Ensuite, au-delà de la productivité, les organisations axées sur l’IA cherchent également à transformer leurs processus métiers et à créer de nouvelles sources de revenus. Pour maximiser ces gains, Gartner conseille de gérer les bénéfices de l’IA comme un portefeuille d’investissements, en équilibrant risques et récompenses.

Une explosion des coûts difficile à maîtriser

La maîtrise de ses coûts devient un casse-tête majeur pour les directions des systèmes d’information. Une enquête menée par Gartner révèle que plus de 90 % des DSI considèrent la gestion budgétaire de l’IA comme un frein important à sa valorisation. Cette contrainte s’explique par la complexité des technologies en jeu et par la méconnaissance des différents postes de dépenses qu’elles impliquent. Les entreprises sous-estiment souvent l’ampleur des frais liés à la puissance de calcul nécessaire pour entraîner et exploiter des modèles génératifs, à la gestion des données ou encore aux licences logicielles. Selon Gartner, cette situation peut conduire à des erreurs d’estimation considérables, comprises entre 500 % et 1 000 %, mettant en péril les budgets technologiques et les projets stratégiques qui en dépendent.

L’un des principaux défis réside dans la transparence des coûts. La consommation de ressources dans le cloud, par exemple, représente une dépense exponentielle, en particulier pour les modèles d’IA nécessitant une utilisation intensive de GPU ou de TPU. S’ajoutent à cela les coûts de stockage et de traitement des données, ainsi que ceux liés à la sécurisation des flux d’informations. À ces dépenses directes viennent s’ajouter des frais indirects souvent sous-évalués, comme les formations des équipes, les adaptations nécessaires des infrastructures IT et le développement de cas d’usage spécifiques.

Une analyse détaillée de chaque poste de dépense
lié à l’IA

Pour surmonter ces difficultés, Gartner recommande aux DSI de procéder à une analyse détaillée de chaque poste de dépense lié à l’IA. Une décomposition méthodique des coûts permet de mieux comprendre les mécanismes de tarification pratiqués par les éditeurs et les fournisseurs de cloud. Cela leur donne également les moyens de négocier des tarifs plus adaptés à leurs besoins, par exemple via des abonnements sur mesure ou des forfaits prépayés. Cette première étape est essentielle pour identifier les marges de manœuvre et limiter les gaspillages.

Par ailleurs, avant de déployer une solution IA à grande échelle, il est crucial de tester son coût via des preuves de concept bien conçues, conseille le cabinet d’étude. Ces projets pilotes doivent permettre d’évaluer non seulement la faisabilité technique, mais aussi l’évolutivité des dépenses en cas d’augmentation de l’adoption ou de la montée en charge des systèmes. En parallèle, les DSI doivent mettre en place des indicateurs de suivi rigoureux pour anticiper et maîtriser les dépassements budgétaires.

Sur le long terme, la mise en place d’une véritable gouvernance financière de l’IA s’impose. Cela passe par l’instauration de comités dédiés au suivi des coûts technologiques, l’intégration de modèles prédictifs pour surveiller les dépenses en temps réel et le déploiement de solutions d’automatisation afin de réduire les frais opérationnels récurrents. Cette approche permet aux entreprises de rester agiles face aux évolutions rapides des technologies d’IA, tout en garantissant un retour sur investissement mesurable.

La maîtrise des coûts liés à l’IA n’est pas seulement une question de contrôle budgétaire, mais également une opportunité pour les DSI de démontrer la valeur stratégique de leurs initiatives. En adoptant une approche proactive et rigoureuse, ils pourront transformer ce défi en avantage concurrentiel, tout en renforçant la confiance des parties prenantes dans le potentiel de l’intelligence artificielle.

Le sandwich tech de l’IA



Avec la prolifération des données et des capacités d’intelligence artificielle, la gestion de ces actifs devient un défi crucial pour les entreprises. Selon Gartner, seulement 35 % des solutions d’inférence seraient développées directement par les équipes IT, ce qui reflète une décentralisation croissante des initiatives IA. Cette évolution impose aux organisations de repenser leurs approches en matière de gestion des accès, de protection des données et de sécurisation des résultats générés par l’IA.

Pour maîtriser un tant soit peu cette complexité, Daryl Plummer propose le concept
de « sandwich technologique ». Cette approche repose sur une architecture en trois niveaux : une base centralisée, regroupant les données et les capacités IA contrôlées par l’IT ; une couche supérieure décentralisée, composée des données et de l’IA issues de sources diverses ; et une couche intermédiaire dédiée à la gestion des risques, à la sécurité et à la confiance (technologies TRiSM). Ces dernières constituent le pivot pour garantir un usage sûr et responsable de l’IA, en particulier pour les entreprises qui adoptent un rythme accéléré dans leur transformation (IA-accelerated). Ces technologies deviennent essentielles pour sécuriser les initiatives à grande échelle et gérer la complexité croissante des interactions entre données centralisées et décentralisées.

L’impact de l’IA sur les employés : un facteur
souvent négligé

Si l’introduction de l’IA au sein des entreprises promet des avancées significatives, elle suscite également des réactions variées parmi les employés. Tandis que certains y voient une opportunité de renforcer leurs compétences et leur efficacité, d’autres perçoivent cette transformation comme une menace, alimentant des réactions négatives. Celles-ci peuvent engendrer des comportements contre-productifs, tels que la jalousie envers les collègues utilisant l’IA ou une dépendance excessive à ces outils. Ces effets, bien que moins visibles que les impacts financiers ou technologiques, peuvent affecter durablement la performance et le climat de travail.

Gartner souligne que peu d’organisations prennent véritablement en compte ces impacts humains. Seulement 13 % des DSI en EMEA déclarent s’attacher à atténuer les effets négatifs de l’IA générative sur le bien-être des employés. Cette négligence est problématique, car les changements induits par l’IA nécessitent une gestion active des comportements qu’elle peut générer. Gartner appelle donc les entreprises à aborder ces questions avec autant de rigueur que les résultats technologiques ou économiques, en définissant clairement les responsabilités de chaque partie prenante dans la gestion des transformations comportementales. Une approche proactive permettrait non seulement de limiter les risques, mais aussi de maximiser les bénéfices humains et organisationnels de l’intelligence artificielle.