En 2023, Lucidworks a mené une étude mondiale pour faire l’état des lieux de l'IA générative (IAGen) et son avancement dans les organisations. Un tiers des chefs d'entreprise ont l'impression d'être à la traîne par rapport à leurs concurrents, une réaction qui peut notamment s’expliquer par la pression médiatique qui les incite à adopter l’IAGen sans prendre le recul nécessaire pour évaluer les contraintes de sa mise en place.
Les bénéfices attendus portent sur l'expérience client, l'automatisation des tâches et les opérations commerciales. Les investissements dans ce domaine marquent une pause, en particulier à cause des inquiétudes sur les coûts de mise en œuvre.
Point saillant, les préoccupations relatives à la sécurité des données ont plus que doublé par rapport à l'année dernière. Noter que les doutes concernant la précision des réponses, notamment les hallucinations de l’IAGen, ont été multipliés par cinq.
Les dépenses prévues ont stagné cette année, avec 63 % seulement des entreprises à l’international prévoyant d'augmenter leurs dépenses en matière d'IA au cours des 12 prochains mois, contre 93 % en 2023. Les États-Unis sont en tête de liste avec 69 % des investissements.
Seuls 49 % des dirigeants chinois prévoiraient d'augmenter leurs dépenses en IAGen en 2024, une baisse considérable par rapport aux taux record de 100 % en 2023. Toutes organisations confondues, 36 % des dirigeants prévoient de maintenir leur niveau de dépenses contre seulement 6 % dans l'enquête de l'année dernière.
Le graphique ci-dessous montre les taux de dépenses par secteur d’activité.
La moitié des dirigeants déclarent tirer peu d'avantages de l'IA générique
Les avantages financiers des projets d’IAGen restent encore à démontrer. Ainsi, 42 % des entreprises n'ont pas encore tiré de bénéfices significatifs dans ce domaine. Le rapport montre qu’après les phases initiales de développement, les projets s’enlisent.A la question posée aux dirigeants sur la poursuite de la mise en place de l’IAGen au-delà de la preuve de concepts, seuls 25 % des investissements prévus ont été mis en œuvre jusqu'au bout. Le graphique qui suit est explicite sur le taux de réussite des projets. Pour ne citer qu’un indicateur, l’efficacité de l’IAGen sur la réduction des dépenses d’exploitation (OPEX) n’est confirmée que par un répondant sur 6. C’est très faible
Des couts de mise en œuvre qui s’envolent
Il y a un an, la sécurité des données était la principale préoccupation et les coûts de mise en œuvre n'inquiétaient que 3 % des chefs d'entreprise. A ce jour, ce sont les coûts de mise en œuvre de l’IAGen qui inquiètent le plus avec une multiplication stratosphérique des répondants qui se disent préoccupés, soit 14 fois plus en 2024.Le commerce de détail est un des secteurs les plus sensibilisés aux coûts (63 % des réponses). L’hypothèse, c’est que, notamment, le nombre de demandes de renseignements de la part des clients est en augmentation constante. La précision douteuse de certaines réponses est un inconvénient cité 5 fois plus que l’année précédente.
L’aide au développement de code informatique et l’appui à la gouvernance sont deux domaines d’utilisation à creuser. Dans le domaine B2C, les temps de réponse des grands modèles commerciaux se mesurent encore en secondes et non en millisecondes. Un délai de réactivité qui suffit pour les collaborateurs en interne mais rédhibitoire pour les clients lors des achats en ligne.
Les modèles de LLM Open Source sont plus longs à mettre en place mais les couts d’exploitation décroissent à l’usage. En revanche, les LLM propriétaires qui paraissent d’un cout abordable au début souffrent de l’augmentation des dépenses en fonction du nombre d'appels à l'API.
