La pression des revenus accélère les cycles de déploiement de l'IA générative à une vitesse que les pratiques d'évaluation de sécurité peinent à suivre. Pour les organisations qui intègrent ces outils en production, le risque opérationnel est concret : elles déploient des systèmes dont les comportements en conditions réelles ne sont pas entièrement maîtrisés par leurs éditeurs eux-mêmes. Ce décalage entre vitesse commerciale et maturité technique redéfinit le devoir d'examen approfondi des DSI et des RSSI sur leurs fournisseurs d'IA.
Le modèle économique des grands labos d'IA a basculé en quelques années. OpenAI, fondé comme organisation à but non lucratif centrée sur la recherche fondamentale, gère aujourd'hui une structure commerciale valorisée à plusieurs centaines de milliards de dollars, avec des investisseurs qui attendent un retour sur des cycles mesurés en trimestres. Anthropic, Google DeepMind, Mistral et Cohere évoluent dans le même cadre de contrainte. La pression des revenus et des parts de marché a produit une accélération des cycles de publication : les modèles se succèdent à une cadence que les évaluations de sécurité approfondies ne peuvent pas absorber intégralement. Les annonces de performances sur les bancs de test ont pris le pas sur les publications de recherche fondamentale en sécurité et en alignement. Ce glissement est la conséquence logique de la financiarisation du secteur.
La course à l'adoption produit un second effet : les modèles sont optimisés pour les indicateurs mesurables et publics, performances sur les bancs de test standardisés, vitesse d'inférence, coût par million de jetons, au détriment des comportements en conditions réelles, plus difficiles à formaliser et moins lisibles dans une communication commerciale. Le chatbot d'Air Canada a fourni à un passager de fausses informations tarifaires que l'entreprise a été condamnée à honorer. Le chatbot municipal de New York City a dispensé des conseils juridiques erronés à des centaines d'usagers. Ces cas révèlent que le seuil d'acceptabilité pour le déploiement en production a été abaissé sous la pression de la compétition commerciale.
Quand la vitesse de déploiement dépasse la vitesse d'évaluation
L'accélération des cycles de publication a une conséquence directe sur la qualité des évaluations de sécurité. Les équipes de red teaming et d'évaluation adversariale des modèles travaillent dans un régime de contrainte temporelle croissante. Les fenêtres d'évaluation se raccourcissent à mesure que les éditeurs subissent la pression de publier avant leurs concurrents. Les rapports de sécurité (system cards) publiés par les labos au moment des lancements sont devenus plus courts et moins détaillés que ceux des premières générations de modèles, alors que les capacités, et donc les surfaces de risque, se sont considérablement étendues.
Le cas des agents IA autonomes est particulièrement critique pour les DSI. Ces systèmes, capables d'exécuter des workflows complexes, d'accéder à des bases de données, d'envoyer des communications et de prendre des décisions sans validation humaine intermédiaire, sont poussés en production sur des bases d'évaluation insuffisantes. Les comportements émergents des agents en environnement réel, enchaînement d'actions imprévues, interprétation excessive des instructions, contournement de contraintes posées par les opérateurs, sont documentés dans la littérature de recherche mais rarement pris en compte dans les processus de qualification des achats IT.
La tarification à l'usage, que plusieurs éditeurs ont adoptée pour accélérer l'adoption, renforce ce mécanisme. Un modèle facturé à la conversation ou au jeton consommé n'a pas de coût fixe d'entrée pour l'organisation cliente. Cette structure tarifaire réduit la friction au déploiement, ce qui pousse les équipes IT à intégrer des outils en production sans le niveau de qualification qu'elles appliqueraient à un progiciel métier facturé sur plusieurs années. La rapidité d'intégration que les éditeurs présentent comme un avantage compétitif est aussi un vecteur de risque insuffisamment évalué.
Le déficit de confiance envers les fournisseurs d'IA, corollaire du déficit cyber
Le rapport Vanson Bourne-Sophos, conduit auprès de 5 000 responsables IT dans 17 pays, révélait que seulement 5 % des organisations accordent une confiance totale à leurs prestataires de cybersécurité. Le même déficit s'applique, avec une acuité accrue, aux fournisseurs d'IA générative. Les barrières à l'évaluation que l'enquête identifie, à savoir les informations insuffisamment factuelles, la difficulté d'interprétation et les informations contradictoires entre sources, décrivent avec précision la situation des DSI qui tentent d'évaluer la maturité de sécurité d'un modèle de langage en production.
Les fournisseurs d'IA publient des system cards, des rapports d'évaluation et des politiques d'utilisation. Ces documents sont hétérogènes dans leur format, leur niveau de détail et leur indépendance. Aucun standard commun ne s'impose aujourd'hui au niveau des éditeurs pour la divulgation des incidents en production, des limitations connues ou des comportements non souhaités observés lors des évaluations internes. Cette absence de cadre commun place les acheteurs en situation d'asymétrie d'information structurelle face à leurs fournisseurs.
Ce que l'AI Act impose, et ce qu'il ne résout pas
Le cadre réglementaire européen apporte des éléments de réponse pour les systèmes à risque élevé au sens de l'AI Act, avec des obligations d'évaluation de la conformité, de documentation technique, de transparence sur les capacités et les limitations, et d'enregistrement dans la base de données européenne. Ces exigences vont dans le sens d'une plus grande vérifiabilité des pratiques des fournisseurs. Elles ne résolvent pas le problème de calendrier pour autant : les obligations réglementaires s'appliquent à des systèmes déjà largement déployés, sur un marché dont la vitesse d'évolution dépasse celle des cycles législatifs.
Pdans ce contexte, le devoir de vérification des fournisseurs d'IA doit intégrer des critères que les processus d'achat IT traditionnels ne couvrent pas. La capacité d'un fournisseur à documenter les incidents en production, à publier des avis de sécurité sur les comportements non souhaités identifiés, à maintenir un programme d'évaluation indépendant et à communiquer de façon transparente sur les limitations connues de ses modèles constitue désormais un critère de sélection aussi important que les performances sur les bancs de test. La vitesse de déploiement que les éditeurs présentent comme un avantage doit être mise en regard du niveau de maturité des pratiques d'évaluation qui l'accompagnent.
