Alors que l’IA générative, alimentée par des modèles de langage de grande taille (LLM) ou des modèles de fondation, offre de nombreux cas d’utilisation pour les entreprises. Celles-ci cherchent aujourd’hui à innover avec l’IA, déployant un mélange de LLM de fournisseurs de technologie et de communautés de sources ouvertes. Une démarche qui pose également des risques et augmente la complexité, y compris celle des données d’entraînement glanées sur Internet, et qui ne peuvent être validées comme justes et précises, jusqu’au manque de sorties explicables. Watsonx.governance fournit aux organisations une boîte à outils pour gérer les risques, améliorer la transparence et anticiper la conformité avec la réglementation.
Assurer la transparence et le suivi des LLM…
Watsonx.governance est conçu pour assurer la transparence et le suivi des modèles, aidant les entreprises à comprendre les données entrantes et les résultats sortants. Pour faciliter cela, il est pourvu de fonctionnalités qui permettent la visualisation et l’analyse des entrées, des sorties et du fonctionnement interne des modèles. Un autre composant clé de la solution est l’accent mis sur la gestion des risques.L’outil est apte à traiter divers risques associés à l’IA, tels que les biais potentiels dans les données d’entraînement ou l’utilisation de sources de données non vérifiées. En offrant des capacités pour identifier et atténuer ces risques, Watsonx.governance assure que les opérations d’IA sont plus fiables. Cela est particulièrement important à une époque où l’éthique et l’équité de l’IA sont de plus en plus scrutées.
En termes de conformité et d’anticipation de la réglementation, il permet aux organisations de se conformer aux réglementations futures axées sur l’IA. Cela est réalisé en traduisant des réglementations complexes en politiques exécutables et applicables. De plus, lorsqu’il s’agit de la gouvernance à travers divers modèles, Watsonx.governance permet aux entreprises de gérer et de gouverner les modèles d’IA provenant de divers fournisseurs de technologie et de communautés opensource.
… dans un cadre de gouvernance centralisé
L’outil fournit un cadre de gouvernance centralisé qui englobe à la fois les Modèles de Langage de Grande Taille (LLMs) et les modèles d’apprentissage automatique (ML). Cette approche unifiée de la gouvernance est cruciale pour les entreprises qui utilisent un mélange de modèles d’IA provenant de différentes sources. Il s’intègre aux modèles d’IBM, de ses partenaires et open source. Toutefois, IBM ne spécifie pas la liste des produits compatibles. On peut toutefois supposer que cela se ferait grâce aux API. IBM a toujours soutenu les normes ouvertes et les API dans ses produits logiciels. Si Watsonx.governance suit cette tendance, il pourrait potentiellement s’intégrer à des systèmes d’IA open source qui prennent également en charge ces normes.Enfin, Watsonx.governance dispose de capacités d’automatisation de certains processus de gouvernance de l’IA, réduisant ainsi les efforts requis pour la gestion de ces systèmes. Cette automatisation s’étend à la surveillance des modèles, fournissant aux entreprises les outils nécessaires pour prendre des mesures correctives si des anomalies sont détectées.
Watsonx.governance est l’un des trois composants logiciels de la plateforme IA et données Watsonx, soutenus par un ensemble d’assistants intelligents. La plateforme comprend le studio Watsonx.ai pour les développeurs, et le magasin de données Watsonx.data. La société a également annoncé récemment une protection de la propriété intellectuelle pour ses modèles Watsonx développés par IBM.
