Petit à petit, l’IA trace son chemin dans les entreprises. De nombreux cas d’utilisation sont explorés, en pilote et implémentés à grande échelle. Cependant, savons-nous faire la différence entre un véritable moteur d’inférence et un simple algorithme ?
D’une civilisation artisane et agraire à une civilisation industrielle et aujourd’hui à une civilisation basée sur le savoir et la technologie, les évolutions semblent se succéder à des rythmes de plus en plus rapides sur la troisième planète du système solaire. Une accélération qui semble devenir exponentielle au lieu de suivre une progression linéaire. En quelques années, l’IA est passée du statut de deeptech à celui de technologie mainstream, banalisée à force d’être mise à toutes les sauces et revendiquée comme un standard dans bien des produits qui en sont dépourvus.
Car il y a un gouffre entre un véritable moteur d’inférence et des algorithmes aussi sophistiqués soient-ils. Un algorithme est un ensemble d’instructions qui sont exécutées lorsqu’un déclencheur est détecté. Ce sont toujours les mêmes instructions et les mêmes déclencheurs qui en lancent l’exécution, aucune adaptation à des conditions changeantes n’est possible si cela n’est pas prévu par le développeur et intégré dans le code. Certes, ces algorithmes peuvent être plus ou moins sophistiqués pour prendre en compte des situations complexes, mais le principe de leur fonctionnement reste immuable : toutes les situations et les actions qu’elles déclenchent doivent être prévues et intégrées dans l’application. Ces algorithmes s’apparentent à des arbres décisionnels plus ou moins complexes.
IA, un terme utilisé de manière inappropriée
L’IA quant à elle repose sur des algorithmes complexes rassemblés dans des moteurs d’inférence et qui ont la capacité de modifier leur réponse en fonction des événements sensés les déclencher. Ils sont ainsi dotés des capacités d’apprentissage et d’adaptation (à ne pas confondre avec l’apprentissage automatique) et peuvent produire des réponses qui n’ont pas été prévues. C’est là le plus grand avantage de l’IA et aussi son inconvénient le plus craint, car elle peut prendre les mauvaises décisions. On se souvient tous de l’IA « misogyne » qui refusait des prêts aux femmes.
Sachant cela, il apparaît évident que le terme IA est utilisé de manière inappropriée par des éditeurs et fabricants de produits informatiques. Par exemple, certains fabricants d’ordinateurs assurent que leurs machines sont dotées d’IA pour adapter son fonctionnement aux habitudes de travail des utilisateurs, ceci afin de fluidifier le travail, baisser la consommation ou protéger le système. C’est abusif, la véritable IA se trouve dans leurs centres de données qui analysent l'usage des ordinateurs qu'ils vendent. Comme le souligne Claire Loffler, security engineer chez Vectra AI, « Les capacités, les limites, les implications et même les motivations de l’IA sont régulièrement discutées dans des forums publics, souvent avec pour effet d’obscurcir ou d’exagérer la vérité. Le terme “IA” lui-même est fréquemment utilisé comme un fourre-tout, en particulier dans le domaine de la cybersécurité, désignant des technologies mystérieuses qui prétendent être le remède à tous les maux de l’entreprise ».
Il est important de se poser les bonnes questions
Alors que faire ? « Il est important de se poser les bonnes questions », affirme Claire Loffler, car pour savoir si l’IA tiendra ses promesses, il est nécessaire de se poser quatre questions.
1Détecteur d’anomalies ou chasseur de menaces ?
Un simple scan d’anomalies risque de submerger les équipes de sécurité si elle n’est pas accompagnée de plus d’informations. La véritable IA s’appuiera sur des renseignements provenant de l’extérieur de l’organisation. Les solutions qui se contentent de détecter les anomalies internes ne sont pas d’une grande utilité, car toutes les anomalies ne se révèlent pas être des menaces après examen, et de nombreuses menaces authentiques disposent de mécanismes de camouflage pour cacher leur comportement ou le faire passer pour une action autorisée ou inoffensive.
Les plateformes d’IA doivent prendre en compte ces questions, tandis que les solutions sans IA créent de nouveaux problèmes en augmentant le flot d’alertes et en faisant peser la charge des investigations sur les équipes de sécurité, tout en négligeant les véritables menaces. Les véritables solutions d’IA examinent les comportements et l’historique pour minimiser le bruit et fournir des alertes plus contextuelles et exploitables.
2Quelle doit être la place de l’IA ?
Si l’IA n’est qu’un complément à une solution et n’est utilisée que pour résoudre des problèmes périphériques, alors son potentiel ne sera pas exploité pleinement. L’IA doit aussi pouvoir répondre à des défis d’exploitation fondamentaux. Elle doit être au cœur de la fonctionnalité et de la gestion d’un système. En bref, il est très important de savoir où l’IA est déployée et où elle opère.
3Qu’en est-il de ses créateurs ?
Comme l’expérience l’a démontré : l’IA hérite des caractéristiques de son concepteur/développeur. Un simple coup d’œil à l’équipe qui a conçu la solution d’IA en dit long. Quel est leur savoir-faire en data science, en recherche en sécurité, en psychologie ? De nombreuses disciplines et compétences sont nécessaires pour concevoir une IA qui apporte de la valeur. Examinez également les engagements du fournisseur en matière de support pour vous aider à exploiter la quintessence de votre investissement.
4Quelles promesses sont faites ?
Si une solution basée sur l’IA est présentée comme une panacée contre tous les maux, méfiez-vous. L’IA ne voit pas tout et ne fait pas tout. Nous avons récemment vécu une transformation technologique collective majeure. De nouvelles complexités sont apparues : le cloud hybride, le multicloud, la prolifération de réseaux tiers opaques et de points d’accès indésirables, et la popularité croissante du SaaS et du PaaS. Tandis que les promesses exagérées ne sont pas une tendance nouvelle, dans ce contexte de pression intense sur la fonction de cybersécurité, la tentation d’y croire s’accroit. Le meilleur chemin pour avancer passe par l’expérience, l’agilité et l’amélioration continue. Au fil du temps, la véritable IA se perfectionnera, tandis que les promesses excessives se briseront sur le principe de réalité.
