Parmi toutes les technologies de rupture, l'IA est celle qui a le plus d'impact sur l'infrastructure technologique des entreprises. Elle exige la création d'une véritable architecture basée sur l'exploitation des données, et qui repose sur une infrastructure complexe mêlant des applications, des connecteurs, des réseaux de transport, de la puissance de calcul, des applications et des données. Cependant, son aspect le plus préoccupant réside dans son accès et son traitement intensif de l'information. L'IA n'est pas une simple évolution technologique capable d'automatiser un large éventail de tâches. Elle est un véritable bond en avant, avec tous les risque qui l’accompagnent.
En effet, l’inférence artificielle est basée sur l'accès et le traitement massif de données, offrant des possibilités inédites jusqu'à présent mais aussi des risque. L'IA générative repose sur un apprentissage continu à partir des données saisies. Chaque information entrée par un employé dans une application est instantanément transmise à l'extérieur de l'organisation, permettant ainsi à l'IA de s'adapter et d'évoluer. Par conséquent, le risque de divulgation involontaire de données est bien réel, mettant en danger la sécurité des informations de l'entreprise.
La crainte de la divulgation involontaire de données sensibles…
Selon la dernière enquête sur la GenAI publiée par Kaspersky, les dirigeants d'entreprise sont de plus en plus préoccupés par ces risques. En effet, près de 60 % des cadres supérieurs expriment de sérieuses inquiétudes quant à la possibilité que des employés divulguent involontairement des données sensibles lorsqu'ils saisissent des informations dans les plateformes basées sur l'IA générative. L'étude a été réalisée par Censuswide entre le 25 septembre et le 2 octobre 2023, auprès de 1 863 cadres supérieurs au Royaume-Uni, en France, en Allemagne, en Espagne, en Italie, en Roumanie, aux Pays-Bas et en Grèce, avec 251 répondants en France.L'étude révèle les préoccupations croissantes des cadres dirigeants français concernant la montée en puissance discrète de l'intelligence artificielle générative au sein de leur organisation. La quasi-totalité (97 %) des personnes interrogées pensent que l'IA générative est régulièrement utilisée par leurs employés, et plus de la moitié d'entre elles (59 %) estiment que celle-ci pilote désormais certains départements de leur entreprise. L'ampleur de cette prise de contrôle est telle que 59 % des cadres dirigeants en France expriment aujourd'hui de vives inquiétudes quant aux risques de sécurité potentiels qui pourraient mettre en péril les données sensibles de l'entreprise et entraîner une perte totale de contrôle des fonctions essentielles de l'entreprise.
Selon Kaspersky, « ces constats soulignent l'importance d'une gestion prudente et réfléchie de l'IA générative dans le monde des affaires d'aujourd'hui. Ils mettent en évidence la nécessité d'un équilibre entre l'exploitation des avantages de cette technologie et la protection des informations sensibles de l'entreprise ».
… et de la perte de contrôle des dirigeants
L'étude met également en lumière la perte de contrôle des dirigeants en ce qui concerne le déploiement et la supervision des technologies d'IA génératives, ainsi que les objectifs de leur utilisation. Selon les résultats de l'enquête, seulement 24 % des répondants ont envisagé d'établir des règles pour l'utilisation de l'IA générative, bien que 91 % reconnaissent le besoin d'une meilleure compréhension de l'utilisation des données internes par les employés pour se protéger contre les risques de sécurité critiques ou les fuites de données.Malgré ces préoccupations, 43 % des répondants français envisagent d'utiliser l'IA générative pour automatiser les tâches répétitives de leurs employés, tandis que 43 % ont l'intention d'intégrer cette technologie dans leurs routines pour améliorer leur productivité. Plus surprenant encore, 18 % des cadres sont prêts à automatiser les services informatiques et de cybersécurité à l'aide de l'IA générative, malgré les risques évidents pour la sécurité. Il est à noter que ce sont ces départements que les répondants sont les plus susceptibles d'automatiser.
« On pourrait supposer que la perspective d'une fuite de données sensibles et d'une perte de contrôle d'unités commerciales critiques pourrait inciter les cadres dirigeants à peser le pour et le contre du recours à l'IA générative, mais nos résultats indiquent que près d'un quart des dirigeants envisagent déjà de déléguer certaines de leurs fonctions les plus importantes à l'IA. Il est impératif d'acquérir une compréhension approfondie de la gestion des données et de mettre en œuvre des politiques robustes avant toute intégration de l'IA générative dans l'environnement de l'entreprise », détaille David Emm, chercheur principal en sécurité chez Kaspersky.
