Palo Alto Networks, acteur de la cybersécurité, a interrogé 450 cadres dirigeants et responsables cybersécurité en France, en Allemagne, au Royaume-Uni et en Espagne.
Un constat majeur apparaît : près des trois quarts (74 %) des entreprises françaises considèrent les menaces basées sur l’intelligence artificielle (IA) comme le plus grand risque cyber cette année. Un chiffre qui dépasse de loin les réponses des entreprises européennes, soit deux tiers d’entre elles.
En réalité, les risques liés à l’IA générative commencent à être pris en compte par les RSSI et leurs équipes. Il s’agit des hallucinations, empoisonnement des données d'entraînement, réglages et paramètres des modèles, gestion des forks des IA open source, etc. Les secteurs les plus méfiants par rapport à l’IA comme les banques se méfient beaucoup, notamment, de la divulgation publique d’hallucinations de l’IA qui serait catastrophique en termes d’image.
La pénurie de compétences freine l’adoption de modèles open source ou propriétaires d'IA, car il reste un travail important de sélection des données utiles et sensibles qui repose sur une vraie gouvernance des informations. D’autre part, il n’y a pas de normes pour harmoniser la pléthore d’agents autonomes d’IA dans tous les secteurs économiques (gestion des commandes, ajustement des prix en temps réel, contrôle de la distribution d’énergie, etc.).
L’urgence à rationaliser les systèmes de sécurité pour faire face à l’évolution des menaces
Concernant les enjeux sur les outils et méthodes de sécurité, près de la moitié des répondants français (46 %) citent la complexité technologique et le manque d’interopérabilité comme les défis les plus importants pour établir une posturede sécurité efficace.
Selon l’enquête, la fragmentation des fournisseurs et des outils de sécurité est identifiée comme un défi clé. Leur nombre excessif est signalé par plus d’un tiers (35 %) de tous les répondants comme le prochain obstacle majeur à une cyberdéfense robuste. Et cela, devant d’autres préoccupations comme la complexité technologique et le manque d’interopérabilité.
Une confiance justifiée face aux risques des IA génératives ?
La quasi-totalité des répondants français déclare qu’ils font confiance à la sécurité des applications IA utilisées dans leur entreprise. Une réponse surprenante face aux multiples défis de sécurité que posent les IA génératives, alors que la pénurie des compétences dans ce domaine plombe l’efficacité des équipes en charge de leur mise en œuvre. Néanmoins, l’IA est une technologie duale. Côté défense, les organisations intègrent de plus en plus l’intelligence artificielle dans leurs stratégies de sécurité. Près de 8 répondants français sur 10 (79 %) sont convaincus qu’ils utilisent pleinement le potentiel de cette technologie.Cependant, la diversité des solutions et leur interopérabilité pose des questions. Cette fragmentation des outils est une limitation de l’efficacité pour 44 % des répondants français. De plus, elle implique, notamment, une augmentation des coûts de formation
(44 % des réponses) et d’achat pour 46 % du panel interrogé.
