Les données sont l’or de l’innovation en IA, mais elles doivent être traitées de manière sécurisée. Or, la GenAI est devenue la machine d’ingénierie sociale du cybercriminel. Aujourd’hui, les courriels d’hameçonnage imitent des collègues et partenaires de confiance avec une précision inquiétante.
La technologie Deepfake transforme les voix et les vidéos en armes redoutables. « En 2025, le pouvoir et les dangers de l’IA sont plus importants que jamais. Les acteurs de la menace continueront à repousser les limites des capacités malveillantes de l’IA », lit-on dans le rapport annuel ThreatLabz de Zscaler.
Basé sur plus de 536 milliards de transactions IA traitées entre février 2024 et décembre 2024 sur la plateforme Zscaler Zero Trust Exchange, ce rapport permet de découvrir des scénarii de menace réels allant du phishing dopé à l’IA à de fausses plateformes d’IA. Or, ce document révèle une croissance annuelle de plus de 3 000 % de l’usage des outils IA/ML en entreprise, soulignant l’adoption rapide des technologies d’IA dans tous les secteurs pour libérer de nouveaux niveaux de productivité, d’efficacité et d’innovation.
3 624 To
La lecture de ce document nous apprend en particulier que ChatGPT est l’application IA/ML la plus populaire, représentant près de la moitié de toutes les transactions IA/ML (45,2 %), et aussi la plus bloquée, suivie de Grammarly et de Microsoft Copilot comme deuxième et troisième applications les plus bloquées, respectivement.Les cinq pays générant le plus de transactions IA/ML sont les États-Unis, l’Inde, le Royaume-Uni, l’Allemagne et le Japon. Enfin coté secteurs d’activité, la finance/assurance et le manufacturing (probablement en raison des innovations dans l’optimisation de la chaîne d’approvisionnement et l’automatisation robotique) génèrent le plus de trafic IA/ML, avec respectivement 28,4 % et 21,6 % de toutes les transactions IA/ML dans
le cloud Zscaler.
D’autres secteurs, tels que les services (18,5 %), la technologie (10,1 %) et la santé
(9,6 %), renforcent aussi leur dépendance à l’IA, tout en faisant face à des défis de sécurité et de conformité propres à chaque industrie, susceptibles de freiner l’adoption globale. Les entreprises envoient des volumes considérables de données vers ces outils, atteignant 3 624 To. Ceci démontre l’intégration profonde de ces technologies
dans les opérations.
Toutefois, cette adoption rapide soulève également des préoccupations croissantes en matière de sécurité. Les entreprises ont bloqué 59,9 % de toutes les transactions IA/ML. C’est le signe d’une prise de conscience des risques liés à ces outils, tels que la fuite de données, les accès non autorisés et les violations de conformité. Un examen plus approfondi des violations DLP (data loss prevention) liées à l’IA les plus courantes révèle que les informations personnelles identifiables (PII), les données propriétaires et les données de sécurité sont des éléments essentiels de la sécurité.
