Les attaques basées sur l'intelligence artificielle peuvent être exécutées plus rapidement, cibler davantage de victimes et trouver plus de vecteurs d'attaque que les attaques classiques. Basée sur le machine-learning, ce type d’IA apprend et progresse continuellement. Une menace à prendre très au sérieux pour les RSSI.
Une intéressante enquête co-rédigée par Traficom, l’agence finlandaise des transports et des communications et WithSecure (ex F-Secure Business) montre ce qui va être sans doute un véritable casse-tête pour les DSI et RSSI dans les années à venir. L’IA générative, c’est le nom de ce type d’outils, améliore les attaques et la découverte de vulnérabilités existantes. Le bilan financier de ces menaces se monte déjà à plusieurs millions de dollars de pertes. Des travaux de recherche publics et privés se consacrent à l’analyse détaillée des risques accrus que l’IA générative fait porter sur la sécurité du SI des entreprises et organismes publics.
Une étude de Forrester, The emergence of offensive AI, fin 2019, a montré que plus de
80 % des décideurs étaient préoccupés par les cyberattaques basées sur l'IA car ce type d'attaque va se généraliser dans un avenir proche. Une perspective réellement préoccupante car les capacités d’apprentissage via le machine learning, progressent de jour en jour. D’autre part, les outils d’IA tels GPT-3, qui utilisent des modèles NLG de génération automatique de texte sont accessibles en ligne. De quoi renforcer sérieusement et rapidement l’expertise des attaquants.
Les risques des cyberattaques basées sur l'IA sont de trois ordres. D’une part, elles peuvent être utilisées pour automatiser les tâches d'attaque manuelles. Ensuite, ces outils améliorent l’arsenal de base des attaquants. Enfin, ils apportent des capacités totalement nouvelles dont les attaquants ne disposaient pas auparavant.
Concrètement, les attaques classiques de phishing ciblé (hameçonnage) vont être amplifiées avec désormais, le masquage des communications malveillantes et des attaques menées de bout en bout
Des outils d'attaques par harponnage et usurpation d'identité basés sur l'IA peuvent être combinés pour améliorer plusieurs étapes de la chaîne de cyberattaques de bout en bout sur tout le périmètre à protéger. Une association redoutable d’efficacité
Le spear Phishing assisté par L'IA
Pour faciliter la sélection des victimes de phishing, l’IA identifie et cible des caractéristiques spécifiques des futures victimes via le profilage des utilisateurs. Ensuite, des mails et des posts sont envoyés sur les réseaux sociaux. Très crédibles, ils sont capables de passer le test de Turing censé distinguer une machine d’un humain, sur un réseau comme Linkedin, ce dernier contenant des profils de grande valeur pour les pirates. De nombreux modèles NLG performants, tels GPT-3, sont disponibles gratuitement en ligne.
Usurpation d'identité par deepfake
Elle s’effectue par vishing (hameçonnage vocal). Même si cette menace n’est pas la plus utilisée, elle peut être très fructueuse quand elle réussit. Les données audio peuvent être obtenues à partir de l'enregistrement de réunions en ligne et d'apparitions publiques, largement disponibles en ligne, si la victime est suffisamment connue. Ce type de deepfake s’améliore progressivement.
Masquage de l’activité des logiciels malveillants
Pour exfiltrer les données utiles (nom de domaine, service/port, heure de pointe, etc.)
l’IA permettent de créer des canaux de communication furtifs avec des outils de C&C (Command &Control), en calibrant la quantité de données exportées pour qu'elle corresponde à la charge de trafic typique du système compromis à un moment donné. Les informations dérobées sont ensuite utilisées pour créer les messages envoyés aux victimes par le logiciel malveillant
Des cyberattaques menées de bout en bout
Les techniques d'attaques individuelles basées sur l'IA peuvent être combinées pour améliorer les différentes étapes d'une offensive de bout en bout, notamment la reconnaissance, l'intrusion, l'établissement de C&C, l'escalade de privilèges, le mouvement latéral et l'exfiltration.
Du fil à retordre à court terme à n’en pas douter pour les RSSI.
