L'intelligence artificielle, l'arme ou la menace des professionnels de la cyber ?
La démocratisation de l’IA représente à la fois une opportunité et un défi pour les RSSI. Tandis que les cybercriminels exploitent ces outils pour perfectionner leurs attaques, les entreprises peuvent utiliser ces mêmes technologies pour renforcer leurs défenses.
L’intelligence artificielle (IA) est une technologie clé de la quatrième révolution industrielle. Son application à la cybersécurité représente à la fois une opportunité et une menace croissante. D’ici 2025, le marché de l’IA dans la cybersécurité mondiale devrait passer de 1 milliard de dollars en 2023 à 34,8 milliards de dollars.
L'IA comme menace pour la cybersécurité
- Amélioration des techniques d’attaque existantes: L’IA permet d’améliorer des techniques d’attaques telles que la personnification, le « spearphishing », la sélection de cibles et la création de « persona ». L’hameçonnage, par exemple, devient plus efficace grâce à la génération automatique de fausses informations, comme des vidéos, des articles et des messages personnalisés.
- Nouvelles méthodes d’attaque: Des techniques comme le « data poisoning » utilisent des algorithmes d’IA pour corrompre les données utilisées pour entraîner l’IA, ce qui peut paralyser les mesures de cybersécurité d’une entreprise. Les attaques acoustiques, qui analysent les sons du clavier pour reconstituer les mots de passe, sont également rendues possibles grâce à l’IA.
- Facilitation des cyberattaques: L’IA rend les cyberattaques accessibles aux personnes sans expertise technique approfondie. Des outils comme ChatGPT et Codex permettent de créer des e-mails de phishing contenant du code malveillant en quelques minutes.
- Augmentation du volume des cyberattaques: Depuis la Covid-19, les cyberattaques ont augmenté de près de 600%, en partie à cause de l’essor de l’IA.
- Deepfakes: En 2024, 43 % des entreprises ont signalé des pertes financières dues à des fraudes liées aux deepfakes. Les attaques « deepfake » ont été documentées au rythme d’une toutes les cinq minutes en 2024, utilisées pour le contrôle de comptes, les ouvertures de comptes frauduleuses et les escroqueries par hameçonnage.
- Vulnérabilités des systèmes d’IA: 97 % des organisations interrogées ont subi des violations liées à l’IA générative au cours de l’année écoulée.
L'IA comme outil de défense en cybersécurité
- Détection améliorée des menaces: L’IA permet d’analyser de grandes quantités de données en continu, 24h/24 et 7j/7, pour détecter de nouveaux risques de sécurité. Les algorithmes apprennent au fur et à mesure pour éviter les procédures répétitives. Les systèmes SIEM (gestion des informations et des événements de sécurité) basés sur l’IA utilisent des algorithmes de « machine learning » (ML) pour filtrer les journaux et le trafic réseau, identifiant ainsi des indicateurs de compromission.
- Gestion des menaces et des incidents: L’IA peut automatiser certaines tâches chronophages, réduisant ainsi les erreurs humaines. Elle aide à la détection d’activités anormales, à l’identification d’activités inhabituelles et à la prévention de l’exploitation des failles. Les plateformes de réponse aux incidents (SOAR) utilisent l’IA pour améliorer la priorisation et la mise en place des réponses.
- Gestion des données: L’IA optimise l’utilisation des données dans les processus de sécurité et permet de cartographier, référencer, sauvegarder et chiffrer les données. Elle facilite également la conformité au RGPD.
- Analyse prédictive: L’IA peut anticiper les cybermenaces en analysant des millions de points de données et en identifiant des schémas indicateurs de comportements malveillants. Elle permet également d’identifier les tendances émergentes et de réduire les risques de manière proactive.
- Réponse rapide aux incidents: En cas de détection d’une attaque potentielle de « ransomware », un système d’IA peut automatiquement isoler les systèmes affectés, initier des sauvegardes et notifier l’équipe de réponse aux incidents en quelques minutes.
- Efficacité des outils de défense: Les solutions de sécurité éprouvées telles que les EDR (Endpoint Detection and Response) affichent une efficacité perçue de 95 %.
Évolution de la perception et de l'utilisation de l'IA en cybersécurité
- Avant 2023: L’IA était principalement utilisée dans les laboratoires de recherche et pour des activités de niche.
- 2023: 75 % des professionnels de la cybersécurité ont signalé une augmentation des attaques alimentées par l’IA. 92 % des organisations ont déclaré avoir subi une violation de sécurité, contre 51 % en 2021.
- 2024: 69 % des entreprises intègrent l’IA dans leurs processus, contre 46 % en 2023, mais seulement 35 % l’ont incluse dans leur stratégie de cybersécurité. Une étude d’Ivanti révèle que 45 % des personnes interrogées considèrent l’hameçonnage comme une menace croissante en raison de l’IA générative.
- Novembre 2024: Mandiant prévoit une adoption accrue des outils d’IA par les cyberattaquants pour des attaques plus efficaces, notamment via des « deepfakes ».
- Novembre 2024: Selon une étude de Capgemini, 61 % des organisations considèrent l’IA comme essentielle pour répondre efficacement aux menaces.
- Janvier 2025: 89 % des responsables informatiques craignent que les failles de l’IA générative puissent compromettre leur stratégie de cybersécurité.
- Evénements et initiatives récentes :
- Février 2025: L’ANSSI (Agence Nationale de la Sécurité des Systèmes d’Information) a piloté des travaux sur la cybersécurité lors du Sommet pour l’action sur l’IA à Paris, soulignant la nécessité de prendre en compte les risques cyber pour développer la confiance dans l’IA.
Recommandations
- Développer une stratégie claire: Il est essentiel d’intégrer l’IA et l’IA générative dans les systèmes de sécurité, en identifiant les cas d’usage prioritaires et en évaluant les risques associés.
- Renforcer la gouvernance: Les entreprises doivent élaborer des politiques strictes pour encadrer l’utilisation de l’IA, en particulier concernant la gestion des données sensibles et les applications non autorisées.
- Investir dans des infrastructures modernes: Il est nécessaire d’investir dans des systèmes capables de répondre aux exigences spécifiques de l’IA, comme des processeurs spécialisés et des capacités « cloud » optimisées.
- Former les équipes: Les équipes de cybersécurité doivent être formées pour maîtriser les nouveaux outils et sensibiliser l’ensemble des employés aux risques liés à l’IA.
- Adopter une approche proactive: Il est recommandé d’utiliser l’IA pour surveiller en temps réel les réseaux, identifier les vulnérabilités et simuler des attaques.
- Mettre en place une approche « axée sur l’humain »: La responsabilité en matière de cybersécurité reste une responsabilité humaine. Il faut se concentrer sur la manière dont l’IA peut aider le personnel en prenant en charge les tâches répétitives et en fournissant des informations guidées.
Conclusion
En conclusion, l’IA représente à la fois une arme et une menace pour la cybersécurité. Son adoption nécessite une approche proactive, une gouvernance rigoureuse et une vigilance constante pour minimiser les risques et maximiser les avantages.
Sources & Outils de veille
Outils :
1. Google Alert
2. Google NoteBook LLM