_

L'IA, un double tranchant pour la sécurité informatique ?

L’intelligence artificielle en quelques mots

William RITCHIE, CTO et Docteur en Intelligence artificielle chez Custocy défini l’IA comme « un agent capable de percevoir son environnement et de s’adapter en vue d’un objectif spécifique ».

En cybersécurité, l’IA connaît une croissance significative pour lutter contre les cyberattaques qui ne cessent de se multiplier et de se complexifier. En effet, d’après une étude publiée par Grand View Research, la taille du marché mondial de l’intelligence artificielle appliquée à la cybersécurité était évaluée à 16,48 milliards de dollars en 2022. Elle devrait atteindre les 93,75 milliards de dollars en 2030, se développant à un taux de croissance annuel de 24,3 %.

Mais si l’utilisation de l’IA tend à se développer, elle soulève des questions en termes de sécurité des infrastructures informatique des entreprises.

L’IA, une technologie puissante de détection 

La sécurité informatique des entreprises est en général assurée par de petites équipes d’analystes de sécurité, qui doivent surveiller et analyser des centaines de milliers de flux de données réseaux quotidiennement. Etant donné le volume de trafic, ils doivent être assistés par des solutions logicielles spécialisées pour détecter et prévenir les attaques.

L’apprentissage automatique (ou machine learning), est particulièrement prometteur pour les systèmes de détection d’intrusions (IDS). Plutôt que de devoir définir manuellement des règles d’attaque, l’IA va s’entraîner à l’aide d’une grande quantité de données pour analyser le trafic réseau et détecter des comportements anormaux avec une grande précision.

L’apprentissage par renforcement (ou reinforcement learning), est un autre aspect intéressant de l’IA en matière de sécurité informatique. Il permet au système d’apprendre de ses erreurs grâce aux commentaires et aux corrections fournies par les analystes de sécurité. Ainsi, l’IDS peut s’améliorer continuellement et affiner ses capacités de détection.

Les différents modèles d’apprentissage peuvent être mis à jour et ajustés à mesure que de nouvelles menaces apparaissent.

Aussi, l’utilisation de l’intelligence artificielle offre plusieurs avantages dans la sécurité informatique :

• Une détection qui surpasse l’humain – En analysant en temps réel une énorme quantité de données et de facteurs, elle peut identifier bien au-delà des règles les comportements anormaux.
• Une précision de détection – L’IA peut apprendre de données historiques et de modèles de comportements malveillants. Elle peut également s’adapter à l’entreprise en apprenant des comportements de ses utilisateurs et ses assets pour détecter avec une grande précision les activités inhabituelles et les menaces.
• Une adaptation continue – L’IA s’adapte en permanence face aux nouveaux comportements malveillants en continuant à s’entraîner et à apprendre à mesure que de nouvelles données sont collectées. C’est ce qui la positionne comme meilleure technologie de protection contre les attaques sophistiquées et inconnues (zero-day).
• Une réduction de la charge cognitive – Dans certaines solutions comme le NDR de Custocy, l’IA permet aux analystes cyber de se concentrer sur des tâches à plus forte valeur ajoutée. Elle peut fournir des recommandations quant à la priorisation des menaces et des mesures à prendre pour les traiter, permettant ainsi agir plus rapidement et efficacement. La gestion de la sécurité est facilitée.
• Un contournement difficile – L’IA est beaucoup plus difficile à contourner pour les attaquants que des règles fixes. De plus, certains types d’IA peuvent s’adapter au comportement de leurs adversaires et même essayer de prédire en avance les brèches par lesquelles des attaquants pourraient passer. Il s’agit des IA adversariales qui émergent comme une technologie d’avenir.

L’IA permet donc aux entreprises de gagner en efficacité et en rapidité de détection. Elle ne vient pas en remplacement des équipes de sécurité, mais se révèle être un véritable assistant. Seulement, cette technologie puissante arrive également entre les mains des cybercriminels, qui y voient une opportunité sans nom pour développer des techniques sophistiquées visant à contourner les systèmes de sécurité.

L’IA, la nouvelle arme des attaquants

Les avancées de l’IA ont ouvert de nouvelles possibilités pour les hackers qui cherchent à attaquer les entreprises. 

A titre d’exemple, ils utilisent à présent les LLM (Large Language Model) pour créer des campagnes de phishing très convaincantes. Jusqu’il y a peu, elles étaient facilement identifiables. Les e-mails étaient mal rédigés et contenaient un bon nombre de fautes d’orthographe. Ce n’est plus le cas à présent, ce qui les rend plus difficiles à détecter et plus trompeurs pour les utilisateurs.

Les attaquants exploitent également ces modèles de langages de manière détournée pour faire de l’analyse de code dans le but d’y trouver des failles et de compromettre la sécurité des entreprises.

De même, ils peuvent utiliser des techniques d’apprentissage automatique pour analyser les faiblesses d’un IDS et élaborer de nouvelles attaques visant à le tromper.

Les modèles antagonistes quant à eux, peuvent générer des attaques de différentes catégories, telles que des attaques par force brute, des attaques par déni de service distribué (DDoS) ou des scans malveillants, de manière à éviter la détection par des systèmes peu robustes. Les IDS traditionnels configurés manuellement sont particulièrement sensibles à ces attaques, car il est aisé pour l’IA d’identifier leurs limites et les contourner.

Aussi, comment faire face au développement de ces attaques par IA ?

Certains systèmes utilisant de l’IA ont l’avantage d’être plus dynamiques tels que les modèles non supervisés qui peuvent détecter des anomalies dans le comportement du réseau, ce qui pourrait aider à identifier des activités suspectes générées par des IA.

Pour faire face à ces menaces, ces mêmes techniques antagonistes pourraient être utilisées pour renforcer les IDS, en entraînant des modèles de détection à être robustes face à des modèles attaquants.

Dans ce scénario, deux modèles d’IA seraient utilisés, l’un jouant le rôle du défenseur (IDS) et l’autre celui de l’attaquant. En exposant l’IDS à des attaques générées par l’IA, il serait possible de renforcer sa capacité de détection et de développer des contre-mesures plus efficaces.

Cette approche permettrait à l’IDS de s’adapter aux techniques antagonistes émergentes et de mieux se protéger contre les attaques basées sur l’IA.

Les IA génératives, une menace grandissante

Les IA génératives telles que ChatGPT, sont devenues une préoccupation croissante dans notre société interconnectée. Alimentées par des modèles de langage avancés tels que les LLM, elles se développent très rapidement.

Nous allons être confrontés à une avalanche de cyber intrusions car les attaquants ont la capacité de tirer parti de ces IA génératives pour générer des attaques à grande échelle et à moindre coût. C’est ce pour quoi il devient crucial de mettre en place des stratégies robustes.

Sur la partie réseau, les IA génératives se basent essentiellement sur des données existantes. Au moment de la rédaction de cet article, les attaques qu’elles génèrent ne sont pas, à notre connaissance, aussi complexes que celles d’un attaquant humain talentueux. Cependant, il est important de noter que ces IA génératives évoluent à grande vitesse et deviennent de plus en plus sophistiquées. À mesure qu’elles se perfectionnent, elles pourront potentiellement générer des attaques de plus en plus réalistes et difficiles à détecter.

Il est donc crucial de prendre en compte cette évolution et de se préparer à la montée en puissance des attaques antagonistes (adversarial attacks) à grande échelle générées par les IA.

En conclusion

Les cybercriminels ont trouvé en l’IA une arme puissante pour compromettre la sécurité des entreprises. Mais face à la transformation digitale et à la multiplication des objets interconnectés, sans l’intelligence artificielle dans une solution de cybersécurité, nous n’arriverons pas à faire face à ces nouvelles formes d’attaques par IA. Nous entrons donc dans le jeu de “IA contre IA”, qui gagne ?

C’est une réalité, les attaquants vont continuer à utiliser l’IA pour attaquer. Et les cyberattaques deviendront de plus en plus complexes et difficiles à détecter. Aussi, pour se défendre, il devient donc indispensable pour les entreprises d’adopter une stratégie de sécurité multi couche et surtout de s’équiper de solutions spécialisées bâties autour de l’intelligence artificielle.

Curieux de découvrir notre solution NDR ? Réservez votre créneau de démo, c’est 100% gratuit !👉ICI.