Les systèmes d’intelligences artificielles ont, ces dix dernières années, été un sujet de recherche très actif où de nombreux progrès ont été réalisés. Désormais Chat-GPT, Dall-E et bien d’autres, sont accessibles au public. Depuis deux ans maintenant, les entreprises et le monde de la défense entament une transition vers l’adoption massive de systèmes d’IA afin d’assister leurs collaborateurs.

Les systèmes d’IA ont été utilisés bien avant leur démocratisation, dans les solutions de sécurité informatique de nombreuses entreprises, afin de détecter, classifier et parfois répondre à des menaces (SIEM, SOAR, IDS, IPS, etc.). Désormais, l’IA n’est plus utilisée seulement à des fins défensives, mais aussi bien à des fins offensives, et une course à l’armement entre la défense et l’attaque semble se dessiner.

En bref

Cet article étudie comment les attaquants peuvent intégrer des systèmes d’intelligence artificielle dans leur chaîne d’attaque. Nous traiterons de l’intégration de cette relative nouvelle technologie au sein de logiciels malveillants, d’agents autonomes d’attaque, de techniques d’évasion, mais aussi de son utilisation pour la génération de phishings et son impact sur la lutte informatique d’influence. Nous ne traiterons pas de l’utilisation de systèmes d’IA à vocation défensive.

Avertissement

Ceci est un article de vulgarisation ; il n’est en aucun cas un article de recherche ou technique. Une compréhension minimale de l’intelligence artificielle et des concepts de cybersécurité est néanmoins souhaitable afin de l’apprécier.

La majorité des études prises pour sources sont des « pre-print » ; leurs résultats doivent donc être pris évidemment avec des précautions. Néanmoins au vu de la réputation des auteurs et du croisement des sources, nous pouvons accorder une certaine confiance à ces études. En aucun cas cet article doit être pris pour une vérité absolue, celui-ci doit davantage être considéré comme présentant des perspectives sur les sujets traités.