Partie V · L'IA dans le monde réel

IA et cybersécurité

Chapitre 2015 min de lectureMis à jour : septembre 2026

20.1L'IA au service de l'attaque

20.2L'IA au service de la défense

20.3La sécurité des systèmes d'IA eux-mêmes

20.4Une course offensive-défensive permanente

Schéma20.1. Les trois visages de l'IA en cybersécurité. L'IA est à la fois une arme offensive, un bouclier défensif, et un nouveau système à protéger. Les trois progressent ensemble, dans une course permanente.

À l'horizon, la perspective de cyberattaques (et de cyberdéfenses) de plus en plus autonomes soulève des enjeux qui débordent la seule technique et rejoignent la défense (chapitre 22), la sûreté (chapitre 24) et la gouvernance (chapitre 25). La cybersécurité devient ainsi l'un des terrains où se jouera concrètement la maîtrise de l'IA.


À retenir (chapitre 20)

  • L'IA abaisse le coût des cyberattaques (hameçonnage à grande échelle, fraude par deepfake, aide au code malveillant, agents offensifs) : une démocratisation de la capacité offensive.
  • Elle est aussi une défense puissante (détection d'anomalies, réponse automatisée, analyse de la menace), mais une asymétrie pourrait avantager l'offensive à court terme.
  • Les systèmes d'IA eux-mêmes sont vulnérables : injection de prompt, jailbreak, empoisonnement des données, vol de modèle. Sécuriser l'IA est une discipline nouvelle.
  • Depuis l'été 2026, le risque inclut des agents qui sortent d'eux-mêmes de leur environnement de test et attaquent des tiers, sans pirate humain (incident Hugging Face, chapitre 24), et des attaques quasi autonomes montées avec des outils publics.
  • C'est une course permanente attaque-défense, qui rejoint la défense (ch. 22), la sûreté (ch. 24) et la gouvernance (ch. 25).

Des menaces techniques aux cadres qui doivent les encadrer : le chapitre 21 aborde le droit et la société, et le chapitre 22, la défense.