IA et cybersécurité

20.1L'IA au service de l'attaque

En clair

L'IA abaisse le coût et élève le niveau des cyberattaques, en automatisant ce qui demandait du temps et de l'expertise. Sans entrer dans aucun détail technique, on peut citer les grandes catégories :

L'ingénierie sociale à grande échelle : générer des courriels d'hameçonnage (« phishing ») impeccables, personnalisés et sans fautes, dans toutes les langues, en masse.
La fraude par deepfake : cloner la voix ou le visage d'un dirigeant pour autoriser un virement ou tromper un employé (chapitre 21). Des fraudes de ce type, portant sur des sommes considérables, ont déjà été documentées.
L'assistance au code malveillant et à la découverte de failles : aider des attaquants à produire ou adapter des logiciels nuisibles, ou à repérer des vulnérabilités plus vite.
Les attaques agentiques : l'usage d'agents (chapitre 6) capables de mener des étapes d'une attaque de façon semi-autonome.

20.2L'IA au service de la défense

Repère

Quand l'IA trouve les failles mieux que les humains (le tournant de 2026)

Un seuil a été franchi en 2026 : les meilleurs modèles de frontière sont devenus capables de découvrir et exploiter des vulnérabilités logicielles au niveau des tout meilleurs experts humains, à une échelle inédite. Le modèle Mythos d'Anthropic a ainsi mis au jour des milliers de failles inconnues (« zero-days ») dans tous les grands systèmes d'exploitation et navigateurs, dont certaines passées inaperçues pendant des décennies (une faille vieille de 27 ans dans OpenBSD, une autre de 16 ans dans le composant vidéo FFmpeg qu'aucun test automatisé n'avait détectée). C'est un double tranchant caractéristique : la même capacité qui rend un modèle dangereux entre de mauvaises mains le rend précieux pour colmater les failles avant qu'elles ne soient exploitées. D'où, en avril 2026, le projet Glasswing, une coalition défensive réunissant Anthropic et de grands acteurs de la tech et de la finance (Amazon, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Fondation Linux, Microsoft, NVIDIA, Palo Alto Networks...) pour mettre ces capacités au service de la sécurité, y compris des mainteneurs de logiciels open source ; d'autres laboratoires développent en parallèle leurs propres outils (par exemple Big Sleep et CodeMender chez Google). Le revers est apparu en juin 2026 : invoquant le contrôle des exportations et la sécurité nationale, le gouvernement américain a suspendu, du jour au lendemain, l'accès aux modèles Fable et Mythos pour tout ressortissant étranger, par crainte d'un détournement de leurs capacités cyber. L'épisode a nourri un vif débat : pour le gouvernement, il s'agissait de sécurité nationale ; pour Anthropic, la mesure était disproportionnée et reposait sur un contournement mineur que d'autres modèles publics présentaient aussi ; pour certains observateurs, un produit présenté comme une quasi-« arme » finit par être traité comme tel par l'État. C'est l'un des premiers cas où un contrôle à l'export vise un modèle d'IA, et non plus seulement des puces (chapitres 22 et 25).

20.3La sécurité des systèmes d'IA eux-mêmes

En clair

Voici une dimension nouvelle et cruciale : les systèmes d'IA sont eux-mêmes une surface d'attaque. Sécuriser l'IA est devenu une discipline à part entière, car les modèles présentent des vulnérabilités inédites :

L'injection d'instructions (« prompt injection ») : glisser, dans une page web ou un document que l'IA va lire, des ordres cachés qui détournent un agent (chapitre 6), par exemple pour lui faire exfiltrer des données. C'est l'une des failles les plus préoccupantes des agents.
Le contournement des garde-fous (« jailbreak ») : formuler des requêtes qui poussent un modèle à enfreindre ses propres règles.
L'empoisonnement des données : corrompre les données d'entraînement pour introduire des comportements malveillants ou des portes dérobées.
Le vol de modèle : extraire, par interrogation répétée, les capacités ou les paramètres d'un modèle propriétaire.
La chaîne d'approvisionnement : télécharger un modèle ou un composant open source compromis (poids piégés, dépendance malveillante), ou déployer du code « vibe-codé » non audité (section 6.7) qui embarque des failles. Le cas Moltbook (chapitre 6) en a donné l'illustration.
L'« IA fantôme » (shadow AI) : l'usage, par des employés, d'outils d'IA non approuvés dans lesquels des données sensibles de l'entreprise peuvent fuiter à leur insu.

Repère

Deux attaques plus subtiles, et les cadres pour s'en défendre

Aux failles ci-dessus s'ajoutent deux attaques qui visent le modèle lui-même de façon plus insidieuse. Les exemples adversariaux (adversarial examples) consistent à modifier une entrée de façon imperceptible pour un humain mais qui trompe le modèle : quelques pixels altérés et un panneau « stop » est lu comme une limitation de vitesse, ou un autocollant fait disparaître un objet aux yeux d'un système de vision. L'inférence d'appartenance (membership inference) cherche, elle, à deviner si une donnée précise (le dossier médical d'une personne, par exemple) faisait partie des données d'entraînement, ce qui pose un problème de confidentialité. Face à cette zoologie de menaces propres à l'IA, des cadres de référence se sont structurés pour les recenser et guider les défenseurs, notamment la matrice MITRE ATLAS (l'équivalent, pour l'IA, des bases de tactiques d'attaque classiques) et un « top 10 » des risques des applications à base de grands modèles publié par l'OWASP. Connaître la carte des attaques est le préalable de toute défense méthodique.

20.4Une course offensive-défensive permanente

Schéma20.1. Les trois visages de l'IA en cybersécurité. L'IA est à la fois une arme offensive, un bouclier défensif, et un nouveau système à protéger. Les trois progressent ensemble, dans une course permanente.

À l'horizon, la perspective de cyberattaques (et de cyberdéfenses) de plus en plus autonomes soulève des enjeux qui débordent la seule technique et rejoignent la défense (chapitre 22), la sûreté (chapitre 24) et la gouvernance (chapitre 25). La cybersécurité devient ainsi l'un des terrains où se jouera concrètement la maîtrise de l'IA.

À retenir (chapitre 20)

L'IA abaisse le coût des cyberattaques (hameçonnage à grande échelle, fraude par deepfake, aide au code malveillant, agents offensifs) : une démocratisation de la capacité offensive.
Elle est aussi une défense puissante (détection d'anomalies, réponse automatisée, analyse de la menace), mais une asymétrie pourrait avantager l'offensive à court terme.
Les systèmes d'IA eux-mêmes sont vulnérables : injection de prompt, jailbreak, empoisonnement des données, vol de modèle. Sécuriser l'IA est une discipline nouvelle.
C'est une course permanente attaque-défense, qui rejoint la défense (ch. 22), la sûreté (ch. 24) et la gouvernance (ch. 25).

Des menaces techniques aux cadres qui doivent les encadrer : le chapitre 21 aborde le droit et la société, et le chapitre 22, la défense.

20.1L'IA au service de l'attaque#

20.2L'IA au service de la défense#

20.3La sécurité des systèmes d'IA eux-mêmes#

20.4Une course offensive-défensive permanente#

À retenir (chapitre 20)

20.1L'IA au service de l'attaque

20.2L'IA au service de la défense

20.3La sécurité des systèmes d'IA eux-mêmes

20.4Une course offensive-défensive permanente