Gouvernance, régulation et futurs possibles

Pour rendre ces familles concrètes, il est utile d'en esquisser les versions extrêmes, en gardant à l'esprit qu'il s'agit de scénarios, non de prédictions.

Le versant lumineux. Dans l'hypothèse la plus favorable, souvent défendue par les optimistes (l'essai Machines of Loving Grace de Dario Amodei, chapitre 7, en est une illustration), une IA puissante et maîtrisée agirait comme un accélérateur de la connaissance. On peut imaginer des décennies de progrès médical comprimées en quelques années : maladies aujourd'hui incurables comprises et traitées, diagnostics précoces généralisés, conception accélérée de médicaments (chapitre 14). S'y ajouteraient un âge d'or scientifique (matériaux, énergie, climat), un précepteur personnalisé pour chaque élève (chapitre 15), et, si les gains de productivité étaient largement partagés, une forme d'abondance matérielle libérant du temps. C'est le scénario où l'IA tient ses promesses sans que ses risques se réalisent.

Le versant sombre. À l'inverse, plusieurs trajectoires préoccupantes ne supposent même pas de superintelligence hostile. La plus discutée des transitions douloureuses est celle d'un chômage de masse mal anticipé : si l'automatisation (cognitive puis physique, chapitre 17) allait plus vite que la création d'emplois et que les gains se concentraient, les inégalités exploseraient. Un deuxième risque est politique : des outils d'IA très performants peuvent servir une surveillance généralisée et une concentration du pouvoir inédite, entre quelques États ou quelques entreprises, jusqu'à un possible verrouillage durable d'un ordre autoritaire (chapitre 21). Un troisième tient au mauvais usage délibéré : cyberattaques de grande ampleur, désinformation industrialisée, voire abaissement de la barrière vers des armes biologiques (chapitres 20, 22 et 24). Un quatrième, plus insidieux, a été formalisé en 2025 sous le nom de désautonomisation progressive (gradual disempowerment) : sans aucune prise de contrôle brutale, l'humanité pourrait perdre peu à peu la main sur son économie, sa culture et ses institutions, simplement en déléguant toujours plus de décisions à des systèmes plus rapides et moins coûteux qu'elle, au point que ses intérêts cessent d'être au centre. À l'extrême figure enfin le scénario d'une perte de contrôle rapide face à une IA très avancée et désalignée (le récit AI 2027, section 24.3). Moins spectaculaire mais souvent cité, un risque de sens complète le tableau : que deviendraient le travail, l'effort et la fierté de créer dans un monde où la machine ferait presque tout mieux et plus vite ?

Aucune de ces images n'est certaine, et la réalité mêlera sans doute le meilleur et le pire selon les domaines et les régions. C'est précisément parce que l'éventail est aussi large que la trajectoire dépend de variables que l'on peut, en partie, infléchir.

Les variables décisives sont au nombre de quatre, et chacune renvoie à un chapitre de ce cours : la réussite (ou non) de l'alignement et de la sécurité (chapitre 24) ; la qualité de la gouvernance et de la coordination (ce chapitre) ; la répartition des bénéfices, entre concentration et démocratisation (chapitres 9 et 17) ; et l'évolution de la rivalité géopolitique (chapitres 8 et 22). Quant à l'arrivée d'une éventuelle intelligence artificielle générale (AGI), les estimations des experts vont de quelques années à plusieurs décennies, voire jamais : c'est dire l'incertitude.

Face à une technologie aussi puissante qu'incertaine, ni l'emballement béat ni le rejet craintif ne sont de bons guides. La posture la plus utile, celle que ce cours a tenté d'incarner, est une lucidité informée : comprendre les mécanismes, distinguer les faits du battage, peser les promesses et les risques, et garder à l'esprit que l'avenir de l'IA n'est pas écrit. Il dépendra, pour une large part, des choix techniques, économiques et politiques que nous ferons collectivement. Comprendre l'IA, comme s'y emploie ce cours, est la première condition pour y prendre part.

---

À retenir (chapitre 25)

• Trois approches de régulation : Europe (droits et risque, effet extraterritorial), États-Unis (marché et contrôle des exportations), Chine (pilotage par l'État).
• L'AI Act européen classe les usages en une pyramide des risques (inacceptable, haut, limité, minimal) ; application générale au 2 août 2026 (haut risque, transparence), sanctions jusqu'à 35 M€ ou 7 % du CA, sous le débat protection contre compétitivité (Digital Omnibus).
• Gouverner les modèles de frontière soulève les questions des audits obligatoires (analogie avec l'aviation), des instituts de sécurité, et du contrôle par l'État, le tout entravé par la difficulté de la coordination internationale en contexte de course.
• Les futurs vont d'un versant lumineux (abondance, âge d'or scientifique, médecine et éducation transformées) à un versant sombre (chômage de masse, surveillance et concentration du pouvoir, mauvais usage, désautonomisation progressive, perte de contrôle), en passant par un chemin « cahin-caha » ; quatre variables décideront : alignement, gouvernance, répartition, géopolitique. L'arrivée d'une AGI reste très incertaine.
• Fil rouge : l'IA est une technologie à usage général ; la bonne posture est la lucidité informée, car son avenir dépendra de nos choix collectifs.

Ainsi s'achève le corps de ce cours. Les annexes qui suivent (glossaire, repères chronologiques et sources) en sont les compagnons de référence.

---

---