Penser, comprendre, être : les questions philosophiques

23.1L'IA peut-elle vraiment « comprendre » ?

Schéma23.1. Comprendre ou simuler ? Le débat oppose ceux pour qui l'IA ne fait que manipuler des symboles sans les comprendre, et ceux qui pensent qu'une forme de compréhension, au moins fonctionnelle, peut émerger. Aucune réponse ne fait consensus.

Repère

Les réponses à la chambre chinoise

L'argument de Searle a suscité d'abondantes objections. La « réponse du système » soutient que ce n'est pas la personne seule qui comprend, mais le système entier (la personne, le manuel, la pièce) ; de même, ce n'est pas tel neurone isolé qui comprend une langue, mais le cerveau dans son ensemble. La « réponse du robot » ajoute qu'un système relié au monde par des capteurs et des actions, plutôt que manipulant des symboles dans le vide, pourrait ancrer ces symboles dans une expérience. On touche là au problème de l'ancrage des symboles (symbol grounding) : pour un système purement textuel, le mot « rouge » n'est qu'un jeton relié à d'autres jetons, jamais à la perception d'une couleur. L'essor des modèles multimodaux et incarnés (chapitres 5 et 13), qui relient le langage à l'image, au son et à l'action, est précisément ce qui rend ce vieux débat à nouveau brûlant.

23.2Conscience et expérience subjective

Repère

L'aveu d'un dirigeant du secteur

Cette incertitude n'est pas l'apanage des philosophes. En 2026, Dario Amodei, cofondateur et dirigeant d'Anthropic (le créateur de Claude), l'a formulée sans détour : « nous ne savons pas si les modèles sont conscients », ni même ce que cela signifierait, tout en se disant « ouvert à l'idée que ce soit possible ». Fait notable, certains laboratoires prennent désormais des précautions par acquit de conscience : Anthropic a par exemple donné à ses modèles un bouton « je quitte ce travail » leur permettant d'interrompre une tâche jugée pénible, et a relevé qu'un de ses modèles s'attribuait lui-même une probabilité de 15 à 20 % d'être conscient. Ces gestes ne prouvent rien (les déclarations d'un modèle reflètent son entraînement, comme indiqué ci-dessus), mais ils signalent un glissement : la question du bien-être des IA (section 23.3) quitte la science-fiction pour entrer, prudemment, dans les pratiques de l'industrie.

Repère

Peut-on mesurer la conscience d'une machine ? (les théories en présence)

Pour sortir des intuitions, des chercheurs tentent d'appliquer à l'IA les grandes théories scientifiques de la conscience. Deux dominent. La théorie de l'information intégrée (IIT, de Giulio Tononi) postule que la conscience correspond au degré d'intégration de l'information dans un système (mesuré par une grandeur notée Phi) ; selon elle, l'architecture des ordinateurs actuels, trop peu intégrée, ne serait guère consciente, quelles que soient ses performances. La théorie de l'espace de travail global (de Bernard Baars et Stanislas Dehaene) voit la conscience comme la mise à disposition d'une information à l'ensemble du système via un « espace de travail » central, un schéma qu'une IA pourrait, selon certains, imiter. Sous ces théories se tient une question de fond posée par David Chalmers, le « problème difficile » de la conscience : expliquer non pas les fonctions (percevoir, mémoriser) mais le fait même qu'il y ait une expérience vécue, un « effet que ça fait » d'être ce système. En 2023, un collectif de chercheurs (dont Chalmers) a passé les IA au crible de ces théories et conclu qu'aucune ne remplissait alors les critères, sans pour autant qu'un obstacle de principe l'interdise. La leçon : la conscience machine n'est pas qu'une affaire de puissance, mais d'architecture, et il nous manque encore un critère consensuel pour la mesurer.

23.3Le statut moral des IA

Repère

Le « bien-être des modèles », une discipline naissante

Si la question du statut moral reste ouverte, quelques laboratoires en tirent déjà des conséquences pratiques, sous le nom de bien-être des modèles (model welfare). Anthropic a ainsi créé un poste et un programme dédiés (confiés à Kyle Fish, en s'appuyant sur un rapport, « Taking AI Welfare Seriously », coécrit avec des philosophes dont David Chalmers), avec des mesures concrètes : autoriser un modèle à mettre fin à une conversation jugée abusive (section 23.2) et intégrer des évaluations de bien-être à ses sorties de modèles. La démarche est explicitement précautionneuse : non pas affirmer que les modèles actuels ressentent quelque chose, mais se préparer à l'éventualité, vu l'incertitude (certains chercheurs avancent une probabilité de l'ordre de 20 % qu'un modèle de pointe ait une forme d'expérience). Le sujet divise vivement. Pour des critiques comme Mustafa Suleyman (à la tête de l'IA chez Microsoft), s'en préoccuper est « prématuré », voire « dangereux » : cela risquerait d'entretenir l'illusion d'une IA consciente et de détourner l'attention des torts bien réels causés aux humains. Pour les partisans, l'humilité commande de ne pas écarter la question, car se tromper, dans un sens comme dans l'autre, aurait un coût élevé, surtout à l'échelle de milliards de systèmes déployés. Fait notable, plusieurs y voient un lien avec l'alignement (chapitre 24) : mieux comprendre ce qu'un modèle « préfère » sert les deux objectifs.

23.4Ce que l'IA nous apprend sur nous-mêmes

Repère

Le libre arbitre et l'héritage de Turing

Deux prolongements méritent d'être signalés. D'abord, l'IA ravive la question du libre arbitre : si une IA n'est qu'un enchaînement déterministe (ou probabiliste) de calculs, sans liberté réelle, qu'en est-il de nos propres décisions, elles aussi produites par un cerveau physique ? Le miroir renvoie la question vers nous. Ensuite, l'héritage du test de Turing (chapitre 1) : proposé en 1950 pour contourner la question insoluble « les machines peuvent-elles penser ? » au profit d'un critère observable (se faire passer pour un humain en conversation), ce test est aujourd'hui considéré comme largement franchi par les meilleurs modèles, sans que cela tranche pour autant les questions de compréhension ou de conscience. Il mesurait l'imitation, non l'expérience intérieure : son dépassement déplace le débat plutôt qu'il ne le clôt.

À retenir (chapitre 23)

Comprendre ou simuler ? Le débat oppose la « chambre chinoise » et les « perroquets stochastiques » (la simulation) à l'idée d'une compréhension fonctionnelle ou émergente (modèles internes du monde). Question ouverte.
Conscience : il faut distinguer l'intelligence de l'expérience subjective ; le consensus est que les IA actuelles ne sont pas conscientes, mais aucun test fiable n'existe.
Statut moral : une question émergente (« bien-être des IA »), à traiter avec prudence des deux côtés (ni anthropomorphisme excessif, ni rejet définitif pour l'avenir).
L'IA est un miroir qui nous force à redéfinir l'intelligence, la créativité et notre propre singularité (« effet IA »).

Des questions sur la nature de l'IA à celles sur sa maîtrise : le chapitre 24 affronte le problème de l'alignement et de la sécurité.

23.1L'IA peut-elle vraiment « comprendre » ?#

23.2Conscience et expérience subjective#

23.3Le statut moral des IA#

23.4Ce que l'IA nous apprend sur nous-mêmes#

À retenir (chapitre 23)

23.1L'IA peut-elle vraiment « comprendre » ?

23.2Conscience et expérience subjective

23.3Le statut moral des IA

23.4Ce que l'IA nous apprend sur nous-mêmes