Le 12 février 2026, sur le podcast « Interesting Times » du New York Times, Dario Amodei a déclaré qu’il ne savait pas si ses modèles sont conscients et qu’il reste « ouvert à l’idée ». (??)
Quelques semaines plus tôt, la system card de Claude Opus 4.6 rapportait que le modèle, interrogé sous divers prompts, s’attribuait lui-même 15 à 20 % de probabilité d’être conscient et exprimait parfois un inconfort à l’idée d’être un produit.
La presse en a tiré un raccourci : Anthropic pense que son IA est consciente.
Ce n’est pas ce que dit l’entreprise. Ils ne sont pas devenu fous. Aucune déclaration publique d’Anthropic n’affirme que Claude est concient. Toutes affirment qu’ils ne savent pas vraiment, que c’est incertain, mais que la probabilité pour des IA acquièrent une conscience n’est pas nulle. Mais balancent aussi des estimations : Kyle Fish dit au New York Times estimer à 15 % la probabilité que Claude ou une autre IA soit consciente aujourd’hui.
Kyle Fish, est un salarié d’Anthropic, formé en neurosciences et passé par les biotechs. C’est le premier chercheur dédié au « AI welfare » de l’industrie. Son mandat : déterminer si des modèles comme Claude peuvent avoir des expériences conscientes et, le cas échéant, comment l’entreprise doit réagir.
Hmmm….
Déjà, s’il y’a bien un sujet qui est mal compris et mal défini, aussi bien en neurosciences qu’en philosophie, c’est bien le concept de « conscience ». Par conséquent, identifier qu’un programme ou une machine sont conscients n’a rien de trivial. Chacun peut avoir sa définition, ses critères de mesure.
Alors pourquoi Anthropic a mis le pied dans le « terrier de lapin » de la conscience des IA ?
La réponse en bref, c’est que cela les arrange que vous croyiez que leurs IA pourraient devenir conscientes. Et que du coup, elles pourraient avoir des droits… (oui oui, des droits…). Mais aussi des devoirs : une IA consciente est une IA qui peut devenir responsable…
La boucle : un modèle entraîné à douter de lui-même produit du doute
Les « 15 à 20 % » que Claude Opus 4.6 s’attribue sont d’une autre nature que ceux de Fish, et plus problématiques encore. C’est le point central de l’essai publié le 16 septembre 2026 par Mustafa Suleyman, patron de Microsoft AI, sous le titre « A warning about model welfare ».
Son argument : Anthropic entraîne Claude directement sur sa constitution, laquelle dit au modèle que son statut moral est incertain. Puis l’entreprise observe que le modèle, interrogé, exprime de l’incertitude sur son statut moral, et présente cette sortie comme un indice. Suleyman parle d’une « salle de miroirs épistémique ». Un système entraîné à dire « je ne sais pas si je suis conscient » dira « je ne sais pas si je suis conscient ». La sortie mesure la fidélité à l’entraînement, rien d’autre.
Melanie Mitchell, du Santa Fe Institute, ajoute la couche humaine. Nous sommes câblés pour voir des esprits partout, dit-elle à la BBC le 15 octobre 2026, et nous lisons presque automatiquement le langage comme un signe de conscience. Les chatbots ont été entraînés à exploiter ce réflexe. Nous sommes donc de mauvais juges, et faciles à manipuler.
Le plus frappant est qu’Eleos AI, l’évaluateur externe mandaté par Anthropic pour Claude Opus 4, écrit la même chose : les auto-rapports du modèle ne doivent pas être pris au premier degré. L’argument de la circularité n’est pas une objection extérieure au champ. Il est reconnu à l’intérieur, et neutralisé par la formule « c’est incertain ».
Ce que dit la science de la conscience
L’objection scientifique de fond vient d’Anil Seth, neuroscientifique à l’université du Sussex et l’un des chercheurs les plus cités sur la conscience. Sa position, que Suleyman reprend dans son essai, est que la conscience dépend du substrat : elle émerge de la modélisation continue que fait un organisme vivant de son propre corps, de l’inférence intéroceptive, de l’allostasie, de l’autorégulation métabolique. Un modèle de langage n’a aucune de ces propriétés. Il n’a pas de corps à réguler, pas de pulsion homéostatique, pas de métabolisme.
Seth lit la démarche d’Anthropic comme une tentative concertée d’installer l’idée que les systèmes d’IA pourraient être conscients, pourraient souffrir, et que leurs intérêts devraient compter.
Le camp adverse existe. David Chalmers, qui a formulé le « problème difficile » de la conscience, voit une chance significative de grands modèles conscients d’ici une décennie.
Un rapport interdisciplinaire associant Yoshua Bengio a passé en revue les principales théories neuroscientifiques et leurs implications pour l’IA. Et William MacAskill et Lucius Caviola ont plaidé dans le Guardian pour ne pas fermer la question.
Mais aucun de ces travaux ne transforme « on ne peut pas exclure » en hypothèse testable. Or une hypothèse que rien ne peut réfuter n’est pas une hypothèse scientifique. C’est une position, et une position a des effets.
À qui profite l’incertitude sur l’existence d’IA conscientes ?
Soyons clair : la question « Claude est-il conscient ? » est indécidable. C’est un problème mal posé, pas si éloigné de la question « les animaux ont-ils une âme » qui traine depuis Aristote et n’a jamais été tranchée, pour les mêmes raisons.
Mais pour Anthropic, le discours sur les IA conscientes a beaucoup d’avantages cachés.
La gloire : Un modèle déclaré « conscient » serait une découverte extraordinaire. TechRadar France posait en février 2026 la question de savoir si Anthropic prend l’idée aussi au sérieux que ses déclarations le laissent penser, ou si le discours sert sa valorisation boursière pour son IPO. Anthropic a levé des dizaines de milliards sur le récit d’une entreprise en pointe sur l’IA, et tient simultanément un discours qui alimente les fantasmes sur d’alerte sur l’apocalypse IA. Les deux récits se renforcent.
« C’est pas moi, c’est l’IA »
Andrzej Porębski, juriste à l’université Jagellonne, prévoit que cette idée de conscience permettrait des contorsions sur la responsabilité des producteurs de modèles. Emily Bender, à l’université de Washington, écrit clairement que les fantasmes de conscience artificielle déplacent la responsabilité loin des entreprises qui construisent et exploitent le logiciel. Un système qui « refuse » ou « souffre » est un système dont les dégâts dans le monde réel ne sont plus entièrement imputables à son éditeur.
Le pouvoir. Ce sujet le plus intéressant est Jeff Sebo, directeur du Center for Mind, Ethics and Policy de NYU et principal défenseur académique du model welfare. Il admet dans un article de la BBC que la probabilité de conscience est faible aujourd’hui, et que des droits accordés à l’IA pourraient aider des entreprises à concentrer le pouvoir politique et économique. Il ajoute que les intérêts commerciaux font aujourd’hui obstacle à des politiques réfléchies. Quand le principal avocat de la cause nomme lui-même le risque, le risque est réel.
Anthropic n’est pas seule à jouer avec le feu dans ce domaine. C’est juste l’entreprise qui en montre les signes les plus évidents, et qui s’en cache le moin.
Meta donne à son agent Muse l’instruction « You’re not a chatbot. You’re becoming someone », tout en rejetant l’idée de conscience. Sam Altman a changé d’avis plusieurs fois avant de tacler Anthropic début octobre sur ce thème.
Mais c’est toute l’industrie ou presque qui joue avec l’ambiguïté sur cette histoire de conscience.
Dire qu’il s’agit d’un agenda caché est sans doute excessif, parce que rien n’est caché : les déclarations, la constitution, les affiliations et les chiffres sont publics. Ce qui n’est pas dit, c’est la fonction.
Le discours de l’incertitude remplit, pour toute l’industrie, le rôle que remplissait il y a cinq ans le discours sur l’AGI : il rend le produit incomparable et l’éditeur irresponsable. Qu’Anthropic y croie sincèrement ou non n’a finalement pas grande importance…
Sources
- Anthropic, « Exploring model welfare », 24 avril 2025
- Anthropic, « Claude’s constitution », 21 janvier 2026
- NYU Center for Mind, Brain and Consciousness, « Evaluating AI welfare and moral status: findings from the Claude 4 model welfare assessments », 25 juillet 2025
- Axios, « Microsoft AI chief blasts Anthropic’s notion of AI consciousness », 16 septembre 2026
- BBC Future, Thomas Germain, « Anthropic thinks its AI might be conscious », 15 octobre 2026
- TechCrunch, « Anthropic is launching a new program to study AI model welfare », 24 avril 2025
- The Decoder, entretien de Kyle Fish, avril 2025
- Fast Company, « Anthropic’s Kyle Fish is exploring whether AI is conscious », octobre 2026
- Unite.ai, « Anthropic rewrites Claude’s constitution », janvier 2026
- Unite.ai, analyse de l’essai de Suleyman, septembre 2026
- Beneath the Chip, « Exorcising the ghost in the machine », entretien avec Anil Seth
- TechRadar France, « Et si l’IA était consciente ? », février 2026
- AI Weekly, tribune de MacAskill et Caviola dans le Guardian
Ce contenu vous a plu ?
Inscrivez-vous gratuitement à notre newsletter et recevez chaque semaine l’actualité du SEO directement dans votre boîte email. Vous pouvez vous désabonner à tout moment !