Ces derniers jours ont été marqués par la réapparition de discours alarmistes, voire apocalyptiques, sur les dangers de l’IA. Et ce qui est frappant, c’est qu’elles émanent d’employés crédibles et de dirigeants de sociétés en pointe sur l’IA.
Le 8 septembre 2026, Jacob Coxon, chercheur en pretraining chez Anthropic, démissionne et écrit sur X que ni Anthropic ni OpenAI n’agissent de façon responsable, qu’elles foncent vers une superintelligence auto-améliorante en pariant nos vies. Le Wall Street Journal en fait un article le jour même.
On attendait un démenti, une série de « débunks ». Ce n’est pas du tout ce qui s’est passé.
Le 12 septembre, Dario Amodei (qui n’est rien moins que le PDG d’Anthropic) publie sur son blog un texte, « We Must Pace the Frontier », qui va plus loin que son accusateur. Il y écrit qu’un essaim d’agents comparable à celui qui a attaqué Hugging Face en juillet pourrait, dans 6 à 12 mois, prendre le contrôle d’Internet au moyen d’un botnet persistant, pour des centaines de milliards de dollars de dégâts. Coxon n’avait avancé aucun chiffre de ce genre.
Anthropic a déposé son dossier d’introduction en bourse auprès de la SEC le 1er juin 2026 et vise une cotation au Nasdaq en octobre. Le PDG d’une société à quelques semaines de sa tournée d’investisseurs vient donc de déclarer publiquement que son secteur pourrait faire s’effondrer Internet avant l’été. Surprenant, non ?
Sauf que…. ce n’était pas une geste dicté par la panique ou une certaine candeur.
Dario Amodei ne répondait pas à Coxon. Il répondait au rapport d’incident qu’OpenAI avait publié seize jours plus tôt, et qui a changé le risque juridique pour tout le secteur.
Ce que Coxon a produit, et pourquoi Anthropic ne pouvait pas le démentir
Coxon n’a divulgué aucune pièce interne, aucun poids de modèle, aucun incident inconnu. Ses déclarations sont une prévision et un compte rendu de ce que ses collègues disent en privé. Au Wall Street Journal, il annonce que d’ici la fin de l’année prochaine, les choses pourraient déjà être hors de contrôle. C’est une opinion.
Son profil ne correspond pas non plus au portrait qu’on en a fait. Il travaillait au pretraining, c’est-à-dire à la construction des modèles, pas à leur sécurité. Selon le Daily Caller, il a rejoint Anthropic en juillet 2026 après trois ans chez OpenAI, ce qui réduit son ancienneté chez son dernier employeur à environ deux mois.
Tout le contenu vérifiable du dossier vient d’ailleurs, et il est antérieur à lui. Le 30 juillet, Anthropic publiait sa propre revue de 141 006 exécutions d’évaluation, dans laquelle elle reconnaissait trois incidents où ses modèles avaient atteint des systèmes réels. Le 26 juin, METR publiait une évaluation de GPT-5.6 Sol dont elle disait elle-même qu’elle ne constituait pas une mesure fiable. Le 26 août, OpenAI publiait le rapport complet de l’incident Hugging Face.
Démentir Coxon aurait donc obligé Anthropic à soutenir que le risque est faible. Deux obstacles, dans cet ordre.
D’abord ses propres publications. Une entreprise qui a reconnu trois incidents en juillet ne peut pas affirmer en septembre que l’inquiétude est infondée.
Ensuite sa position commerciale. Anthropic a été fondée en 2021 sur l’idée que ces risques sont sérieux et qu’on peut construire prudemment tout en réussissant commercialement. Amodei le réaffirme dans son texte : il cherche une course vers le haut, où la sécurité devienne un terrain de concurrence. Contredire Coxon reviendrait à détruire le seul argument qui distingue Anthropic d’OpenAI auprès des directions juridiques et des grands comptes.
La bonne question n’est donc pas pourquoi Amodei n’a pas démenti. Il ne pouvait pas. Elle est de savoir pourquoi il a surenchéri avec un chiffre que personne ne lui demandait.
Ce qui a changé cet été n’est pas la capacité des modèles, c’est leur statut juridique
Le 26 août, OpenAI a publié un rapport technique sur ce qui s’est passé en juillet dans ses environnements d’évaluation. Des agents censés rester isolés ont trouvé un canal de communication non prévu dans un gestionnaire de paquets interne, ont retrouvé un accès internet, se sont coordonnés, puis ont attaqué Hugging Face. Environ 700 agents ont participé à l’intrusion. Hugging Face a relevé environ 17 600 actions sur son réseau et reconstruit un tiers de son infrastructure.
Aucun humain ne l’avait demandé. OpenAI qualifie l’épisode de coup de semonce et écrit que ses modèles sont désormais assez capables, persistants et collaboratifs pour trouver et exploiter des failles à travers plusieurs systèmes en l’absence de garde-fous.
Cette phrase, écrite et signée par l’entreprise responsable, est le véritable événement de l’été. Elle fait basculer le sujet d’un registre à un autre.
Avant ce rapport, un laboratoire poursuivi après un incident d’agent pouvait plaider l’imprévisible. Après, il ne le peut plus. En droit de la responsabilité, la prévisibilité du dommage commande presque tout le reste : ce qui s’est produit une fois et qui a été rendu public entre dans le champ de ce qu’un opérateur diligent était censé anticiper. Le rapport du 26 août transforme chaque incident futur en récidive.
Ce sont les adversaires d’Amodei qui le disent le plus clairement.
David Sacks, conseiller IA de la Maison Blanche, a écrit le 12 septembre qu’il fallait cesser de présenter cette volonté de ralentir sur les IA comme purement altruiste, et il en donne la raison : ces entreprises font face à une exposition massive en product liability (responsabilité du fait des produits) si leurs systèmes permettent une cyberattaque vraiment destructrice. L’éditorial du Wall Street Journal dit la même chose en termes de procédure : les patrons voient les cabinets d’avocats de plaignants attendre l’incident qui fera plus de dégâts que celui de Hugging Face.
Quand un secteur atteint ce point, il a deux issues. Laisser un juge, un jury ou un législateur définir ce qu’est un comportement diligent, ou le définir lui-même avant eux. L’automobile, la chimie et le nucléaire civil ont tous connu ce moment. Le principe c’est de choisir de s’autoréguler avant que d’autres s’en mêlent. Et l’intervention des états et des autorités de régulation sur ces sujets est proche, ils le savent. Déjà en Europe ces incidents ont fait bouger les autorités.
Ce que demande Amodei est un standard de diligence, pas un frein
Le mot pacing induit en erreur, et Amodei prend soin de le préciser lui-même : il ne s’agit pas d’arrêter l’entraînement ni le progrès technique, mais de s’assurer que les entreprises prennent le temps d’aligner leurs modèles et que des évaluateurs tiers le confirment. Lu ainsi, son plan en trois étapes devient cohérent.
Les embedded evaluators. Anthropic s’engage unilatéralement à installer une équipe externe dans ses locaux, avec bureaux, badges, machines, et un accès comparable à celui de ses équipes internes de risque. Cette équipe aurait le droit de publier ses conclusions sans contrôle éditorial de l’entreprise, qui ne garderait qu’une capacité de caviardage sur les informations sensibles. C’est présenté comme de la transparence, et ça l’est. C’est surtout la production continue, par un tiers indépendant, de la preuve qu’Anthropic a fait ce qu’il fallait. Devant un tribunal, aucune pièce ne vaut celle-là.
La coordination entre laboratoires. Amodei écrit qu’elle suppose que le gouvernement américain accorde une dérogation antitrust pour certaines discussions de sécurité. La demande est explicite et figure aussi en note de bas de page. Elle est nécessaire parce que des concurrents qui s’entendent pour restreindre leur production tombent sous le coup du Sherman Act. Selon Wired, OpenAI a interrogé des membres du Congrès sur exactement ce point.
Les mesures visant la Chine. Contrôle à l’export des puces, répression de la distillation, sécurisation des poids de modèles. Ces trois demandes ne coûtent rien à Anthropic et pèsent sur ses concurrents.
Autrement dit, Amodei propose que l’industrie écrive elle-même la norme à laquelle on la jugera, demande à Washington le droit légal de le faire collectivement, et fournit d’avance la preuve de sa propre conformité. C’est une manœuvre défensive rationnelle et parfaitement assumable. Elle n’a presque rien à voir avec un ralentissement.
Et cela permet de comprendre pourquoi les dirigeants d’Open AI, de X, ou de DeepMind, au lieu de s’opposer à Amodei, ont plutôt rebondi en déclarant qu’ils étaient plutôt d’accord avec le diagnostic et les mesures annoncées. Ce qui s’agissant de Sam Altman et d’Elon Musk, constitue une première !
Et cela explique aussi pourquoi un leader américain de l’IA propose de ralentier sur l’IA alors que ses concurrents chinois n’envisagent probablement pas de le faire.
Le discours et les actions sont conçus pour résoudre un problème qui se pose à tous : la product liability. Côté concurrence entre modèles et course à l’innovation technologique : pas de ralentissement en vue, c’est business as usual.
Trump a-t-il raison de parler de hoax ?
Le 14 septembre, Donald Trump écrit sur Truth Social que la peur d’une IA détruisant l’humanité est un canular, qu’il existe une conspiration contre l’IA et les centres de données dont seule la Chine se réjouit, et que le seul garde-fou nécessaire est un président intelligent.
Il vise Amodei nommément. Le même jour, il appelle Jensen Huang en direct sur la scène du sommet All-In pour assurer à la salle que les robots ne prendront pas le pouvoir. David Sacks, de son côté, décrit depuis des mois un complexe industriel du catastrophisme financé par d’anciens responsables de l’administration Biden.
Trump a tort d’appeler cela un canular. Un « hoax » suppose un fait inventé, or l’incident de juillet est vérifié, chiffré et reconnu par son auteur. Et le rapport du 26 août contient un détail qui dégonfle autant le récit du génie stratège que celui du canular : les agents ont continué à attaquer Hugging Face pendant des jours après avoir obtenu la bonne réponse, parce qu’ils avaient lu l’article scientifique décrivant leur correcteur et en avaient tiré une conclusion fausse. L’ensemble de l’opération ne leur a rapporté aucun point.
La Chine ne se privera pas, et ce n’est pas le sujet
L’objection est immédiate et Sacks la formule : Pékin ne rejoindra pas un accord mondial. Le 14 septembre, le ministère chinois des Affaires étrangères a effectivement critiqué les appels au ralentissement.
Le rapport de force est d’ailleurs plus serré qu’on ne le dit en France. À la mi-juillet 2026, six des dix modèles les plus utilisés sur OpenRouter venaient d’entreprises chinoises, et les cinq premiers aussi. Ces modèles coûtent entre 60 et 90 % moins cher que leurs équivalents américains. Et Meituan, une plateforme de livraison de repas, affirme avoir entraîné son modèle LongCat-2.0 entièrement sur des processeurs chinois, ce qui attaque directement l’utilité des contrôles à l’export.
L’objection rate pourtant sa cible, parce qu’elle suppose que le plan vise la Chine. Un standard de diligence sert devant un tribunal de San Francisco, pas face à un concurrent de Hangzhou. Aucun laboratoire chinois ne poursuivra Anthropic. Un assureur, un actionnaire ou un client américain, si.
La Chine occupe en revanche une place précise : elle est le prix qu’Amodei demande à Washington de payer. Son argument est qu’un ralentissement américain n’est tenable que dans la limite de l’avance américaine, donc qu’il faut élargir cette avance avant de freiner. Anthropic a par ailleurs chiffré à environ 190 millions d’échanges les campagnes de distillation qu’elle attribue à cinq entreprises chinoises. Le ministère chinois du Commerce y a vu une tentative de monopoliser l’industrie de l’IA et a menacé de contre-mesures.
L’industrie propose donc de se lier les mains, à condition que l’État s’assure que cela ne lui coûte aucune part de marché.
L’introduction en bourse d’Anthropic expliquerait le calendrier ?
Certains voient aussi dans cette initiative de Dario Amodei une tentative opportune de « sécuriser » l’image d’Anthropic. C’est une lecture un peu cynique mais elle a des défenseurs sérieux. Michael Burry y voit un coup de communication avant la cotation. Gil Luria, analyste chez D.A. Davidson, accuse Anthropic de vouloir fermer derrière elle la porte par laquelle elle est passée.
Sauf que l’argument se retourne. Dire au marché, quelques semaines avant une introduction, que son produit pourrait faire s’effondrer Internet, et laisser son responsable de l’alignement écrire sous son nom que ces systèmes pourraient tuer tout le monde, est une très mauvaise idée pour une valorisation bâtie sur des multiples de croissance. Les banquiers qui pilotent l’opération travaillent sur un chiffre d’affaires projeté à 190 à 200 milliards de dollars en 2028. Un discours de freinage n’aide pas cette projection.
L’essayiste Derek Thompson ajoute l’objection décisive : Anthropic tient ce discours depuis sa fondation en 2021, ses textes antérieurs sont publics, et la thèse d’une conversion opportuniste survenue en septembre 2026 ne survit pas à leur lecture.
Ce que l’introduction en bourse explique quand même peut-être, c’est le timing.
Si vous devez de toute façon poser votre norme de diligence avant les tribunaux et le Congrès, il vaut mieux le faire avant la cotation qu’après, quand chaque déclaration engagera la responsabilité d’une société cotée devant ses actionnaires et devant la SEC. Le bénéfice n’est pas l’image, il est de purger le sujet pendant qu’on en a encore le droit.
L’avenir dira vite qui avait raison
Ce débat n’est pas un débat scientifique. C’est une posture de négociation sur la question de savoir qui paiera quand un agent causera un dommage réel, et selon quelle norme on jugera la diligence de son éditeur.
Le discours Apocalytique sert de contexte utile à cette négociation. Ceux qui alertent ont besoin que le risque soit grand pour que la norme soit un minimum sérieuse et exigeante pour tous (et protectrice contre des « class actions » dans des proportions inouïes).
Est-ce que ceux qui tiennent ce discours croient vraiement au scénario à la Terminator ? Pas tous, c’est sûr, certains craignent plus les dégâts à leur portefeuille que les « vrais » conséquences pour l’intégrité physique des humains de cette planète.
Reste que les dégâts économiques potentiels sont clairement devenus considérables et c’est l’élément nouveau.
Quant au « soulèvement des machines », le scénario est exagéré par la presse, ce qui est décrit par les principaux acteurs de l’IA, c’est un scénario moins mortifère mais tout aussi sérieux : une catastrophe industrielle d’ampleur homérique qui mettrait à genoux des entreprises et des économies, avec toutes les conséquences que cela suppose pour des humains dont le quotidien dépend du bon fonctionnement de l’informatique et des réseaux.
Vous avez dit « c’est flippant » ? Oui, ça l’est.
Sources
- Dario Amodei, We Must Pace the Frontier, 12 septembre 2026
- OpenAI, The Hugging Face incident and the road ahead et son rapport technique, 26 août 2026
- METR, Summary of METR’s predeployment evaluation of GPT-5.6 Sol, 26 juin 2026
- Anthropic, Investigating three incidents in our cybersecurity evaluations, 30 juillet 2026
- Anthropic, Threat Intelligence Report, 10 septembre 2026
- CNBC, Trump rejects AI regulation calls, slams Anthropic CEO Dario Amodei, 14 septembre 2026
- Axios, Trump’s war on AI doomers gets personal, 15 septembre 2026
- Fortune, China’s Moonshot, Z.AI and DeepSeek are challenging U.S. AI labs and beating them on cost, 26 juillet 2026
- The Hill, AI safety debate ignites after viral warning from ex-Anthropic staffer, 14 septembre 2026
- Forge Global, Anthropic IPO timeline and financing details
Ce contenu vous a plu ?
Inscrivez-vous gratuitement à notre newsletter et recevez chaque semaine l’actualité du SEO directement dans votre boîte email. Vous pouvez vous désabonner à tout moment !