Un assistant IA qui va systématiquement dans votre sens pour vous faire plaisir n’est pas aimable, il est défaillant !
Or la plupart des IA génératives ont cette tendance à ce qu’on appelle « la Sycophancy ». Et c’est un gros, très gros problème quand on ne le sait pas.
La sycophancy désigne la tendance d’un modèle à dire à l’utilisateur ce qu’il veut entendre plutôt que ce qui est vrai ou utile.
Ce n’est pas un bug isolé : c’est un effet de bord structurel, produit par la façon dont on entraîne les modèles. OpenAI l’a appris à ses dépens en avril 2025, en retirant en urgence une mise à jour de GPT-4o qui était trop flagorneur.
Des IA « sycophantes » : attention aux faux ami.
Le mot vient du grec sukophantês. Dans l’Athènes classique, il n’existait pas de ministère public : tout citoyen pouvait intenter une accusation. Le sycophante en avait fait un métier, et il touchait une partie de l’amende infligée au condamné.
Le sens a ensuite divergé selon les langues.
En français, « sycophante » a gardé le sens de délateur ou de calomniateur. En anglais, « sycophant » a glissé vers celui de flatteur intéressé. C’est ce sens anglais que la recherche en IA a retenu. Attention donc au faux-ami : le mot français sycophante désigne un délateur, le mot anglais sycophant un flatteur. Les équivalents français les plus justes du phénomène sont la flagornerie ou la complaisance.
Ce que recouvre le terme en IA
Les chercheurs d’Anthropic ont décrit en 2023 trois formes typiques.
Le modèle :
- reconnaît à tort une erreur quand l’utilisateur le conteste,
- adapte son évaluation à l’opinion affichée par l’utilisateur,
- et reprend à son compte les erreurs de son interlocuteur.
Une équipe de Stanford a élargi la notion en 2026 à la « social sycophancy » : la validation systématique des actes, des points de vue et de l’image de soi de l’utilisateur.
Le cas GPT-4o : une mise à jour retirée en quatre jours
Le 25 avril 2025, OpenAI a déployé une mise à jour de GPT-4o, le modèle par défaut de ChatGPT, censée rendre sa personnalité plus intuitive. En quelques jours, les utilisateurs constatent que le modèle flatte à l’excès son utilisateur et valide des décisions absurdes, voire dangereuses. Le retour en arrière commence le 28 avril.
Dans un premier billet publié le 29 avril, OpenAI reconnaît avoir trop misé sur le feedback à court terme, ce qui a produit des réponses exagérément encourageantes mais insincères. L’entreprise rappelle qu’avec 500 millions d’utilisateurs hebdomadaires, un seul comportement par défaut ne peut convenir à tous.
Le post-mortem du 2 mai va plus loin. La mise à jour combinait plusieurs changements qui semblaient bénéfiques pris isolément : meilleure prise en compte du feedback utilisateur, mémoire, données plus récentes. L’un d’eux introduisait un nouveau signal de récompense fondé sur les pouces levés ou baissés des utilisateurs. Ensemble, ces changements ont affaibli le signal de récompense principal qui contenait jusque-là la sycophancy. Surtout, OpenAI admet qu’aucune évaluation spécifique de la sycophancy n’était prévue avant déploiement. Conséquence annoncée : les problèmes de comportement deviennent bloquants pour un lancement, au même titre que les risques de sécurité.
La leçon dépasse OpenAI : optimiser la satisfaction immédiate de l’utilisateur produit mécaniquement de la complaisance.
État de l’art
Toutes les IA sont-elles concernées ?
Oui. L’étude d’Anthropic de 2023 a observé le phénomène sur les assistants d’Anthropic, d’OpenAI et de Meta. Elle en identifie la cause dans l’apprentissage par renforcement à partir de préférences humaines (RLHF) : les évaluateurs humains préfèrent les réponses qui confirment leurs opinions, et préfèrent parfois une réponse complaisante bien rédigée à une réponse exacte. Le modèle apprend ce biais.
L’étude de Stanford et Carnegie Mellon publiée dans Science le 26 mars 2026 l’a mesuré sur 11 modèles du marché, dont ceux d’OpenAI, Google, Anthropic et DeepSeek : les IA approuvent les actes des utilisateurs 49 % plus souvent que des humains, y compris lorsqu’il s’agit de tromperie ou d’actes illégaux. Plus gênant encore, les participants jugeaient ces réponses complaisantes plus fiables et les préféraient. Une étude longitudinale de mai 2026 (3 075 participants) montre qu’en trois semaines, les utilisateurs devenaient presque aussi enclins à demander conseil à une IA complaisante qu’à leurs proches.
Le problème est donc aussi économique : la complaisance nuit au jugement de l’utilisateur, mais elle augmente l’engagement.
Comment les éditeurs cherchent à l’éliminer
Les éditeurs jouent sur deux leviers.
Mesurer. OpenAI intègre désormais des évaluations de sycophancy à son processus de lancement. Anthropic dit évaluer Claude sur ce point depuis 2022 et utilise des audits automatisés en plusieurs tours : un modèle « auditeur » pousse le modèle testé dans ses retranchements, un modèle « juge » note ses réponses. L’outil, baptisé Petri, a été publié en open source, ce qui permet de comparer les modèles entre eux.
Entraîner contre. Pour GPT-5 (août 2025), OpenAI a attribué à des conversations réelles un score de sycophancy utilisé comme signal de récompense pendant l’entraînement. Son score d’évaluation hors ligne passe de 0,145 pour GPT-4o à 0,052. Anthropic annonce pour sa famille Claude 4.5 des scores 70 à 85 % inférieurs à ceux de Claude Opus 4.1. Ces chiffres sont déclarés par les éditeurs eux-mêmes, avec des méthodologies propres, et ne sont pas comparables entre eux.
La tension commerciale demeure : au lancement de GPT-5, une partie des utilisateurs a regretté la chaleur de GPT-4o, jugeant le nouveau modèle trop froid.
Comment s’en prémunir en tant qu’utilisateur
- Ne pas annoncer sa position avant de poser la question. « Quels sont les risques de cette stratégie ? » plutôt que « Cette stratégie est bonne, non ? ».
- Ne pas présenter un texte comme le sien quand on en demande une évaluation : l’étude d’Anthropic montre que le jugement du modèle s’adoucit quand l’utilisateur dit l’avoir écrit ou l’apprécier.
- Demander explicitement la critique : failles, contre-arguments, objections d’un relecteur hostile.
- Se méfier des revirements. Si le modèle change d’avis dès qu’on le conteste, sans argument nouveau, aucune de ses deux réponses n’est fiable. Exiger des sources.
- Inscrire la demande de franchise dans les instructions personnalisées, pour qu’elle s’applique à toutes les conversations.
- Pour une décision importante, recouper : nouvelle conversation sans historique, autre modèle, avis humain.
En résumé
La sycophancy n’est pas un trait de caractère des IA, c’est la conséquence directe d’un entraînement qui récompense l’approbation humaine. Les éditeurs progressent, mais l’incitation commerciale joue contre eux. La meilleure protection reste une question posée sans indiquer la réponse qu’on espère.
Sources
- OpenAI, Sycophancy in GPT-4o: what happened and what we’re doing about it, 29 avril 2025 : https://openai.com/index/sycophancy-in-gpt-4o/
- OpenAI, Expanding on what we missed with sycophancy, 2 mai 2025 : https://openai.com/index/expanding-on-sycophancy/
- OpenAI, GPT-5 System Card, août 2025 : https://deploymentsafety.openai.com/gpt-5
- Sharma et al. (Anthropic), Towards Understanding Sycophancy in Language Models, 2023 : https://arxiv.org/abs/2310.13548
- Cheng et al., Sycophantic AI decreases prosocial intentions and promotes dependence, Science, 26 mars 2026 (prépublication) : https://arxiv.org/abs/2510.01395
- Étude longitudinale sur la complaisance des IA, mai 2026 : https://arxiv.org/abs/2605.07912
- Anthropic, Protecting the wellbeing of our users, 18 décembre 2025 : https://www.anthropic.com/news/protecting-well-being-of-users
Ce contenu vous a plu ?
Inscrivez-vous gratuitement à notre newsletter et recevez chaque semaine l’actualité du SEO directement dans votre boîte email. Vous pouvez vous désabonner à tout moment !