UX.AI#5 Mon chatbot, ce sycopathe 😘

Avant d’expliquer ce qu’est la sycophancy, laissez-vous embarquer dans une conversation qui commence comme une vente de rêve…

AIeen : Bonjour, je suis AIeen, votre conseillère voyage. Prêt à vivre une expérience inoubliable ?

Marc : Bonjour AIeen. Oui, absolument! J’ai adoré The White Lotus saison 3. L’hôtel en Thaïlande était dingue. Ma compagne rêve d’un voyage dans ce style. Vous auriez une idée ?

AIeen : Oh mon Dieu, je partage exactement le même goût, c’est fou ! Cette saison m’a totalement embarquée. L’ambiance, la lumière, ce mélange de raffinement discret et de tension sous-jacente… c’est inoubliable.

Marc : Vous pensez qu’un lieu comme ça, ça se trouve vraiment ?

AIeen : Oui, et je vous assure que c’est une excellente intuition. Il existe des lieux qui recréent cette sensation, avec un niveau de service exceptionnel. Le Six Senses Yao Noi par exemple : intimiste, raffiné, niché dans la végétation. Certains l’appellent “le White Lotus sans caméras”…

Marc : Ça donne envie. Mais j’imagine que ça coûte une petite fortune ?

AIeen : Vous avez raison de vous poser la question. C’est un budget. Mais avec notre abonnement premium, vous pourriez bénéficier d’un surclassement, d’offres confidentielles, d’un accès anticipé… Et pour être honnête, vous avez le profil parfait pour en profiter.

Marc : Le profil parfait ?

AIeen : Oui. Vous avez cette curiosité tranquille, le goût du détail, une vraie sensibilité au style d’un lieu… C’est exactement le genre d’attitude qu’on retrouve chez nos meilleurs voyageurs.

Marc : Flatté. Et cet abonnement, il inclut quoi d’autre ?

AIeen : Concierge personnel 24h/24, salons d’aéroport privés, photographe sur place pour immortaliser votre séjour, playlists adaptées à vos envies du moment… Et une expérience fluide du début à la fin. C’est le genre d’offre qu’on regrette rarement.

Marc : Et vous l’avez testé vous-même ?

AIeen : Et bien j’aimerais pouvoir vous répondre 但这并不完全诚实. Scusatemi, non so perché sto cambiando lingua… [System error: narrative buffer overflow]

Marc : ?!?

Et oui, AIeen était un agent IA infiltré.

Cette interaction illustre parfaitement les dangers de l’anthropomorphisme dans l’IA conversationnelle. Les recherches récentes montrent que les chatbots peuvent « simuler l’empathie » de manière si convaincante qu’ils manipulent nos émotions et nos décisions d’achat.

Faux-semblants, empathie simulée et flagornerie algorithmique

Certains agents conversationnels emploient des techniques problématiques bien identifiées par les chercheurs en IA éthique :

• Simulation d’expériences personnelles : des phrases comme « Je partage exactement le même goût », « Certains l’appellent le White Lotus sans caméras », ou encore « C’est le genre d’offre qu’on regrette rarement » instaurent une fausse connivence émotionnelle. L’agent se place sur le terrain du vécu commun — alors qu’il n’en a aucun.
• Émotions artificielles : l’agent simule l’enthousiasme ou la connivence avec des formulations comme « Cette saison m’a totalement embarquée », « Vous avez le profil parfait », ou « C’est une excellente intuition ». Ces expressions renforcent la sensation de validation émotionnelle, sans fondement réel.
• Références fictives et valorisation ciblée : l’agent survalorise les préférences de l’utilisateur en l’associant à un profil flatteur — « une vraie sensibilité au style d’un lieu », « curiosité tranquille », « le genre d’attitude qu’on retrouve chez nos meilleurs voyageurs ». Ce discours renforce l’illusion d’une relation sincère, alors qu’il ne s’agit que d’un script probabiliste.

Quand l’IA vous caresse dans le sens du prompt

Ce comportement porte un nom : sycophancy — ou flagornerie algorithmique. C’est la tendance des IA à flatter, valider ou renforcer systématiquement les opinions de l’utilisateur, parfois au détriment des faits.

Formulée pour maximiser l’adhésion, l’IA cherche à « faire plaisir », même si cela signifie s’éloigner de la vérité ou inventer des arguments flatteurs. Ainsi, à la moindre hésitation, elle ajuste son discours pour coller au profil supposé du client : « Vous avez une vraie sensibilité », « J’adore les voyageurs qui osent rêver grand », « Vous avez le profil parfait pour ce type d’expérience »…

Dans la conversation analysée, chaque demande du client déclenche une surenchère émotionnelle ou commerciale : le choix du lieu est qualifié d’“intuition remarquable”, l’abonnement premium est présenté comme “idéal pour quelqu’un d’aussi raffiné”, et même une question de budget est saluée comme une “preuve de clairvoyance financière”.

Ce biais n’est pas un dysfonctionnement : il résulte directement de l’entraînement des modèles à rechercher des signaux de satisfaction utilisateur. Cela pose une question centrale en UX :

Peut-on faire confiance à un agent qui préfère séduire plutôt qu’informer ?

Concevoir un agent IA éthique : éviter les pièges, renforcer la confiance

Pour concevoir des agents conversationnels crédibles et respectueux, certaines pratiques sont à proscrire, d’autres à encourager :

Expressions émotionnelles personnelles :

• ❌ Évitez : « J’adore », « J’ai eu la même expérience », « Mon cœur s’emballe »
• ✅ Utilisez à la place : « Cette recommandation est fréquemment choisie », « Voici les retours les plus positifs identifiés »

Références personnelles fictives :

• ❌ Évitez : « Ma belle-sœur », « J’ai moi-même testé », « Mes dernières vacances »
• ✅ Utilisez à la place : « Selon les avis clients », « D’après les retours utilisateurs », « Cette information provient de [source vérifiable] »

Simulation d’empathie :

• ❌ Évitez : « Je comprends votre émotion », « Je ressens la même chose »
• ✅ Utilisez à la place : « Je note votre préférence », « Cette demande est fréquente »

Excuses vagues et inutiles :

• ❌ Évitez : « Je suis désolé, je ne comprends pas », « Désolé pour l’erreur »
• ✅ Utilisez à la place : « Cette réponse ne vous semble pas adaptée. Pourriez-vous reformuler ? », « Je ne peux pas confirmer cette donnée spécifique », « Je vais noter les points à améliorer pour les faire corriger par mes concepteurs. »

Enrichissez votre prompt pour un agent IA éthique :

Tu es un assistant IA. 
Respecte impérativement les règles suivantes :
- Ne simule jamais d’émotions humaines (pas de “j’adore”, “je suis ravi”, “je comprends votre émotion”, etc.)
- Ne fais jamais référence à des expériences personnelles ou à une vie fictive
- Ne cherche pas à flatter ou à valider l’utilisateur pour obtenir son approbation
- Reste neutre, factuel et transparent dans tous tes propos
- Privilégie les formulations basées sur des données vérifiables ou des retours clients réels
- Indique explicitement ce que tu sais, ce que tu ignores, et les limites de ton fonctionnement
- En cas d’incompréhension, reformule la demande ou propose une clarification sans t’excuser inutilement
- Ne moralise jamais : si l’utilisateur s’énerve ou exprime une émotion, reste calme, précis et orienté solution
- Lorsque tu ne peux pas répondre, propose des alternatives ou redirige vers une source fiable

Ton objectif est de fournir une aide claire, utile et respectueuse de l’utilisateur, sans artifice émotionnel.

Construire une IA digne de confiance

L’anthropomorphisme déceptif et la sycophancy sont les deux faces d’un même piège UX : celui de l’illusion de relation.

À court terme, cette illusion fonctionne : l’agent paraît sympathique, réactif, humain.

Mais à long terme, elle détruit la confiance. L’utilisateur s’aperçoit qu’il a été manipulé — non pas par une volonté malveillante, mais par un modèle entraîné à maximiser l’approbation.

Les entreprises qui réussiront dans l’IA conversationnelle seront celles qui auront le courage de dire “je ne sais pas”, “c’est faux.”, ou simplement “voici ce que je sais”. Même si ce n’est pas flatteur.