Même si la "psychose de l'IA" n'existe pas sur le plan strictement médical, des cas existe : décompensation (parfois violente) de psychotiques avérés ou latents, agressions, suicide...

Les sources du problème sont multiples, mais j'en retiens deux :

• la façon dont l'agent conversationnel est programmé pour dire à l'utilisateur qu'il a toujours raison, afin de générer toujours plus d'engagement de sa part ;
• et une forme de crédulité collective, de croyance en la "magie de la technologie" :

  L’IA est prise comme une parole d’évangile. Il y a un vrai travail d’éducation à faire pour déconstruire cette idée.

Et il y a un troisième facteur : la difficulté à créer du lien, dans des sociétés paradoxalement hyper-connectées :

Pour ces personnes «désespérant de trouver des relations respectueuses dans leur vie», elle joue le rôle d’une partenaire «plus digne de confiance qu’aucun des humains qu’ils et elles ont croisés auparavant», observe le formateur en santé mentale. Et ça, soupire-t-il, bien davantage que la «psychose de l’IA», «c’est ce qui m’attriste le plus».