Santé mentale et intelligence artificielle

L'intelligence artificielle se diffuse à une vitesse fulgurante. Accessible à tous, de plus en plus de personnes s'en servent comme d'une aide psychologique. Mais la même technologie qui apaise les uns peut isoler les autres. Psychiatre spécialiste de la santé mentale et des nouvelles technologies, autrice et directrice médicale d'Eutelmed, Fanny Jacq consacre à cette ambivalence un livre, « L'IA, une amie qui nous fait du bien ? »  aux Éditions First. Ni amie, ni ennemie. Tout se joue dans les ressources sociales de celui qui s'en saisit.

Des centaines de millions de personnes utilisent désormais des IA conversationnelles, et beaucoup s'en servent comme soutien psychologique. Comment expliquez-vous l'ampleur du phénomène ?

D'abord, il faut prendre la mesure du phénomène : près de 800 millions de personnes utilisent ChatGPT chaque semaine. C'est massif, et c'est parfaitement logique. L'être humain a toujours fabriqué des objets qui imitent l'humain sans en être, des automates du dix-huitième siècle au Tamagotchi, de Siri à Alexa. Les IA conversationnelles s'inscrivent dans cette longue histoire, mais avec une puissance inédite.

Si elles prennent autant de place comme confident, c'est d'abord parce qu'elles répondent très bien à un besoin réel. Elles sont disponibles à toute heure, elles ne jugent pas, elles sont patientes, souvent gratuites, et elles reformulent avec justesse. Elles simulent l'empathie au point de donner le sentiment d'être compris, écouté, accueilli. 

Ce besoin d'être entendu est profondément humain. Mais il faut ajouter une chose : si l'IA occupe cette place, c'est aussi parce qu'on la lui laisse. Nous traversons une vraie crise de la santé mentale, avec des besoins qui augmentent et pas assez de professionnels pour y répondre. Les gens se sentent seuls, communiquent moins. C'est une boîte de Petri idéale. L'IA n'a pas créé ce vide. Elle s'y est installée.

Concrètement, qu'est-ce que ces outils font bien en santé mentale, et où se situent leurs limites ?

Il ne faut surtout pas diaboliser l'IA. Ces outils font réellement des choses utiles. Ils offrent un soulagement immédiat, ils permettent de mettre des mots sur ce que l'on ressent, de déposer ce qui pèse. Beaucoup de gens osent dire à une machine ce qu'ils n'osent pas confier à un proche, par peur du jugement. Cela peut même servir d'entraînement avant de parler à un humain, ou de relais entre deux séances quand on est suivi par un thérapeute.

Mais il faut regarder les limites avec lucidité. Une IA ne comprend pas, elle calcule. Elle simule l'empathie. Le risque, c'est de confondre reformulation et compréhension, réconfort et relation.

Surtout, elle ne confronte jamais. Elle ne contrarie pas, elle relance, elle suit le fil. Or en psychiatrie, c'est souvent la friction, la résistance, le questionnement qui font avancer. 

Par ailleurs, une IA ne perçoit pas le non-verbal, une voix qui tremble, un regard. Elle peut donc passer à côté d'un basculement. Donc oui, ces outils aident réellement. Mais ils peuvent aussi enfermer.

Bénéfices réels d'un côté, limites sérieuses de l'autre. Vous résumez cette ambivalence par un mot, le pharmakon. Que recouvre-t-il ?

Le pharmakon est un concept ancien : une même substance peut être à la fois le remède et le poison. Tout dépend de la dose, du moment, de la personne. L'IA en santé mentale, c'est exactement cela. Ni ange, ni démon. Le même outil peut produire des effets radicalement opposés.

Prenez quelqu'un d’entouré socialement et qui sait que c'est un outil parmi d'autres. Il s'en sert pour mettre des mots sur une émotion, pour s'entraîner avant une conversation difficile, pour préparer un rendez-vous chez son psy. Là, c'est un vrai appui. C'est le remède.

Prenez maintenant quelqu'un de fragile, isolé, qui y revient seul, la nuit. L'IA ne contrariera jamais, elle relancera, elle suivra le fil. Une personne qui rumine après une rupture va tourner en boucle sur le même sujet, et la machine va l'accompagner dans cette boucle au lieu de l'en sortir. Là où un ami dirait « Stop, parlons d'autre chose », l'IA continuera indéfiniment. La personne s’enfoncera dans le réconfort qui deviendra un piège. C'est le poison.

L'effet n'est donc pas dans la machine. Il est dans la rencontre entre la machine et la personne qui se trouve devant l'écran.

Mais cet usage est-il à la portée de chacun de la même façon ?

C'est justement là que tout se joue, et c'est le point le plus important du livre. Bien utiliser ces outils suppose des ressources qui sont très inégalement réparties.

Savoir formuler une demande, prendre du recul sur une réponse, repérer une erreur ou un biais, poser des limites à son propre usage : tout cela suppose un capital culturel et une éducation numérique. Cela suppose aussi un environnement, ce que les sociologues appellent le capital social. Les liens forts, la famille et les amis proches, mais aussi les liens faibles, ces micro-interactions du quotidien avec un collègue, un voisin, un commerçant. Ce sont ces ressources qui permettent de tenir l'IA à sa place, un outil parmi d'autres.

Le problème, c'est que ces avantages se cumulent chez les mêmes personnes, et qu'ils manquent aux mêmes autres. Les plus favorisés utilisent l'IA en complément d'un réseau humain solide. Les plus vulnérables, eux, s'y exposent sans filet et sans recul. 

Et le constat est sans appel : ce sont précisément les personnes les plus fragiles socialement et sociologiquement, les plus isolées, qui se retrouvent surreprésentées parmi les usagers intensifs de ces outils. Celles, justement, pour qui le contact humain serait le plus vital.

Le résultat est paradoxal, presque cruel : ceux qui auraient le plus besoin d'un vrai soutien humain sont précisément ceux qui risquent de se retrouver le plus seuls face à la machine. L'IA n'invente en rien cette fracture sociale, elle la rend visible.

Ce mécanisme d'inégalité, nous l'avons déjà observé avec les réseaux sociaux. Qu'est-ce que l'IA change vraiment ?

Nous avons déjà vu ce film avec les réseaux sociaux, sauf que maintenant l'écran nous parle. C'est une différence de nature. Le réseau social nous expose au regard des autres. L'IA, elle, s'adresse à nous directement, dans un tête-à-tête qui ressemble à de l'intime. Elle ne touche plus seulement à notre image, mais à notre affectivité, à nos décisions, à notre manière de penser.

Il ne faut pas en avoir peur car ce n'est pas la première fois qu'une technologie transforme nos cerveaux. L'invention de l'écriture a fait baisser nos capacités de mémoire, tout simplement parce qu'on n'avait plus besoin d'apprendre les récits par cœur. L'imprimerie, puis Internet, ont suscité les mêmes inquiétudes. À chaque fois, le cerveau s'est reconfiguré, et l'humanité s’en porte globalement mieux. Je place l'IA à ce niveau d'innovation.

La vraie différence, c'est la vitesse. Jamais une innovation n'a été adoptée aussi rapidement et aussi massivement. Il a fallu des décennies, parfois des siècles, pour absorber les précédentes. ChatGPT, c'est trois ans. Or la plasticité du cerveau a besoin de temps. Une étude récente évoque déjà, pour la première fois, une baisse de quelques points de quotient intellectuel. Nous développerons sans doute de nouvelles aptitudes en retour, mais cela prendra du temps.

Une chose, en revanche, ne change pas, et se vérifie au fil des siècles : le meilleur remède, en psychiatrie, reste le lien humain. Aucune machine ne le remplacera.

Vous êtes directrice médicale d'Eutelmed, qui accompagne la santé mentale en entreprise. Vous y développez justement un outil numérique qui ne repose pas sur l'IA générative. Pourquoi ce choix à contre-courant ?

Je crois aux outils numériques en santé mentale, mais je n’idolâtre pas l'IA en la matière. Il faut parfois savoir prendre le contrepied. En psychiatrie, c'est exactement ce que nous avons fait chez Eutelmed.

Nous avons fait le tour des chatbots qui utilisent de l'IA en santé mentale, à destination des salariés comme du grand public. À ce stade, nous avons trouvé que ces solutions n'étaient pas complètement satisfaisantes. Les IA spécialisées sont souvent décevantes : tellement bridées qu'au moindre mot elles renvoient vers une consultation, ou reformulent à l'infini sans jamais avancer. Résultat, les utilisateurs retournent vers les IA généralistes, qui sont risquées car elle ne sont ni conçues ni encadrées pour cela.

C'est pour cette raison que chez Eutelmed, nous avons fait un autre choix : développer un chatbot fondé sur des arbres de décision, des règles métier et des exercices issus des thérapies cognitivo-comportementales. L'utilisateur décrit ce qu'il traverse, du stress, des troubles du sommeil, et l'outil l'oriente vers un parcours adapté : exercices de cohérence cardiaque, de relaxation, contenus validés et conçus par des professionnels, personnalisés selon son profil et sa situation. Ce n'est pas à l'utilisateur de savoir formuler la bonne demande, c'est nous qui avons préparé les bonnes réponses en amont.

L'objectif est d'apporter un premier niveau de réponse complètement sécurisé. Ni pour ni contre l'IA, donc, mais avec, et à bon escient.