- Des chercheurs lancent un guide pour encadrer l’usage des chatbots en santé.
- Ces outils évoluent dans un "vide réglementaire", selon les chercheurs.
- Ils alertent sur les risques d’erreurs, de biais et de problèmes de confidentialité.
Avant même de consulter un médecin, de plus en plus de patients interrogent une intelligence artificielle (IA) comme ChatGPT ou Claude pour interpréter leurs symptômes ou comprendre des résultats d'examens. Face à cette tendance, des chercheurs de l’Université de Birmingham, au Royaume-Uni, lancent un programme international pour créer le premier guide destiné à aider le public à utiliser en toute sécurité les chatbots de santé. Le projet, détaillé dans la revue Nature Health, est baptisé "The Health Chatbot Users' Guide".
Inexactitude médicale, algorithmes biaisés...
Ces outils évoluent dans un "vide réglementaire", alertent les chercheurs, laissant les utilisateurs distinguer seuls "les informations fondées sur des preuves des réponses 'hallucinées' ou factuellement incorrectes". "L’utilisation de chatbots généralistes pour les soins de santé n’est plus une possibilité hypothétique, c’est une réalité actuelle. Ignorer ce changement laisse le public naviguer seul dans un paysage informationnel dangereux", explique le Dr Joseph Alderman, professeur à Birmingham, dans un communiqué.
L’équipe, qui réunit universitaires, professionnels de santé et experts en technologie, pointe plusieurs dangers. D’abord, l’inexactitude médicale : une IA peut fournir des conseils plausibles mais erronés. Ensuite, "l’effet chambre d’écho", ces systèmes étant souvent optimisés pour l’amabilité et susceptibles de conforter de fausses croyances. Les scientifiques évoquent aussi les biais des algorithmes, susceptibles d’accentuer les inégalités de santé, ainsi que les enjeux de confidentialité des données médicales sensibles.
"L’avis médical le plus accessible au monde"
Pour la Dre Charlotte Blease, chercheuse en IA de santé à l’Université d’Uppsala et à la Harvard Medical School, "les chatbots de santé sont devenus l’avis médical le plus accessible au monde, s’adressant souvent aux patients avant tout médecin. Le danger est de naviguer sans carte". Elle insiste : "Notre responsabilité est de faire en sorte que cette première conversation informe plutôt qu’elle n’induise en erreur."
