Le patient a expliqué aux médecins qu’il cherchait des moyens de réduire sa consommation de sel (chlorure de sodium). Il avait lu des informations sur ses effets nocifs et trouvé des conseils pour réduire sa consommation de sodium, mais n’avait trouvé aucune publication sur la réduction de sa consommation de chlorure.
Fort de ses études universitaires en diététique, l’homme a décidé de mener sa propre expérience pour éliminer les chlorures de son alimentation. Pour obtenir des conseils, il s’est tourné vers un chatbot doté d’IA. Selon le patient, le chatbot lui a suggéré de remplacer le chlorure de sodium par du bromure de sodium, sans l’avertir des risques potentiels pour la santé d’une telle substitution.
Les chercheurs n’ont pas pu accéder à l’historique des conversations du patient, mais au vu du moment où ses symptômes d’intoxication sont apparus, il avait utilisé ChatGPT 3.5 ou ChatGPT 4.0. Lors de leurs propres tests, les médecins ont reçu la même recommandation de bromure de sodium avec ChatGPT 3.5, probablement la version consultée par le patient.
Après trois mois d’utilisation de bromure de sodium au lieu de sel de table, l’homme a développé un bromisme, un syndrome causé par une surexposition chronique au bromure ou au brome. Cette maladie rare survient lorsque la toxine s’accumule dans l’organisme, ce qui peut déclencher des symptômes neuropsychiatriques.
Le patient s’est rendu aux urgences, craignant que son voisin ne l’ait empoisonné – la paranoïa étant l’un des signes du bromisme. D’autres symptômes comprenaient des hallucinations, de l’insomnie, de l’acné, une mauvaise coordination et une soif intense. Des analyses ont révélé des taux élevés de bromure dans son sang. Après avoir tenté de s’évader de l’hôpital, il a été transféré en soins psychiatriques.
Une fois son état mental amélioré grâce au traitement antipsychotique, il a pu parler aux médecins des conseils qu’il avait reçus de ChatGPT.
En cas d’exposition prolongée, le bromure s’accumule dans l’organisme et perturbe le fonctionnement des neurones. Aux XIXe et XXe siècles, le bromure était utilisé dans des médicaments sur ordonnance et en vente libre, notamment des sédatifs et des somnifères. Cependant, dans les années 1970 et 1980, les autorités réglementaires ont retiré le bromure des médicaments sans ordonnance après avoir découvert ses effets toxiques.
Commentant cette affaire, les représentants d’OpenAI ont reconnu les limites du service. Les conditions d’utilisation de ChatGPT précisent qu’il n’est pas destiné au diagnostic ou au traitement de problèmes médicaux, et que les utilisateurs ne doivent pas se fier à ses réponses comme seule source d’informations médicales ni se substituer à un avis professionnel.
