Demander des conseils médicaux à ChatGPT ? Voici pourquoi c'est une mauvaise idée !

Temps de lecture : 2 minutes environ

·

Publié le 1 septembre 2023

·

Par Julie Julie

ChatGPT, le célèbre outil basé sur l'IA de OpenAI, est actuellement sous le feu des critiques pour sa gestion discutable des requêtes liées à la santé. Selon une récente enquête menée par l'Université de Harvard, le chatbot serait capable de fournir de dangereuses informations erronées.

Demander des conseils médicaux à ChatGPT ? Voici pourquoi c'est une mauvaise idée !

ChatGPT : Un conseiller médical peu fiable ?

Imaginez : vous cherchez des informations sur le traitement d'un cancer et vous tombez sur un conseil de ChatGPT. Malheureusement, ce conseil pourrait bien être inexistant, voir carrément inventé par l'IA, comme le révèle l'étude publiée dans la revue JAMA Oncology. Sur le total des réponses données par le chatbot, 34,3 % n'étaient pas en accord avec les recommandations des principaux centres de cancérologie.

Les dangers de la désinformation

Encore plus inquiétant, sur les 104 réponses analysées, 13 étaient entièrement imaginées provoquant ainsi des conséquences potentiellement dramatiques. Sa volonté d'inventer des réponses pourrait mener à des interprétations erronées, voir dangereuses, en particulier sur des sujets aussi sensibles que la maladie.

Un manque de nuances dans les réponses

Danielle Bitterman, co-auteure de cette étude a partagé son inquiétude en déclarant : "Les réponses de ChatGPT peuvent très bien ressembler à celles d'un être humain et être assez convaincantes. Cependant, lorsqu'il s'agit de prendre des décisions cliniques, il y a tant de subtilités à prendre en compte dans la situation unique de chaque patient." Cette requête pour des réponses nuancées semble être un challenge trop compléxe a gérer pour notre cher CHatGPT.

La responsabilité des développeurs

Bitterman pense donc que les développeurs de ces IA devraient assumer la responsabilité de proposer des technologies qui n'engendrent aucun dommage. En même temps, les patients doivent être informés des limites de ces chatbots.

Nuancer la situation

Bien sûr, il est important de balancer ces résultats. Rappelons que ChatGPT n'est pas conçu pour fournir des conseils médicaux ou donner des diagnostics. Il y a également eu des études, comme celle de l'université de Drexel, qui ont montré sa capacité à identifier les premiers symptômes de la maladie d'Alzheimer avec un taux d'efficacité de 80 %.

Soyez prudent avec les conseils de ChatGPT

Restez donc vigilant lors de vos interactions avec ChatGPT ! Il est nécessaire de se rappeler que durant vos discussion avec cette IA, vous pouvez vous retrouver avec des réponses imprécises, inventées, ou pire ... fausses ! Ne négligez pas l'importance de consulter un véritable professionnel de santé pour vos requêtes médicales.

Julie

Article écrit avec passion par Julie

Chez Maeko, je suis Julie, votre interprète des merveilles de l'IA générative. Décryptant ChatGPT et ses pairs, je transforme les codes complexes en récits passionnants. En dehors du numérique, la danse contemporaine est mon échappatoire, mon second langage.

Plus d'articles à lire

Newsletter

Recevez les prochains articles par email

1 email / semaine maximum, aucun spam

ou abonnez-vous sur Google Actualités

Partager :