ChatGPT en enkele andere AI-modellen geven geen goed medisch advies. Dat schrijft De Standaard op basis van onderzoek van de universiteit van Oxford. In tegenstelling tot een arts stellen AI-bots geen bijvragen en kunnen ze niet inspelen op nuance en achtergrond. Meer zelfs: zulke AI-modellen praten je zelfs naar de mond, zegt AI-expert Steven Latré.
"Een chatbot wil ons tevredenstellen": waarom je Dokter AI best niet vertrouwt voor medisch advies
Lina El Bakkali
Gepubliceerd:
Een citytrip plannen, een mail (her)schrijven, een recept bedenken met wat er nog in de koelkast ligt. We gebruiken AI vandaag al voor van alles en nog wat. Ook voor medische vragen. "Moet ik me zorgen maken?", "Welke medicatie moet ik nemen voor migraine?" of "Zal deze uitslag vanzelf overgaan?"
Steeds meer mensen gebruiken chatbots als ChatGPT als een soort eerstelijnshulp voor hun gezondheid. Nog voor ze een afspraak maken bij de huisarts. Zo'n chatbot is efficiënt, laagdrempelig en altijd beschikbaar.
Anderzijds is er ook het idee dat AI-systemen best wel slim zijn. Herinner je bijvoorbeeld het onderzoek waarbij ChatGPT beter scoorde dan de studenten op het laatstejaarsexamen geneeskunde. Het AI-model bleek heel goed te zijn in complexe materie correct toe te passen, wanneer de vragen duidelijk zijn afgebakend.
Vertrouw dokter ChatGPT niet
Maar tussen een examen en een echte patiënt gaapt een grote kloof. Dat blijkt nu uit onderzoek van de universiteit van Oxford. De onderzoekers lieten 1.300 mensen beslissen of ze met een (denkbeeldig) gezondheidsprobleem naar het ziekenhuis zouden gaan, naar de dokter, of helemaal niets doen.
De deelnemers mochten informatie opzoeken waar ze zelf wilden. AI-chatbots bijvoorbeeld, maar evengoed gewone zoekmachines als Google. Wat bleek? In minder dan de helft van de gevallen gaf AI, waaronder ChatGPT, een goed advies, en slechts in een derde van de gevallen een goede diagnose.
Een arts speelt in op details en je achtergrond, ChatGPT niet
Steven Latré, AI-expert
"AI-assistenten kunnen niet nadenken", legt AI-expert Steven Latré (Openchip) uit. "Daardoor zijn ze niet goed in het geven van specifiek advies. Dokters hebben natuurlijk jaren en jaren aan kennis, waarbij ze met heel wat randgevallen rekening hebben moeten houden."
Tegelijkertijd zal een persoon vaker een onvolledig beeld schetsen in een vraag aan een chatbot, zegt Latré. "In een gesprek met een arts zal een patiënt vaker nuance of details meegeven. Daarbovenop heeft een persoon vaak een relevante context en geschiedenis. Iets waar een dokter veel beter op kan inspelen. Een dokter zal ook meer bijvragen stellen. Een chatbot niet, of toch veel minder."
Behaaggedrag
Waar het ook misgaat bij chatbots, is dat ze mensen willen tevredenstellen. "Personen zullen vaak in hun medische vraag al formuleren wat zij denken dat er scheelt. Ze duwen de chatbots zo al in een bepaald denkpatroon, waar die bots dan al te graag in meegaan. Zo'n AI-systeem gaat veel sneller de ideeën van mensen willen bevestigen dan echt objectief antwoorden."
Al is het niet allemaal kommer en kwel, voegt Latré nog toe. "Recent zijn verschillende studies verschenen die bevestigen dat zulke systemen empathischer reageren dan typische artsen. Er zijn dus ook zekere voordelen aan het systeem."
