OpenAI, het moederbedrijf achter ChatGPT, heeft ChatGPT Health gelanceerd, een platform waarop je terechtkan met vragen over ziekte en gezondheid. Deze versie van ChatGPT moet nog het meest lijken op een persoonlijke medische assistent, gestuurd door artificiële intelligentie. Experts stellen zich echter veel vragen bij de privacy en de bescherming van gevoelige gegevens.
Nieuwe ChatGPT Health geeft advies over ziekte en gezondheid, maar veel twijfels over privacy
Kathleen Heylen
Gepubliceerd:
Elke dag stellen miljoenen mensen vragen aan ChatGPT over alles wat met ziekte, gezondheid en welzijn te maken heeft. Dan gaat het over symptomen, mogelijke behandelingen en medicatie, maar ook over bijvoorbeeld dieet, slaap en sport. Het is dus niet verwonderlijk dat Open AI, het moederbedrijf achter ChatGPT, hier een extra ruimte voor heeft gemaakt.
De voorbije 2 jaar heeft OpenAI naar eigen zeggen met meer dan 260 dokters uit verschillende disciplines en uit heel de wereld samengewerkt . Ze onderzochten wat een antwoord op een gezondheidsvraag behulpzaam maakt en wanneer het een risico oplevert. Op basis van hun feedback op modelantwoorden kregen de reacties van ChatGPT Health vorm.
Wat is ChatGPT?
ChatGPT is een chatbot die aangestuurd wordt door articifiële intelligentie (AI). Je geeft opdrachten ('prompts') en ChatGPT 'antwoordt' met een eigen tekst. Die antwoorden klinken vlot en menselijk, alsof het van een echte persoon komt, maar ChatGPT 'denkt' niet voor zichzelf.
Het is een zogenoemd 'large language model', een vorm van AI die op enorme hoeveelheden taal en tekst getraind wordt. Bij opdrachten zoekt het systeem in al die data naar woorden en zinnen die statistisch gezien heel vaak in elkaars buurt voorkomen. Zo worden teksten geproduceerd die amper te onderscheiden zijn van teksten die door mensen zijn geschreven.
ChatGPT is heel makkelijk in gebruik en erg populair. Er zitten echter addertjes onder het gras. ChatGPT controleert niet of de antwoorden ook inhoudelijk juist zijn. Het systeem maakt dus ook fouten, dat heet 'hallucineren'. Omdat ChatGPT heel overtuigend klinkt, hechten gebruikers soms onterecht te veel waarde aan de antwoorden.
Volgens Open AI gebruikt ChatGPT Health beoordelingscriteria die door artsen zijn opgesteld. Het systeem haalt zijn antwoorden bij "beheerde, gecontroleerde en goedgekeurde bronnen". De nadruk ligt op "veiligheid, duidelijkheid, passende opschaling van zorg en respect voor de individuele context."
OpenAI benadrukt dat ChatGPT Health geen echte dokter is en medische zorg niet vervangt, enkel ondersteunt. "Het is niet bedoeld voor diagnose of behandeling. In plaats daarvan helpt het bij alledaagse vragen en bij het herkennen van patronen over langere tijd."
Alarmbellen over privacy
Aan ChatGPT Health kan je algemene vragen stellen, maar je kan het ook sterk personaliseren. Het is mogelijk om (gegevens uit) medische dossiers en gezondheidsapps te delen. Daardoor kunnen mensen volgens OpenAI een veel gerichter en persoonlijker antwoord krijgen. Een gesprek over de resultaten van een onderzoek met hun arts voorbereiden, bijvoorbeeld.
Dit laat bij privacy-experts veel alarmbellen klinken. "Nieuwe AI-tools kunnen patiënten meer controle geven en gezondheid bevorderen, maar gezondheidsgegevens behoren tot de meest gevoelige informatie die mensen kunnen delen en moeten worden beschermd", zegt Andrew Crawford van de Amerikaanse non-profitorganisatie Center for Democracy and Technology aan de Britse openbare omroep BBC .
Gezondheidsgegevens behoren tot de meest gevoelige informatie die mensen kunnen delen en moeten daarom worden beschermd
Andrew Crawford, Center for Democracy and Technology
"Vooral nu OpenAI reclame als businessmodel onderzoekt, is het cruciaal dat de scheiding tussen dit soort gezondheidsgegevens en de dingen die ChatGPT vastlegt uit andere gesprekken waterdicht is", zei hij.
OpenAI zegt dat er extra veiligheidschecks zijn ingebouwd om de gegevens van mensen te beschermen. Zo worden de gesprekken niet gebruikt om AI-modellen te trainen. De gesprekken en bestanden in ChatGPT Health krijgen extra versleuteling en worden ook apart opgeslagen van andere chats.
Niet in Europa
Iedereen kan zich aanmelden bij ChatGPT Health, of je nu een gratis of een betalend account hebt. Gebruikers uit de Europese Unie, IJsland, Liechtenstein, Noordwegen, Zwitserland en het Verenigd Koninkrijk krijgen voorlopig echter geen toegang.
Niet verwonderlijk omdat de privacywetten in die landen een pak strenger zijn dan in bijvoorbeeld de Verenigde Staten. AI-bedrijven kiezen er daarom soms voor om bepaalde zaken niet uit te rollen in die landen, of veel later en beperkter.
In landen waar het wel uitgerold wordt, zoals de Verenigde Staten, kunnen bedrijven die niet gebonden zijn aan privacybescherming "gezondheidsgegevens van mensen verzamelen, delen en gebruiken", vreest Andrew Crawford.
Voorlopig kan enkel een kleine groep gebruikers de nieuwe tool gebruiken. De komende weken wordt ChatGPT Health uitgebreid. Geïnteresseerden kunnen zich registeren op een wachtlijst.
