Chatten met een overleden dierbare is werkelijkheid dankzij AI: hulp bij rouwproces of commerciële valkuil?

Nog een keer kunnen spreken met een dierbare overledene is voor velen een stille wens. In het verleden werd al eens soelaas gezocht bij een medium of in andere paranormale activiteiten, maar tegenwoordig kan je je ook wenden tot 'grief tech' of 'rouwtechnologie'.

Dat soort technologie, zoals Seance AI of Project December, is erop gericht een overledene te simuleren. Volgens Nathalie Smuha, onderzoeker Recht, Ethiek en AI aan de KU Leuven, bestaan er verschillende soorten toepassingen. "De meeste apps werken op basis van een 'large language model'. Dat is een groot model getraind op hele grote hoeveelheden data, dat kan converseren met ons", legt ze uit in 'Het uur van de waarheid' op Radio 1.

Dat algemeen taalmodel wordt vervolgens aangevuld met chatgesprekken die iemand met de na te bootsen overledene heeft gevoerd. "Door berichten van een overleden persoon of een dierbare in dat model te steken, wordt het nog verder gefinetuned en specifieker getraind. Op basis daarvan probeert die chatbot met jou te interageren op dezelfde manier als de overledene."

Er zijn ook apps die verder gaan dan 'gewone' chattoepassingen. Daar spelen zelfs audio en video een rol. Die systemen moeten dan worden gevoed met beelden of audiofragmenten van de overledene in kwestie, waarmee een simulatie van de overleden persoon het leven wordt ingeroepen.

Hoe geslaagd die nabootsing is, is natuurlijk de vraag. "Het is uiteraard niet hetzelfde als met die overleden persoon spreken. De chatbot is ook getraind op veel andere data, niet enkel op de data die jij erin steekt", benadrukt Smuha. En de effectiviteit is maar één kant van de medaille. Net als andere AI-toepassingen, brengt rouwtechnologie heel wat bezorgdheden en vraagstukken met zich mee.

"Het is op de eerste plaats iets commercieels", zegt Smuha. "Er zit een businessmodel achter de bedrijven die het aanbieden. Ofwel betaal je een abonnement op maandelijkse of wekelijkse basis, ofwel is het gratis, maar dan tonen ze je advertenties." Hoe dan ook maakt het bedrijf winst met de toepassing.

Dat commerciële aspect is volgens Smuha meteen al een van de grootste vraagtekens die bij de technologie kan worden geplaatst. "Een persoon die contact wil blijven houden met een overledene is extra kwetsbaar. De appontwikkelaar kan die kwetsbaarheid exploiteren door bijvoorbeeld meer geld te vragen, meer advertenties te tonen of door meer data af te nemen."

"Daar komt ook nog eens bij dat we het niet gewoon zijn om met zo'n chatbots te interageren. De technologie lijkt misschien levensecht, maar AI en die chatbots zijn nieuw voor ons. We hebben nog geen echte weerbaarheid tegen de emotionele band die we riskeren te creëren met die technologie. Dat maakt ons extra kwetsbaar."

Een emotionele relatie met technologie lijkt misschien een romantisch idee overgewaaid uit Hollywoodfilms. In het bekende voorbeeld ‘Her’ wordt de hoofdrolspeler smoorverliefd op zijn AI-assistent. Fictie, maar volgens Smuha is dat momenteel helemaal niet zo ver van ons bed.

"Er zijn absoluut al heel veel casussen van dergelijke technologie waarbij mensen emotioneel afhankelijk raken. Het wordt door de ontwikkelaars dan ook ontworpen om een emotionele band met jou op te bouwen, of die chatbot nu een overledene nabootst, of vriendschappelijk of romantische bedoelingen heeft." Dat de ontwikkelaars de (commerciële) touwtjes van die emotionele band in handen hebben, brengt dus gevaren mee.

Maar kan zo’n chatbot ook niet veel mensen helpen door het rouwproces te verlichten? Daar is volgens Smuha nog geen eenduidig antwoord op. "Op dit moment is er nog niet voldoende onderzoek gevoerd naar zowel de korte- als langetermijneffecten van zo'n technologie", zegt ze. "Het is niet zeker dat wel er een goed alternatief bestaat voor menselijke steun, zeker op momenten van rouw."

"Het zou kunnen dat dit wel een positief effect kan hebben in het verwerkingsproces", zegt Smuha. Ze sluit het dus niet per definitie uit, maar meer onderzoek en een bewustmakingsproces is volgens haar cruciaal voor dergelijke technologie volledig omarmd kan worden.

Tot dan is voorzichtig zijn aangewezen. "Het is één ding om zo'n app te gebruiken in samenspraak met een therapeut, maar het is iets anders om dit op je eentje te doen. Dan ben je op je kwetsbaarst, zonder de nodige bewustmaking dat dit maar een simulatie is en dat het de bedoeling is om effectief een verwerkingsproces te doorlopen. Niet om je daaraan te blijven vastklampen."

Tenslotte zijn er volgens Smuha ook juridische vraagtekens te plaatsen. "De privacywetgeving op Europees niveau is enkel van toepassing op levende personen." Na je dood ben je dus niet meer beschermd. "Maar het is niet omdat je juridisch gezien iets met de data van bijvoorbeeld je overleden grootmoeder kan doen, dat het ook ethisch of moreel toelaatbaar is."

"Ik denk dat we daar als samenleving over moeten nadenken. Zijn er regels die we willen aannemen om ook overleden personen te beschermen? We laten nu zoveel meer digitale data na dan ooit tevoren. Wat moet daarmee gebeuren? En wie heeft er het recht om van jou later een chatbot te creëren en met jou te spreken?"

Genoeg stof tot nadenken voor je zelf aan de slag gaat met dergelijke technologie.