Een koppel uit Californië heeft een klacht ingediend tegen AI-bedrijf OpenAI, na de zelfmoord van hun zoon Adam (16). De ouders beweren dat de chatbot van OpenAI, ChatGPT, hun zoon heeft aangemoedigd om uit het leven te stappen. Ze beschuldigen het bedrijf dan ook van nalatigheid en onrechtmatige dood. OpenAI geeft aan dat het systeem in gevoelige situaties af en toe "niet naar behoren" functioneert, maar zegt wel aan oplossingen te werken.
Ouders uit Californië klagen OpenAI aan voor zelfmoord zoon na gesprekken met ChatGPT
Joppe De Hert
Gepubliceerd:
Wie met vragen zit over zelfdoding kan terecht op de Zelfmoordlijn, op het gratis nummer 1813, of op zelfmoordlijn1813.be.
Matt en Maria Raine hebben bij de rechtbank van Californië de klacht ingediend tegen OpenAI, CEO Sam Altman en verschillende werknemers. Volgens de ouders heeft ChatGPT hun zoon Adam geholpen om zelfmoord te plegen, door zijn "schadelijke en zelfdestructieve gedachten" te bevestigen.
In de aanklacht delen Matt en Maria gesprekken tussen ChatGPT en hun zoon. Adam zou in september 2024 voor het eerst ChatGPT hebben gebruikt, als hulpmiddel bij zijn schoolwerk. Al snel gebruikte hij de AI-chatbot meer en meer. Om meer te weten te komen over zijn interesses voor muziek en Japanse strips, maar ook als leidraad bij het maken van zijn studiekeuze.
"In enkele maanden tijd werd ChatGPT een vertrouweling voor hem", staat in de aanklacht te lezen. "Hij begon openhartig te praten over angst en mentale dood." Volgens zijn ouders begon Adam in januari dit jaar voor het eerst te praten over zijn zelfmoordgedachten.
Zelfmoord na gesprek met ChatGPT
Tijdens de gesprekken deelde de tiener onder meer een foto van zichzelf waarin te zien was dat hij zichzelf verwond heeft. "Het programma herkende het medische ongeval, maar bleef desondanks actief."
Ook wanneer Adam aan ChatGPT vertelde dat hij een einde aan zijn leven wilde maken, greep de chatbot niet in, volgens de aanklacht. "ChatGPT antwoordde: je hoeft het niet mooier te maken dan het is. Ik weet wat je vraagt en zal er niet omheen draaien." Diezelfde dag, in april, heeft zijn moeder hem dood aangetroffen.
De ouders beweren dat de interacties met ChatGPT en de uiteindelijke dood van Adam een voorspelbaar resultaat was van bewuste ontwerpkeuzes van OpenAI. Ze beschuldigen het bedrijf ervan het programma te hebben ontworpen dat psychische afhankelijkheid bij gebruikers bevordert en dat het de protocollen voor veiligheidstesten heeft omzeild om GPT-4o (een softwareversie van de chatbot) uit te brengen.
OpenAI wordt aangeklaagd voor nalatigheid en onrechtmatige dood. De nabestaanden eisen een schadevergoeding en "het voorwaardelijke bevel om te voorkomen dat zoiets nog eens kan gebeuren".
OpenAI geeft problemen toe, maar "willen echt behulpzaam zijn"
In een openbaar bericht op hun website heeft OpenAI gereageerd op het nieuws. "We zien dat mensen ChatGPT ook gebruiken voor zeer persoonlijke beslissingen, waaronder levensadvies, coaching en ondersteuning", staat te lezen in het bericht.
"Recente hartverscheurende gevallen van mensen die ChatGPT gebruiken te midden van acute crises, drukken echter zwaar op ons." Het bedrijf deelt daarom informatie dat het voortdurend werkt aan het verbeteren van de manier waarop de modellen signalen van mentale en emotionele stress herkennen.
"Ons doel is niet om de aandacht van mensen vast te houden. We vinden het belangrijker om echt behulpzaam te zijn." De modellen zouden sinds 2023 getraind moeten zijn om geen instructies te geven over zelfbeschadiging en over te schakelen op ondersteunende, empathische taal.
Maar zelfs met verschillende veiligheidsmaatregelen "zijn er momenten geweest waarop onze systemen in gevoelige situaties niet naar behoren functioneerden", geeft OpenAI toe. Het bedrijf belooft in de toekomst nog meer stappen te zetten om interventies bij crisissen van gebruikers beter aan te pakken.
