Amerikaanse staat Florida start rechtszaak tegen OpenAI en CEO Sam Altman: "Winst was belangrijker dan veiligheid"

"De opkomst van OpenAI is het resultaat van een web van bedrog en de uitbuiting van gebruikers (onder wie inwoners van Florida), waarbij hun gegevens en veiligheid worden misbruikt om de marktwaarde van OpenAI te verhogen. En dat alles tegen een onaanvaardbare prijs." Dat staat in de aanklacht tegen OpenAI en zijn CEO Sam Altman, die is ingediend door de openbaar aanklager van de Amerikaanse staat Florida, James Uthmeier.

Er zijn in totaal 10 aanklachten. Die beschuldigen het bedrijf en zijn CEO van misleidende en oneerlijke handelspraktijken, nalatigheid, de schending van de lokale en federale wetgeving, bedrog en het veroorzaken van openbare overlast.

Volgens de openbaar aanklager brengen de huidige systemen van OpenAI voor gebruikers een "groot risico op verslaving, cognitieve achteruitgang, zelfmoord, geweld en daarmee samenhangende schade" met zich mee.

Er wordt ook verwezen naar de schietpartij op de campus van Florida State University in april 2025. De dader van die schietpartij gaf aan dat hij vooraf "uitgebreide conversaties" had gehad met ChatGPT.

Het gaat meer specifiek over een burgerlijke rechtszaak, waarbij Uthmeier sancties wil afdwingen tegen het bedrijf en Altman persoonlijk verantwoordelijk wil stellen voor de fouten die door het gebruik van ChatGPT zijn gemaakt. Altman zou "roekeloos hebben gehandeld, met een volstrekte minachting voor het gevaar voor mensenlevens dat de werking van zijn bedrijf met zich meebrengt".

OpenAI heeft nog niet gereageerd op de nieuwe rechtszaak, ook Altman blijft voorlopig stil. Het bedrijf heeft in het verleden wel al aangegeven dat het zijn systemen met veiligheid in het achterhoofd ontwikkelt. 

"We blijven de training van ChatGPT verbeteren, zodat het signalen van psychische of emotionele problemen kan herkennen en erop kan reageren, gesprekken kan de-escaleren en mensen kan doorverwijzen naar de nodige hulplijnen", klonk het eerder al in een verklaring.

OpenAI ontkende ook al dat het verantwoordelijk is voor grote incidenten zoals de schietpartij aan de universiteit in Florida. Familieleden van de slachtoffers stellen het bedrijf ook aansprakelijk voor de gebeurtenis. "ChatGPT is niet verantwoordelijk voor die verschrikkelijke misdaad", was toen te lezen in een statement.

De zaak in Florida doet wat denken aan de zaak tegen Facebook, die onlangs in Californië heeft plaatsgevonden. In dat proces moest worden bepaald of Google en Meta hun platforms doelbewust hebben ontworpen om onredelijk gebruik door jonge internetgebruikers te bevorderen, ten koste van hun geestelijke gezondheid.

Zijn techbedrijven verantwoordelijk voor wat generatieve AI aan gebruikers voorschotelt? Het is een vraag die nog regelmatig zal terugkeren, ook in de rechtbank, gelooft AI-expert en VRT-journalist Tim Verheyden. 

"De vergelijking met Facebook gaat niet over technologie, maar over verantwoordelijkheid", verduidelijkt Verheyden. "Ook daar begon het verhaal met een bedrijf dat zei: 'wij zijn maar een platform'. Later verschoof de discussie naar de vraag hoeveel invloed een technologiebedrijf werkelijk heeft op menselijk gedrag, met heel veel verschillende rechtszaken tot gevolg."

"Facebook bepaalt mee wat mensen te zien krijgen, terwijl generatieve AI als ChatGPT bepaalt wat mensen te horen en te lezen krijgen. Dat maakt de aansprakelijkheidsvraag misschien mogelijk nog gevoeliger dan bij sociale media. We zien de chatbot ook steeds vaker als een persoon: mensen praten met ChatGPT alsof het een vriend, een raadgever of iets anders is."

De kans is dus groot dat ook andere Amerikaanse staten rechtszaken tegen AI-bedrijven zullen aanspannen. Nochtans wil president Donald Trump volop investeren in artificiële intelligentie, om de concurrentie aan te gaan met de andere hoofdspeler op de markt: China. En ook Sam Altman maakt deel uit van het plan om dat mogelijk te maken.