OpenAI, het Amerikaanse bedrijf achter ChatGPT, rolt een versie van zijn chatbot met kunstmatige intelligentie (AI) uit voor tieners. Die combineert uitgebreidere controlemogelijkheden voor ouders met bijkomende veiligheidsmaatregelen om een evenwichtig gebruik te bevorderen, zegt het bedrijf. Al wil het bedrijf natuurlijk ook zijn product bij een nog breder publiek krijgen.
ChatGPT was in opspraak gekomen nadat in de Verenigde Staten de ouders van een 16-jarige jongen OpenAI hadden aangeklaagd, omdat de chatbot zou hebben geholpen bij het plannen van de zelfdoding van hun zoon in april 2025. In augustus vorig jaar kwam het AI-bedrijf daarom al met extra veiligheidsmaatregelen.
Nu lanceert OpenAI specifiek voor tieners vanaf 13 tot en met 17 jaar 'ChatGPT for Teens'. Die versie wordt standaard toegewezen op basis van de opgegeven geboortedatum, maar ook wanneer ChatGPT op basis van het chatgedrag of bepaalde patronen detecteert dat een gebruiker in die leeftijdscategorie valt.
ChatGPT for Teens bevat bijkomende veiligheidsmaatregelen die blootstelling aan mogelijk schadelijke inhoud zoals geweld, zelfverminking en eetstoornissen moet beperken.
Ook de spraakfunctie kan voor tieners worden uitgeschakeld, zodat de chatbot minder als een "companion" wordt gebruikt en tieners ChatGPT niet als een vriend gaan zien. Volgens OpenAI zijn sommige maatregelen geen reactie op een specifiek incident, maar wel op de groeiende bezorgdheid dat sommige gebruikers, ook volwassenen, AI-chatbots als wezens met een bewustzijn gaan beschouwen.
'Studeermodus'
Er komen ook regelmatige meldingen om een pauze te nemen en mogelijkheden om het gebruik tijdens vaste uren te beperken. ChatGPT for Teens gaat ook gepaard met een 'studeermodus' waarbij tieners geholpen worden om bepaalde concepten zelf uit te werken of te begrijpen, in plaats van rechtstreeks het antwoord te geven.
Tieners die voor het eerst ChatGPT gebruiken, krijgen vooraf ook informatie over de werking van de chatbot. Ouders kunnen hun account koppelen en meer beperkingen opleggen aan bepaalde functies.
Bij signalen van een mogelijke eetstoornis krijgen gekoppelde ouders voortaan ook een melding. Zo'n melding wordt eerst door een medewerker gecontroleerd, voor ze naar de ouders gaat. Gedetailleerde chatgesprekken krijgen ouders niet te zien.
Rechtszaken en concurrentie
OpenAI ligt al langer onder vuur. Naast de rechtszaak over de zelfdoding van de 16-jarige jongen lopen er intussen ook meerdere rechtszaken waarin OpenAI ervan beschuldigd wordt een rol te hebben gespeeld bij dodelijke schietpartijen.
In Canada klagen zeven families OpenAI aan nadat een 18-jarige in februari van dit jaar acht mensen doodde, onder meer op een school in Tumbler Ridge, British Columbia. OpenAI's eigen veiligheidsteam had het account van de schutter maanden voordien al 'gemarkeerd', maar het bedrijf besliste toen enkel het account af te sluiten in plaats van de politie te verwittigen.
Ook na een schietpartij op de campus van Florida State University in 2025 loopt er een rechtszaak tegen OpenAI.
Concurrent Anthropic, dat de chatbot Claude ontwikkelt, koos een andere aanpak en houdt zijn AI-model voorlopig volledig voorbehouden voor volwassenen.
