Een half jaar voor de dodelijke schietpartij op een school in Canada had OpenAI, het bedrijf achter ChatGPT, het account van de verdachte al aangevinkt wegens "het bevorderen van gewelddadige activiteiten". Toch werd de politie niet gewaarschuwd, omdat de activiteiten op het account onder de drempel voor reële dreiging bleven.
ChatGPT markeerde account van schutter in Canada al half jaar voor schietpartij, maar waarschuwde politie niet
Kathleen Heylen
Gepubliceerd:
Op 11 februari stierven 7 mensen bij een schietpartij op een school in Tumbler Ridge, in de Canadese provincie British Columbia. In een huis dicht bij de school werden de lichamen van nog 2 anderen gevonden. Er vielen ook 27 gewonden. Het was een van de ergste geweldincidenten in de openbare ruimte in Canada.
De vermoedelijke schutter werd dood teruggevonden op de school. Ze werd geïdentificeerd als Jesse Van Rootselaar, een 18-jarige trans vrouw. Ze zou volgens de politie in het verleden al te kampen hebben gehad met psychische problemen. In het huis waar de verdachte met haar familie woonde, zou de politie eerder ook al wapens in beslag genomen hebben.
Volgens de Amerikaanse krant Wall Street Journal heeft OpenAI in juni vorig jaar al het ChaptGPT- account van de verdachte gemarkeerd. De misbruik- en handhavingssystemen van OpenAI signaleren onder meer accounts die worden gebruikt om geweld te bevorderen. Het is dan aan medewerkers om een inschatting te maken.
De politie werd niet gewaarschuwd. Volgens Wall Street Journal "discussieerden ongeveer 12 medewerkers of ze actie moesten ondernemen." Sommigen zagen in het ChatGPT-gebruik van de verdachte een indicatie van geweld in de echte wereld en drongen er bij leidinggevenden op aan de autoriteiten te waarschuwen. Maar, zo zegt de krant, het bedrijf besloot dit niet te doen.
"Onder de drempel van een reële dreiging"
In een reactie zegt een woordvoerder van OpenAI: "In juni 2025 hebben we proactief een account geïdentificeerd dat aan deze persoon is gekoppeld via onze inspanningen op het gebied van misbruikdetectie en -handhaving. Daarbij zitten geautomatiseerde tools en menselijk onderzoek om misbruik van onze modellen ter bevordering van gewelddadige activiteiten te identificeren."
Het bedrijf heeft geen contact opgenomen met de politie omdat de activiteiten op het account "onder de drempel voor een geloofwaardig plan of reële dreiging voor ernstig lichamelijk geweld aan anderen" bleven. Na de schietpartij nam OpenAI uit eigen beweging contact op met de autoriteiten met informatie over de verdachte.
OpenAI zegt dat het het politie-onderzoek blijft ondersteunen en leeft mee met iedereen die door de schietpartij getroffen is.
"We evalueren onze doorverwijzingscriteria"
OpenAI laat ook nog weten dat het vasthoudt aan zijn beleid om de autoriteiten alleen te waarschuwen in gevallen van dreigend gevaar, omdat een te brede waarschuwing onbedoelde schade zou kunnen veroorzaken.
Het bedrijf zegt ook dat het ChatGPT traint om dreigend gevaar in de echte wereld te ontmoedigen wanneer het een gevaarlijke situatie detecteert. Het systeem wordt ook aangeleerd om te weigeren mensen te helpen die ChatGPT proberen te gebruiken voor illegale activiteiten.
"We evalueren onze doorverwijzingscriteria voortdurend met experts en onderzoeken alles op mogelijke verbeteringen", klinkt het nog.
