Vanaf 8 juli kan Anthropic, het bedrijf achter het AI-systeem Claude, gebruikers vragen om zich te identificeren met een live selfie, waarop ook een identiteitskaart te zien is. Zo wil het strenger toezien op de leeftijd van de gebruikers, omdat de chatbot eigenlijk enkel door meerderjarigen gebruikt mag worden.
Claude gebruiken? AI-chatbot vraagt vanaf 8 juli selfie met paspoort om minderjarigen te weren
Xavier Vuylsteke de Laps
Gepubliceerd:
Minderjarige gebruikers van de AI-chatbot Claude moeten op hun hoede zijn. Het systeem is eigenlijk enkel toegankelijk voor mensen ouder dan 18 jaar en Anthropic, het bedrijf achter Claude, zal vanaf 8 juli strenger toezien op die voorwaarde.
Paspoort vergeleken met scan gezicht
Het Amerikaanse technologiebedrijf mag vanaf dan vragen aan gebruikers om zich te identificeren aan de hand van een officieel identiteitsdocument. Dat moeten ze tonen tijdens een live selfie, zodat de foto op het document kan vergelijken worden met een scan van je gezicht, staat te lezen op de website van Claude.
Anthropic maakt zich sterk dat niets ongeoorloofd zal gebeuren met de gegevens die het daarbij verzamelt. De data worden verzameld door een partnerbedrijf dat gespecialiseerd is in verificatie. Anthropic krijgt alleen toegang tot de info als een gebruiker in beroep gaat tegen de stopzetting van een account en zegt de gegevens niet te zullen gebruiken om AI-modellen te trainen.
Het is de volgende stap in de leeftijdscontrole door het bedrijf. Eerder gebruikte het bijvoorbeeld al de leeftijd aangegeven in het Google-account dat gekoppeld is aan Claude, of screende het de gesprekken op aanwijzingen van de leeftijd van de gebruiker. Zei iemand dat hij minderjarig was, dan kon het account geblokkeerd worden.
Vreemd genoeg konden tieners voorlopig probleemloos aan de slag met Claude, maar de laatste weken duiken er verhalen op van accounts die plots geblokkeerd worden. En dat kan net tijdens de examens wel problemen veroorzaken.
'Verantwoord' AI-systeem
Officieel is Claude altijd al 18+ geweest. Anthropic wil namelijk dat het systeem 'verantwoord' is en heeft Claude bijvoorbeeld niet specifiek getraind op content voor minderjarigen. Dat staat iets als een correcte samenvatting van een tekst niet in de weg, maar is nefast als een tiener vraagt om psychologisch advies.
De bedrijven achter AI-systemen als Claude en ChatGPT zijn ook op hun hoede voor juridische gevolgen van de gesprekken die gebruikers met hen aangaan. In de Verenigde Staten zijn al verschillende rechtszaken aangespannen door ouders die vonden dat de chatbots hun kinderen tot schadelijke acties hadden aangezet.
In Europa wordt tegelijk ook de AI Act uitgerold. Die wetgeving moet gebruikers van AI-systemen beschermen tegen bijvoorbeeld het gebruik van deepfakes of gedragsmanipulatie. Daarbij heeft de Europese Unie ook specifiek ingezoomd op de bescherming van minderjarigen.
