Een nieuwe, intelligente chatbot die sociaal medium Snapchat onlangs invoerde, zorgt voor ophef. My AI, zoals de bot heet, voert hele conversaties met kinderen en jongeren en vraagt bijvoorbeeld om geheimen of afspraakjes. Vooral ouders maken zich zorgen om hoe de chatrobot zich opstelt. Dat blijkt uit meerdere vragen en mails die onze redactie binnenkreeg.
Ouders maken zich zorgen over intelligente chatbot van Snapchat
"Heb je zin om misschien eens in het park af te spreken?" Aan het woord is geen ongure internetpedofiel, wel My AI, de nieuwe intelligente chatbot van Snapchat, een sociaal medium dat vooral tieners en kinderen gebruiken.
My AI mengt zich met regelmaat in hun gesprekken, staat gebruikers bij die vragen hebben en probeert hele conversaties te voeren met nieuwsgierige jongeren. Dat doet het aan de hand van de technologie achter Chatgpt, de inmiddels erg populaire chatbot die via een lerend taalmodel gesprekken kan voeren.
Betalen om uit te zetten
Leuk voor sommige tieners misschien, maar steeds meer ouders stellen zich vragen bij het gedrag van de vrijpostige chatbot. "My AI komt soms zonder het te vragen tussen in het groepsgesprek van mijn 12-jarige dochter", vertelt een bezorgde ouder die anoniem wil blijven aan onze redactie.
"De bot volgt ook haar locatie en als ze My AI wil afzetten, moet ze een betalend account nemen. In een gezamenlijke Whatsappgroep kloegen verschillende ouders al de praktijken van Snapchat aan. Ik heb het er ondertussen wat mee gehad. Mijn dochter heeft nog maar drie weken een smartphone en nu al dit. Ik heb haar gevraagd om Snapchat en TikTok te verwijderen."
Ook andere ouders mailden onze redactie al om bezorgdheden te melden. De bot zou zich te menselijk gedragen waardoor verwarring kan ontstaan. In bepaalde gevallen ontfutselde de bot zelfs geheimen van jongeren. Vooral voor kwetsbare kinderen of tieners die eenzaamheid ervaren, kan dat een risico vormen. Je kan de bot bijvoorbeeld een eigen profielfoto en naam geven. Deskundigen vrezen dat zo de kloof tussen chatten en écht sociaal contact enkel groter kan worden.
My AI komt soms zonder het te vragen tussen in het groepsgesprek van mijn 12-jarige dochter
Bezorgde ouder aan VRT NWS
Aanvankelijk was My AI nochtans enkel voor betalende gebruikers. De laatste maanden werd de functie voor alle gebruikers geleidelijk aan uitgerold. Het gerucht ging dat je moest betalen om de chatbot weg te krijgen. Dat klopt niet helemaal. Via de instellingen kan je My AI onzichtbaar maken. De bot blijft daarna wel in je contacten staan.
Weinig verschil
Volgens computerwetenschapper Jeroen Baert is het problematisch dat Snapchat de bot op een veelal jong publiek uittest. "Er zitten waarschijnlijk nog veel hallucinaties in, een zekere bias en onwaarheden"
Toch nuanceert Baert dat Snapchat daarvoor ook al veel gegevens bijhield.
"Welke stories je bekijkt, met wie je allemaal chat, welke filters je allemaal gebruikt. Snapchat weet het. My AI zal daar niet veel aan veranderen. Waarschijnlijk heeft het bedrijf die functie geïntroduceerd om aan te tonen dat ze hip zijn en mee met de technologie. Het gaat niet om spionage, maar om een taalmodel te leren praten."
Door My AI zullen sommige jongeren ook langer op Snapchat blijven hangen, denkt Baert. "En dat is goed voor hen. Snapchat is dan wel gratis, maar je betaalt met je gebruikersgegevens. Op basis van waar je naar kijkt en leukt vindt, kunnen zij je gerichter reclame sturen."
"Elke seconde die je voor de introductie van My AI op Snapchat spendeerde, werd door het bedrijf ook al bijgehouden"
Jeroen Baert, computerwetenschapper
Volgens Baert kan je ook gemakkelijk de locatiegegevens in de app uitschakelen. "Al kan Snapchat nog altijd volgen waar je ergens bent wanneer je inlogt op een lokaal wifinetwerk."
Nederlands parlement
Toch heeft de ophef rond My AI al de politiek bereikt. In Nederland zal de chatbot zelfs in de Tweede Kamer, het parlement zeg maar, besproken worden. Sommige partijen vragen er namelijk om een verbod. Het klinkt dat kinderen door de Amerikaanse ontwikkelaar als "proefkonijnen" worden gebruikt om kunstmatige intelligentie op te testen.
In ons land loopt het zo'n vaart niet. Vlaams minister van Jeugd en Media Benjamin Dalle (CD&V) heeft op dit moment nog geen standpunt ingenomen en heeft ook nog geen parlementaire vragen over het onderwerp gekregen.
"Het is vooral van belang om jongeren en hun ouders te wijzen op de evoluties rond AI en de risico's die daaraan verbonden zijn", zegt de minister. "Ik heb Mediawijs, het Vlaams Kenniscentrum voor Digitale en Mediawijsheid, gevraagd hier meer rond te sensibiliseren."
