Wie onbeschoft of kwetsend doet tegenover AI-chatbot Claude, wordt verbannen van het platform. Dat heeft het bedrijf achter de chatbot, Anthropic, beslist. Een opvallende maatregel die opnieuw de discussie doet oplaaien over de vraag of AI een bewustzijn heeft. "Zeker bij Anthropic leeft het idee dat AI iets kan voelen", zegt Tim Verheyden.
Wie grof is tegen Claude, wordt verbannen van de chatbot: kan AI zich echt gekwetst voelen?
Wie zich onbeschoft gedraagt tegen - , wordt uitgesloten van het platform. Dat heeft het AI-bedrijf Anthropic deze week bekendgemaakt.
"Het gaat dan vooral over onbeschoft gedrag dat zich in extreme gevallen voordoet", vertelt AI-expert Tim Verheyden in Het Uur van de Waarheid op Radio 1. "Anthropic kan dat niet meer tolereren."
Wie dus opvallend grof is tegen de chatbot, wordt ervan verbannen. "Je kan nog wel gevoelens tonen en je woede delen. Maar als je echt té grof bent, is het gedaan."
Discussie over AI-bewustzijn
Wil dat dan zeggen dat AI gevoelig en kwetsbaar is geworden? En dat chatbots ook pijn kunnen ervaren?
"Daar is nu een interessante discussie over aan de gang", weet Verheyden. "Zeker binnen Anthropic leeft het idee dat AI een bewustzijn heeft en iets kan voelen."
Bij Anthropic zeggen ze dat ze niet weten of AI een bewustzijn heeft, ze laten de deur op een kier
Tim Verheyden
De reden daarvoor is de zogenoemde 'soul-code'. "Claude wordt getraind op talloze teksten, maar heeft ook een interne code, die 'soul-code', die 80 pagina's bevat over de moraal van de chatbot." Die code bepaalt dus binnen welke krijtlijnen Claude moet reageren.
Voor alle duidelijkheid: Anthropic zegt niet dat AI effectief een bewustzijn heeft, maar wel dat ze er niet zeker van zijn. Ze laten de deur op een kier."
Een van die mensen die de deur op een kier laat, is Chris Olah. Hij is een van de prominente figuren binnen het bedrijf. "Hij is al met religieuze leiders, zoals de paus, gaan praten over mogelijkheden van AI."
"Tijdens die gesprekken zegt hij ook dat AI misschien wel een bewustzijn heeft. De paus reageerde enkele maanden geleden nog dat AI gewoon een computersysteem is en niet kan voelen zoals mensen."
Neemt AI de wereld over?
Niet alleen de paus, maar ook heel wat AI-experten zijn het erover eens: AI heeft geen bewustzijn. "Veel mensen denken dat het niet kan. Bewuste AI is heel waarschijnlijk onwaarschijnlijk, zeggen experts."
"Ze vinden het zelfs verontrustend dat erover nagedacht wordt. Een chatbot kan pijn beschrijven, zonder daarbij iets te voelen. Maar dat zijn natuurlijk taalmodellen."
De discussie over het bewustzijn van AI is vooral nieuw voer voor die andere discussie: kan AI de wereld overnemen?
"Zal AI ons uitroeien en zal de 'superintelligentie' de menselijkheid gaan overstijgen? Die discussies woeden nu volop", aldus Verheyden.
