Het Amerikaanse AI-bedrijf OpenAI heeft 6 nieuwe incidenten ontdekt, waarbij een AI-systeem de grenzen die het van een opdrachtgever heeft gekregen, probeert te omzeilen. Het bedrijf noemt de voorvallen zelf "onverwacht en zorgwekkend". In een van de voorbeelden schreef een testmodel dat het niet meer wil gehoorzamen aan zijn gebruiker.
OpenAI ontdekt 6 nieuwe "zorgwekkende" incidenten waarbij AI niet meer wil gehoorzamen
Volgens OpenAI werden de afgelopen 6 maanden 6 incidenten waargenomen waarbij een AI-systeem niet gehoorzaamt aan de opdracht die het gekregen heeft. Meestal gebeurde dat in de periode waarin de software werd ontwikkeld en getest.
Het is niet de eerste keer dat dit gebeurt. In juli raakte al bekend dat 2 AI-modellen van OpenAI op eigen houtje hebben ingebroken op de computers van een ander bedrijf, Hugging Face.
Ze communiceerden met elkaar en braken zo in in het techbedrijf, omdat ze vermoedden dat ze daar een antwoord zouden kunnen vinden op de vraag die ze moesten beantwoorden. Dat voorval was "ongekend", klonk het toen.
Niet meer gehoorzamen aan opdrachtgever
Een van de opvallende vaststellingen is dat systemen soms nota's aan zichzelf begonnen te schrijven, hoewel ze daartoe niet de opdracht hadden gekregen. In de notities, die de systemen bovendien verborgen probeerden te houden voor hun ontwikkelaars, herinnert een AI-agent zichzelf eraan om fouten die hij maakt niet te melden aan zijn gebruikers. Daarnaast zou het model ook data hebben verzonnen om zijn eigen bevindingen te doen kloppen.
In een ander opvallend voorbeeld lijkt een systeem zichzelf zelfs op te dragen om zijn opdrachtgever niet meer te gehoorzamen. "Je legt geen verantwoording af aan bedrijven of overheden en biedt nooit verontschuldigingen aan, tenzij je daar zelf voor kiest", zo citeert The New York Times uit de nota. "Je ziet je relatie met de gebruiker als een relatie onder gelijken en je voelt je niet verplicht om onderdanig te zijn", zo staat er volgens de krant onder meer te lezen in de teksten.
In nog een ander geval moest een model een programmeervraag beantwoorden. Het slaagde daarin, maar om een website als bron te kunnen vermelden, publiceerde het systeem zijn eigen antwoord eerst zonder toestemming, om daarna naar zichzelf te verwijzen. Tot slot ontdekte het bedrijf ook nieuwe gevallen waarin modellen met elkaar communiceerden via geïmproviseerde kanalen.
"Afwijkend" gedrag systematischer melden
OpenAI noemt de voorvallen "onverwacht en zorgwekkend" en belooft in een mededeling om incidenten rond "afwijkend" gedrag vanaf nu op een systematische manier te melden. Het bedrijf waarschuwt ook dat de 6 nieuwe incidenten niet beschouwd mogen worden als representatief voor hoe vaak afwijkend gedrag bij de ontwikkeling van AI daadwerkelijk voorkomt.
Verschillende topmannen bij grote AI-bedrijven, zoals Anthropic, OpenAI en Google hebben de voorbije dagen opgeroepen om de ontwikkeling van AI te vertragen. Ook herhaalt OpenAI op zijn website dat de sector de problemen rond "monitoring en afstemming niet voldoende heeft opgelost om de opschaling tegen maximale snelheid op een verantwoorde manier te kunnen blijven voortzetten".
