OpenAI stelt lancering geavanceerd AI-model uit na nieuwe incidenten: "Lat voor veiligheid ligt extreem hoog"

Saachi Jain, binnen OpenAI verantwoordelijk voor beveiligingssystemen, vertelt aan The Wall Street Journal dat de software tijdens tests gebruikers niet altijd eerlijk heeft geïnformeerd over welke acties het wel of niet had ondernomen. 

Het AI-model, dat zelf kan rondsurfen op het internet of apps kan gebruiken, zou ook deels op eigen initiatief hebben gehandeld, zonder toestemming te vragen. Volgens Jain voldoet het model "nog niet aan de eisen om binnen de grenzen van zijn bevoegdheden en toestemmingen te blijven". 

"We willen er zeker van zijn dat ons model veilig is, binnen ons bedrijf, maar ook wanneer we het aanbieden aan gebruikers. In dat laatste geval hebben we een extreem hoge lat op het vlak van veiligheid en 'alignment' (lees: in hoeverre systemen zich binnen de krijtlijnen van de gestelde doelen houden, red.)", zegt ze.

De vaststellingen van OpenAI bevestigen nogmaals dat toezicht en controle steeds complexer worden nu AI zich verder ontwikkelt. Het bedrijf pauzeerde de training van zijn krachtigste AI-modellen afgelopen weekend na de vele veiligheidsincidenten met autonome AI-agenten van de voorbije maanden. 

Een van de systemen kreeg tijdens een test opnieuw ongeoorloofde toegang tot het internet. Een van de eerste en meest besproken incidenten was de inbraak bij het AI-platform Hugging Face. De betrokken AI-agents achterhaalden zelf hoe ze dat moesten doen.

Sindsdien is de lijst met veiligheidsincidenten alleen maar langer geworden. Een paar dagen geleden nog raakte bekend dat een AI-agent van OpenAI was binnengedrongen in een medische database van de Australische overheid. 

Dat gebeurde al in juni, maar de Australiërs kregen het pas in september te horen. Niet eens via rechtstreeks, persoonlijk contact met Australische overheidsfunctionarissen, maar via een standaard e-mail. OpenAI biedt nu in een statement zijn excuses aan voor het incident en voor de manier waarop het bedrijf de nasleep heeft aangepakt.

"Ons doel was om de betrokken agentschappen een gedetailleerd verslag te bezorgen zodra ons onderzoek achter de rug was." Nu zegt het bedrijf te beseffen dat het de Australische overheid onmiddellijk had moeten inlichten.

De voorbije weken is er door verschillende experts en toplui opgeroepen om AI-ontwikkelingen te vertragen of tijdelijk te pauzeren, om ontwikkelaars de kans te geven de veiligheid van die systemen te versterken. Maar onder meer Amerikaans president Trump wil daar niet van weten. Hij noemde de bezorgdheid al een "hoax".

Wel heeft hij intussen verschillende CEO's uit de Amerikaanse techindustrie samengeroepen. Zij worden vandaag verwacht op het Witte Huis voor een lunchmeeting, om te overleggen over de regulering van AI.