Het Amerikaanse leger kan de AI van techbedrijf Anthropic niet zomaar gebruiken zoals het wil. Dat zegt de CEO zelf. Het Pentagon had het bedrijf tot vandaag de tijd gegeven om het leger onbeperkte toegang te geven, maar Anthropic weigert dat. Ze zitten er niet op te wachten dat hun AI wordt gebruikt voor binnenlandse spionage of autonome wapens.
Contract van 200 miljoen euro op de tocht? AI-bedrijf zegt nee tegen onbeperkt militair gebruik door VS
Lukas Lecluyse
Gepubliceerd:
Pentagon-woordvoerder Sean Parnell benadrukte eerder op X dat ze geen AI willen gebruiken voor massale surveillance van Amerikanen, en ook niet voor volledig autonome wapens zonder menselijke controle.
Hij zei: "We vragen gewoon: laat het Pentagon het model van Anthropic gebruiken voor alle legale toepassingen." Het bedrijf kreeg daar tot vandaag 17 uur de tijd voor. "Doen ze dat niet, dan beëindigen we de samenwerking en zien we Anthropic als een risico."
Voet bij stuk
In een verklaring reageerde de CEO van Anthropic, Dario Amodei, dat ze niet aan de dreigementen zullen toegeven. Het bedrijf wil niet dat het Pentagon zijn AI gebruikt voor massale surveillance of autonome wapens. Vooral dat laatste kan niet, want "deze AI-systemen zijn simpelweg niet betrouwbaar genoeg".
Een bron bij Anthropic benadrukt dat het bedrijf het Pentagon niet van slechte bedoelingen beschuldigt, maar dat het vooral eerlijk wil zijn over wat veilig is. Volgens hen is AI simpelweg te onvoorspelbaar voor situaties waarin levens op het spel staan. Het kan fout gaan, bijvoorbeeld leiden tot vriendschappelijk vuur of een mislukte missie.
Ook massale binnenlandse surveillance is een probleem. De wet zegt niet precies wat AI mag afleiden uit enorme hoeveelheden data. Daardoor zou AI bevolkingsprofielen kunnen maken die misschien niet illegaal zijn, maar wel duidelijk tegen de geest van de grondwet ingaan.
Miljoenencontract
Het ministerie dreigt zelfs om Anthropic uit zijn systemen te gooien en het bedrijf te zien als een "risico in de toeleveringsketen", wat een contract van bijna 200 miljoen euro in gevaar brengt.
In 2024 onderhandelde Anthropic dat defensiecontract, samen met andere grote AI-bedrijven als OpenAI, Google en Elon Musk's xAI. De bedoeling was dat ze AI-tools zouden ontwikkelen en testen voor militaire doeleinden.
De andere bedrijven hebben grotendeels al ingestemd met bredere militaire voorwaarden, waardoor Anthropic nu als laatste grote bedrijf op de rem staat.
Via partnerschappen met bedrijven zoals Palantir en Amazon Web Services werd het populaire taalmodel van Anthropic, 'Claude', zelfs in gebruik genomen op geheime militaire netwerken, waardoor het bedrijf haast onmisbaar is geworden voor de Amerikaanse militaire communicatie.
Vooral dat laatste geeft Anthropic een machtspositie in deze onderhandelingen. Doordat het bedrijf zo'n diepgaande samenwerking heeft met andere defensiepartners, is het niet eenvoudig om zomaar een alternatief te vinden.
Ethische discussie
De ruzie tussen Hegseth en Anthropic zet de ethische discussie over AI in defensie weer volop in de schijnwerpers. De kernvraag is: wie neemt de beslissingen? Mag een AI-systeem zelf bepalen wie wordt aangevallen, of blijft een mens altijd de baas?
Anthropic weigert mee te werken aan volledig autonome wapensystemen, omdat zulke technologie fouten kan maken met dodelijke gevolgen en er niemand echt verantwoordelijk zou zijn. Tegelijkertijd wil het bedrijf ook niet dat zijn AI wordt gebruikt voor massale binnenlandse surveillance, uit zorgen over privacy, burgerrechten en mogelijk misbruik.
Vorige maand schreef CEO Dario Amodei in een essay: "Een krachtige AI die miljarden gesprekken van miljoenen mensen kan analyseren, zou de publieke opinie kunnen inschatten, tekenen van ontrouw kunnen opsporen en die vroegtijdig kunnen onderdrukken voordat ze groter worden."
Hegseth deelt die mening niet. Eerder zei hij al dat hij komaf wil maken met alles wat 'woke' is in het Amerikaanse leger.
