Een overleg in het Pentagon, het Amerikaanse ministerie van Defensie, tussen defensieminister Pete Hegseth en Dario Amodei, de CEO van AI-bedrijf Anthropic, is helemaal ontspoord in een machtsstrijd. Hegseth wil dat het Amerikaanse leger de AI-technologie gewoon kan inzetten zoals het zelf wil, maar Anthropic, dat zich profileert als een ethisch techbedrijf, weigert daar in mee te gaan.
Hoogoplopende discussie tussen defensieminister Pete Hegseth en AI-bedrijf: Claude weigert militaire AI zonder grenzen
Lukas Lecluyse
Gepubliceerd:
Zowel Anthropic als Pete Hegseth spelen het hard. Het bedrijf heeft tot vrijdag de tijd gekregen om zijn artificiële intelligentie open te stellen voor alle legale militaire toepassingen, anders zal dat serieuze gevolgen hebben.
Hegseth zou gedreigd hebben het contract met Defensie te beëindigen, het bedrijf te bestempelen als een risicopartner en zelfs gebruik te maken van een speciale wet om medewerking af te dwingen.
Geen centimeter toegeven
Dario Amodei, de CEO van Anthropic en voorstander van verantwoorde artificiële intelligentie, houdt echter voet bij stuk. Hij weigert toe te geven om AI in te zetten voor militaire toepassingen als massale binnenlandse surveillance (dus het grootschalig bespioneren van eigen burgers) of autonome wapens (wapens die zelf beslissen wie ze aanvallen, zonder menselijke controle).
In 2024 onderhandelde Anthropic een defensiecontract ter waarde van ongeveer 200 miljoen euro met Defensie, samen met andere grote AI-bedrijven als OpenAI, Google en Elon Musk's xAI. De bedoeling was dat ze AI-tools zouden ontwikkelen en testen voor militaire doeleinden.
De andere bedrijven hebben grotendeels al ingestemd met bredere militaire voorwaarden, waardoor Anthropic nu als laatste grote bedrijf op de rem staat.
Via partnerschappen met bedrijven zoals Palantir en Amazon Web Services werd het populaire taalmodel van Anthropic, 'Claude', zelfs in gebruik genomen op geheime militaire netwerken, waardoor het bedrijf haast onmisbaar is geworden voor de Amerikaanse militaire communicatie.
Vooral dat laatste geeft Anthropic een machtspositie in deze onderhandelingen. Doordat het bedrijf zo'n diepgaande samenwerking heeft met andere defensiepartners, is het niet eenvoudig om zomaar een alternatief te vinden.
Omstreden toepassingen
De ruzie tussen Hegseth en Anthropic wakkert ook de ethische discussie over het gebruik en de rol van artificiële intelligentie voor defensietoepassingen opnieuw aan. Centraal staat de vraag wie de beslissingen neemt: mag een AI-systeem zelfstandig bepalen wie wordt aangevallen, of blijft een mens altijd aan de knoppen?
Anthropic weigert mee te werken aan volledig autonome wapensystemen, omdat zo’n technologie fouten kan maken met dodelijke gevolgen en niemand echt verantwoordelijk zou zijn. Tegelijkertijd wil het bedrijf ook niet dat hun AI wordt ingezet voor massale binnenlandse surveillance, uit bezorgdheid over privacy, burgerrechten en mogelijk misbruik.
"Een krachtige AI die miljarden gesprekken van miljoenen mensen kan analyseren, zou de publieke opinie kunnen inschatten, tekenen van ontrouw kunnen opsporen en die vroegtijdig de kop kunnen indrukken voordat ze groter worden", schreef Amodei vorige maand in een essay.
Komaf maken met 'woke'
Hegseth deelt die mening niet. Eerder zei hij al dat hij komaf wil maken met alles wat 'woke' is in het Amerikaanse leger. Het Pentagon wil AI gebruiken om militaire operaties efficiënter te maken en houdt de optie van geavanceerde bewaking open, wat botst met de ethische grenzen die Anthropic stelt.
Beide partijen blijven in gesprek, maar de kloof tussen de eisen van het Pentagon en Anthropic’s ethische grenzen lijkt groot.
