Het Amerikaanse technologiebedrijf Anthropic heeft geweigerd om mee te werken aan de ontwikkeling van autonome wapens. Deze beslissing heeft geleid tot een conflict met het Pentagon, het Amerikaanse ministerie van Defensie. Het Pentagon beschouwt Anthropic nu als een potentieel veiligheidsrisico.
De weigering van Anthropic om samen te werken met het Pentagon komt voort uit ethische bezwaren tegen de ontwikkeling van wapens die zonder menselijke tussenkomst beslissingen kunnen nemen over het inzetten van geweld. Anthropic, dat zich bezighoudt met onderzoek naar en ontwikkeling van kunstmatige intelligentie, heeft publiekelijk uitgesproken dat het de risico's van autonome wapens te groot acht. Het bedrijf vreest dat dergelijke wapens onbedoelde gevolgen kunnen hebben en dat ze in verkeerde handen kunnen vallen.
Het Pentagon daarentegen ziet de ontwikkeling van autonome wapens als een noodzakelijke stap om de technologische voorsprong van de Verenigde Staten op het gebied van defensie te behouden. Het ministerie is van mening dat autonome wapens de efficiëntie van militaire operaties kunnen verhogen en het risico voor menselijke soldaten kunnen verminderen. Het Pentagon had gehoopt dat Anthropic, met zijn expertise op het gebied van AI, een belangrijke bijdrage zou kunnen leveren aan de ontwikkeling van deze wapens.
De exacte aard van de samenwerking die het Pentagon van Anthropic verlangde, is niet publiek bekendgemaakt. Evenmin is duidelijk welke concrete stappen het Pentagon zal ondernemen nu het Anthropic als een veiligheidsrisico beschouwt. Het conflict illustreert de groeiende spanning tussen de technologische sector en de militaire sector over de ethische implicaties van kunstmatige intelligentie en de ontwikkeling van nieuwe wapensystemen.
