Anthropic-sjefen kjemper for å blidgjøre Pentagon

Dario Amodei, administrerende direktør i Anthropic, forsøker å redde forholdet til det amerikanske forsvarsdepartementet etter at forhandlingene om en ny AI-avtale kollapset forrige uke.

Ifølge Financial Times fører Amodei nå samtaler med Emil Michael, undersekretær for forskning og ingeniørvitenskap i Pentagon, i et forsøk på å få på plass et kompromiss om militærets bruk av Anthropics AI-modeller.

En ny avtale vil gjøre det mulig for det amerikanske militæret å fortsette å bruke Anthropics teknologi og samtidig redusere risikoen for at selskapet blir stemplet som en sikkerhetsrisiko i forsyningskjeden. Forsvarsminister Pete Hegseth truet fredag med å gi Anthropic en slik status – noe som i praksis vil tvinge selskaper i forsvarsindustrien til å kutte samarbeidet.

Brå kollaps i forhandlingene

Forhandlingene brøt sammen etter en dramatisk konflikt mellom Amodei og Pentagon.

Emil Michael skal ifølge FT ha kalt Anthropic-sjefen en «løgner» med et «Gud-kompleks» under samtalene. Kort tid etter kollapset forhandlingene da partene ikke klarte å bli enige om kontraktsspråk rundt bruk av AI i overvåkning.

Anthropic krevde eksplisitte begrensninger som skulle hindre at selskapets modeller brukes til masseovervåkning av amerikanske borgere eller til autonome våpensystemer uten menneskelig kontroll.

Den konkrete striden dreide seg blant annet om en formulering i kontrakten om «analysis of bulk acquired data». Ifølge Amodei ønsket Pentagon å fjerne akkurat denne setningen – noe han mente åpnet for nettopp den typen masseinnsamling av data selskapet ønsket å forhindre.

OpenAI tok plassen

Kort tid etter at forhandlingene brøt sammen, signerte Pentagon i stedet en avtale med OpenAI om bruk av selskapets modeller i klassifiserte militære operasjoner.

OpenAI-sjef Sam Altman innrømmet senere at avtalen ble inngått svært raskt, og beskrev prosessen som noe som kunne fremstå «opportunistisk og slurvete». Selskapet arbeider nå med å legge inn tydeligere begrensninger i kontrakten, blant annet et forbud mot bevisst overvåkning eller sporing av amerikanske borgere.

Tidlig partner for Pentagon

Anthropic var tidligere en sentral partner for det amerikanske forsvaret. Selskapet fikk i juli i fjor en avtale verdt rundt 200 millioner dollar og ble den første leverandøren av AI-modeller brukt i klassifiserte militære systemer og av nasjonale sikkerhetsmyndigheter.

Konflikten oppstod da Pentagon krevde at teknologien skulle være tilgjengelig for alle «lovlige» formål – noe Anthropic mente var for vagt gitt at amerikansk lov fortsatt tillater omfattende bruk av overvåkningsteknologi.

AI-sikkerhet og politisk friksjon

Anthropic har siden oppstarten profilert seg som et selskap med sterk vekt på AI-sikkerhet. Selskapet ble grunnlagt av tidligere OpenAI-forskere og har tette bånd til miljøer rundt Effective Altruism-bevegelsen, som er opptatt av eksistensiell risiko fra avansert kunstig intelligens.

Denne posisjonen har imidlertid også gjort selskapet kontroversielt i Washington.

Trump-administrasjonen har økt presset på teknologiselskaper som forsøker å begrense militær bruk av AI. Presidentens AI-rådgiver David Sacks har blant annet kritisert Anthropic for det han omtaler som «woke AI», og hevder selskapets sikkerhetsbegrensninger kan svekke USAs teknologiske konkurranseevne mot rivaler som Kina.

Utfallet av forhandlingene kan derfor få større betydning enn én enkelt kontrakt. Striden illustrerer den voksende konflikten mellom Silicon Valleys sikkerhetsfilosofi og Pentagon sitt ønske om maksimal operasjonell fleksibilitet i bruk av kunstig intelligens.