Anthropic henter gigantbeløp – varsler AI-risiko

Anthropic, en fremtredende AI-startup og OpenAI-rival, er i ferd med å sikre seg rundt 20 milliarder dollar fra venturekapitalister og andre investorer, noe som er dobbelt så mye som opprinnelig planlagt. Dette reflekterer en økende investorinteresse for selskapet, som nå verdsettes til 350 milliarder dollar. Investorer som GIC og Coatue leder an i denne finansieringsrunden, mens Sequoia Capital også gjør en betydelig investering, skriver Financial Times.

Anthropic har også fått støtte fra teknologigiganter som Microsoft og Nvidia, som har forpliktet seg til å investere opptil 15 milliarder dollar. Selskapet forbereder seg samtidig på en mulig børsnotering senere i år. Administrerende direktør Dario Amodei, som tidligere jobbet i OpenAI, har uttrykt bekymring for de potensielle risikoene ved kraftige AI-systemer, og understreker behovet for bedre sikkerhetsforanstaltninger.

I et essay på 20 000 ord publisert på mandag, argumenterte Amodei for at menneskeheten «må våkne opp» til de potensielt katastrofale risikoene som kraftige AI-systemer medfører.

«Menneskeheten er i ferd med å bli gitt nesten ufattelig makt, og det er dypt uklart om våre sosiale, politiske og teknologiske systemer har modenheten til å utøve den», skrev han.