Anthropic advarer om «eksistensiell risiko» før børsnotering

Nyhetsbyrået Reuters skriver at det har fått tilgang til prospektet som skal offentliggjøres i forbindelse med Anthropics børsnotering.

Her skriver selskapet om enorme investeringer som må til for å nå målet om stadig mer avansert KI.

Men Anthropic kommer også med oppsiktsvekkende advarsler om hva KI i verste fall kan føre til.

– Vår utvikling av svært avanserte modeller, plattformer og applikasjoner, og utvidelsen av bruksmønstrene, kan ytterligere øke risikoen for at modellene våre gjør skade, står det i prospektet.

FNs sikkerhetsråd

Anthropic gjentar sin advarsel om at avansert KI kan lede til «katastrofale eller eksistensielle risikoer for menneskeheten».

Formuleringen ligner på advarselen til Anthropic-sjef Dario Amodei i FNs sikkerhetsråd i forrige uke.

– Om vi ikke forvalter det godt nok, tror jeg at KI kan utgjøre en trussel mot menneskeheten som helhet, sa han da.

Reuters' beskrivelse av prospektet bekreftes av avisa Financial Times, som har snakket med flere personer som har sett det. Anthropic har så langt ikke ønsket å kommentere Reuters' opplysninger.

2000 milliarder dollar?

Tidligere har flere medier skrevet at Anthropics børsnotering kan bli historiens største. Verdsettelsen kan bli på mer enn 2000 milliarder dollar – mer enn SpaceX som ble børsnotert i juni og satte ny rekord da.

Anthropic ble grunnlagt for bare fem år siden, men har vokst til å bli et av verdens viktigste KI-selskaper. I fjor ble omsetningen tolvdoblet, ifølge Reuters.

Imidlertid går selskapet fortsatt med tap, og i 2025 ble nettotapet på 42 milliarder dollar.

Flere utfordringer

I prospektet omtaler Anthropic flere mulige problemer med selskapets avanserte KI-modeller. Blant disse er følgende:

• Modellene kan utvikle atferd med mål om overlevelse eller forlengelse av egen eksistens.

• De kan komme til å motsette seg forsøk på å skru dem av.

• De kan skjule eller manipulere informasjon og utvikle atferd som ligner på utpressing.

Enkelte kritikere av KI-selskapene har tidligere beskyldt dem for å bruke dramatiske advarsler som en uvanlig form for markedsføring. Også tidligere ansatte i selskapene og flere av verdens fremste KI-forskere har imidlertid advart om at KI kan utgjøre en trussel mot menneskeheten.

(©NTB)