Investornytt

Abonnér
Logg inn

Investornytt

Min side

Abonnement

Logg inn

Logg ut

AI-kappløpet

KI-gigant ber om KI-pause

KI-selskapet Anthropic ber om en pause i utviklingen av de kraftigste KI-modellene, idet det er tegn til at de begynner å bli smartere uten menneskers hjelp.

Anthropic advarer om at menneskeheten er i ferd med å miste kontrollen over de mest avanserte KI-modellene.
NTB NTB
Publisert

Selskapet står bak Claude-modellene. I en ny rapport skriver Anthropic at det «antakelig hadde vært en god ting» om verdens KI-selskaper bremset opp utviklingen av de mest avanserte KI-variantene. Samtidig advarer de om at det ikke kun kan være ett selskap som tar initiativet – det ville kun ført til at rivalene benyttet muligheten til å rykke fra.

– Vi mener det hadde vært bra for verden å ha muligheten til å bremse eller midlertidig stanse banebrytende KI-utvikling, for å sørge for at samfunnets strukturer og tilpasningsforskning (alignment research) kan holde tritt med teknologiens framskritt, skriver Anthropic.

Selskapet står bak Claude-modellene. I en ny rapport skriver Anthropic at det «antakelig hadde vært en god ting» om verdens KI-selskaper bremset opp utviklingen av de mest avanserte KI-variantene. Samtidig advarer de om at det ikke kun kan være ett selskap som tar initiativet – det ville kun ført til at rivalene benyttet muligheten til å rykke fra.

– Vi mener det hadde vært bra for verden å ha muligheten til å bremse eller midlertidig stanse banebrytende KI-utvikling, for å sørge for at samfunnets strukturer og tilpasningsforskning (alignment research) kan holde tritt med teknologiens framskritt, skriver Anthropic.

En slik pause vil kreve at KI-gigantene i en rekke ulike land – særlig USA og Kina – må bli enige om å stanse utvikling samtidig, med regler som faktisk kan prøves, påpeker de.

(©NTB)
utenriks ai anthropic claude kunstig intelligens ntb nyheter teknologi
Bjeffet frem av Labrador