Kong Charles ba KI-ledere ta grep for å unngå katastrofe

Kongen frykter at KI kan komme til å utgjøre en «eksistensiell trussel» og ber selskapene gjøre noe med sikkerheten før det er for sent.

– Det ser ut til å være et visst hastverk med å ta tilstrekkelig hensyn til de eksistensielle farene ved at slike teknologier havner i feil hender og brukes på potensielt katastrofale måter, sa han da han torsdag møtte ledere fra en rekke KI-selskaper på sitt gods Dumfries House i Cumnock i Skottland.

– Vi trenger vel tilstrekkelige kontrollmekanismer før det er for sent, spurte kongen, som samtidig framholdt at KI gir mulighet til å bedre menneskers liv.

Skrekkscenario

De siste ukene har diskusjonen igjen gått høyt om hvorvidt utviklingen av KI går så raskt at bransjen ikke greier å følge opp med nødvendige sikkerhetstiltak. Den startet med at to utviklere i selskapet Anthropic advarte om at teknologien utvikler seg så raskt at det kan føre til at menneskeheten utslettes innen få år.

Men det har også vært kritiske stemmer som mener at KI-selskapene kan ha gode grunner til å komme med slike advarsler nå, og at det underliggende motivet er å ivareta selskapenes egne interesser.

Det kan for eksempel være et ønske om å få på plass nye regler som sikrer enkelte selskaper et forsprang. Eller det kan handle om at selskapene selv ønsker å bremse de enorme investeringene i den nye teknologien.

Frykt for å tape

Den raske utviklingen knyttes blant annet til det globale KI-kappløpet, der land som USA og Kina frykter at de vil tape enormt på å havne bakut.

Blant dem som hadde tatt turen til Skottland, var Nvidias toppsjef Jensen Huang, Google DeepMinds styreleder Demis Hassabis, OpenAIs finansdirektør Sarah Friar og Storbritannias KI-minister Kanishka Narayan.

Også pavens rådgiver Paolo Benanti, som har tatt til orde for en mer langsom KI-utvikling, var til stede.

(©NTB)