Zuckerberg går til AI-angrep: – Superintelligens må være for alle

Mark Zuckerberg tar et kraftig oppgjør med ideen om at kunstig superintelligens må holdes under streng kontroll av et lite antall selskaper, myndigheter og teknologieksperter.

I en kronikk i The Wall Street Journal skriver Meta-sjefen at det avgjørende spørsmålet ikke er om superintelligens kommer, men hvem som får tilgang til den.

Zuckerberg ser for seg at mennesker allerede i løpet av de neste årene vil kunne bruke intelligens langt utover menneskelig kapasitet til å utvikle medisiner, starte selskaper, lære nye ferdigheter og løse personlige og profesjonelle problemer.

Alternativet – at teknologien sentraliseres hos noen få institusjoner – beskriver han som farligere enn en bred distribusjon.

Refser dommedagsprofetene

Zuckerberg retter samtidig et stikk mot AI-lederne som bygger stadig kraftigere modeller, men samtidig advarer om at teknologien kan utslette jobber eller gjøre mennesker overflødige.

Han stiller spørsmål ved hvorfor noen som virkelig tror på et slikt utfall, samtidig arbeider så raskt som mulig for å realisere det.

Tanken om at risikoen kan håndteres ved å gi noen få aktører nærmest absolutt kontroll, avviser han som historieløs. Ifølge Zuckerberg har sentralisert makt sjelden vært noen garanti for at samfunnets interesser blir ivaretatt.

I stedet vil han gi alle tilgang til det han omtaler som «personlig superintelligens».

Som eksempel viser han til rettssystemet: Dersom bare én person hadde tilgang til en superintelligent advokat, ville vedkommende fått en urimelig fordel. Dersom alle hadde det, kunne teknologien i stedet bidra til et mer effektivt og rettferdig system.

Vil bruke AI til oppfinnelser – ikke bare kutt

Zuckerberg mener superintelligensens viktigste bidrag ikke blir automatisering, men oppfinnelser og ny kunnskap.

Han advarer likevel om at den økonomiske effekten avhenger av hvordan teknologien brukes. Dersom selskaper primært benytter AI til å automatisere bort arbeidskraft, kan konsekvensene for jobbmarkedet bli negative.

Blir teknologien derimot bredt tilgjengelig, tror han AI vil gjøre det langt billigere å etablere selskaper og redusere behovet for ekstern kapital. Resultatet kan ifølge Zuckerberg bli flere gründere, flere småbedrifter og flere arbeidsplasser – ikke færre.

Trekker grensen ved biologisk risiko

Meta-sjefen argumenterer ikke for full åpenhet uten begrensninger. Innen cybersikkerhet mener han erfaringene fra åpen kildekode viser at bred tilgang over tid kan gjøre systemene sikrere.

For biologiske trusler og enkelte andre alvorlige risikoer åpner han derimot for tettere koordinering mellom myndigheter, selskaper og institusjoner.

Kronikken fungerer samtidig som et ideologisk forsvar for Metas egen AI-retning. Zuckerberg avslutter med at selskapet vil utvikle superintelligens basert på individuell myndiggjøring, oppfinnelser og maktbalanse – fremfor å overlate kontrollen til en liten teknologisk elite.