Skal beskytte mot KI-agenter som løper løpsk

Verktøyene skal kunne brukes på ulike typer Nvidia-brikker og i sanntid styre hva KI-agenter – autonome roboter skapt av KI-modeller – har tilgang til. De skal også stenge ned agenter som bryter regelverket.

Ifølge Nvidias visepresident Justin Boitano ville man blant annet ha kunnet avverge det mye omtalte innbruddet på Hugging Face – utført av KI-agenter basert på OpenAIs modeller – med de nye verktøyene.

KI-agenter som har sporet av og gått til angrep, har rystet KI-bransjen og ført til krav om å bremse den teknologiske utviklingen.

– Vi tror at dette ekstra sikkerhetslaget vil gjøre det mulig for bransjen å selv teste de mest avanserte KI-systemene på en trygg måte, sier Boitano.

(©NTB)