Microsoft-sjefen krever nødbrems for AI-agenter slik virker det

En advarsel fra toppen av Microsoft

Microsoft-sjef Satya Nadella publiserte 10. oktober 2026 et innlegg med tittelen «Models as Insider Risks in the Super Intelligence Era». Hovedpoenget er at virksomheter ikke bør overlate ansvaret for sensitive handlinger til modellen som foreslår dem. Nadellas originale innlegg på X beskriver et system der modellens intelligens og virksomhetens myndighet holdes fra hverandre.

Det er verdt å skille mellom en politisk uttalelse og en produktlansering: Nadella annonserte ikke en ny Microsoft-tjeneste, en standard eller en tidsplan. Han la frem et sikkerhetsprinsipp for selskaper som kobler AI-agenter til e-post, dokumenter, kundedata og andre systemer. TechCrunchs omtale av innlegget beskriver samme skille.

Modellen skal ikke sitte med nøklene

Nadellas mest konkrete forslag er å legge kontrollene utenfor selve modellen. Det betyr at programmet som gir agenten oppgaver, verktøy og tilgang, også må bestemme hva agenten får gjøre. En modell kan foreslå å sende en e-post eller endre en fil, men beslutningen om å utføre handlingen bør håndheves av et separat lag som modellen ikke kan skrive om på egen hånd.

Han sammenligner dette med hvordan virksomheter håndterer mektige innsidere: identitet, begrensede rettigheter, aktivitetslogger og grenser for hvilke systemer personen kan nå. Overført til AI betyr det at leverandørens løfte om at modellen er trygg, ikke er nok. Bedriften må selv vite hvilken konto agenten bruker, hvilke data den ser og hvilke handlinger den kan utføre. Dette er kjernen i Nadellas innlegg.

Sju prinsipper for agentkontroll

Innlegget samler tankene i sju hovedprinsipper:

• Modellmangfold: Ikke la én modell være eneste grunnlag for en viktig avgjørelse eller eneste kontrollør av sitt eget arbeid.
• Observer alt: Meningsfulle handlinger bør etterlate manipulasjonssikre og menneskeleselige spor.
• Etterprøvbarhet: Test hele systemet, også ved feil, angrep og uvanlige situasjoner.
• Uavhengige kontroller og revisjon: Tilgang og kvalitetssjekk bør håndheves av noe annet enn modellen som blir vurdert.
• Inneslutning: Systemet må kunne stanse eller begrense modellen når noe går galt.
• Hendelsesdeling: Alvorlige feil bør rapporteres og brukes til å forbedre bransjen.

Nadella omtaler også kjedebevissthet som et nødvendig, men utilstrekkelig utgangspunkt: Det modellen skriver som forklaring, er ikke nødvendigvis en fullstendig eller pålitelig logg over det systemet faktisk gjorde.

«Nødbrems» er et arkitekturkrav

Bildet Nadella bruker, er en nødbrems som en autorisert person kan trekke i midt i en oppgave. Det er mer konkret enn en generell oppfordring til menneskelig tilsyn. En virksomhet må ha en mekanisme som avslutter verktøykall, tilbakekaller tilgang og stopper videre steg – også når agenten er midt i en lang arbeidsflyt. TechCrunch gjengir Nadellas forslag om å kunne pause eller slå av en modell underveis.

Utfordringen er at dette ikke kan løses med en knapp i chattevinduet alene. Knappen må være koblet til identitet, tillatelser, køer, nettverk og verktøy. Hvis agenten kan sende en e-post direkte, opprette en ny nøkkel eller starte en ny prosess utenfor kontrollaget, er nødbremsen bare kosmetikk. Dette er en vurdering av hva forslaget krever i praksis, ikke en ny Microsoft-funksjon.

Hva betyr det for norske brukere og bedrifter?

For norske virksomheter som tester AI-agenter, er budskapet enkelt: Start med tilgangene, ikke med personlighet eller prompt. Lag en oversikt over hvilke systemer agenten kan nå, krev godkjenning for irreversible handlinger, og sørg for at loggene kan leses av mennesker uten å stole på modellens egen forklaring. Sikkerhet og personvern må bygges inn rundt agenten før den får arbeide med kundedata, økonomi eller interne dokumenter.

Nadellas innlegg endrer ikke norsk lov og gir ingen ferdig oppskrift. Men for ledere som vurderer å rulle ut Copilot, kodeagenter eller egne arbeidsflyter, flytter det samtalen fra «hvor smart er modellen?» til «hvem kan stoppe den, og hvordan vet vi hva den gjorde?». Det er en langt mer nyttig test før en agent får reell myndighet.

Ofte stilte spørsmål

Hva mener Nadella med en nødbrems for AI? Han mener at en autorisert person alltid bør kunne pause eller stanse en AI-modell midt i en oppgave, gjennom kontroller som ligger utenfor modellen. Se Nadellas originale innlegg.

Lanserte Microsoft en ny sikkerhetsfunksjon? Nei. Innlegget fra 10. oktober 2026 er et forslag og en arkitekturdiskusjon, ikke en kunngjøring av et konkret Microsoft-produkt eller en tidsplan. TechCrunch omtaler innlegget her.

Hvorfor er dette relevant for norske bedrifter? Fordi AI-agenter kobles til e-post, dokumenter, kode og andre interne systemer. Nadellas forslag gir et konkret kontrollspørsmål: Kan virksomheten logge, begrense og stoppe agenten uten å be modellen om lov?