Anthropic vil senke AI-tempoet lover eksternt innsyn

Et kontrolløfte bak de store advarslene

Anthropic-sjef Dario Amodei ba lørdag 12. september 2026 bransjen senke tempoet i utviklingen av kraftigere AI. Utspillet ble omtalt samme dag av Associated Press. For kunder er det mest konkrete punktet et løfte om at utenforstående skal få følge sikkerhetsarbeidet innenfra.

I Amodeis egen tekst forplikter Anthropic seg til å gi et eksternt evalueringsteam løpende tilgang som ligner den interne risikoteam har. Selskapet har til hensikt å invitere teamet inn. Kunngjøringen dokumenterer dermed et løfte om en ordning, ikke at kontrollørene allerede er på plass.

Innsyn som kan gi kundene bedre svar

Evaluatorene skal kunne undersøke praksis og rapportere sentrale funn uten Anthropics redaksjonelle kontroll. Amodei beskriver samtidig avgrensninger for blant annet sikkerhetsfølsom og konfidensiell informasjon. Funn skal ikke kunne fjernes bare fordi de er ugunstige for selskapet, heter det i forslaget.

For en kunde som vurderer Claude, er det nettopp slike praktiske detaljer som bør telle. Hvem får undersøke systemet? Hva får de se? Kan de fortelle offentlig at de mangler tilgang? Et kontrolløfte blir mer nyttig når disse spørsmålene kan besvares med dokumentasjon.

Det neste å følge blir derfor hvem som får oppdraget, hvilket mandat de får, og hvilke funn som publiseres. Et særlig nyttig kontrollspørsmål er om kundene får vite hva som faktisk ble forbedret etter en ekstern vurdering. Bedrifter bør etterspørre dette før de bruker ordningen som argument for å gi en agent større handlefrihet.

En bredere avtale er fortsatt på forslagsstadiet

Amodeis plan har også to andre deler: samordning mellom selskaper i demokratiske land og forsøk på samarbeid mellom regjeringer globalt. Han presiserer at lavere tempo ikke betyr stans i modelltrening. Det skal gi mer tid til sikring og kontroll, ifølge teksten hans.

Axios rapporterte 12. september at utspillet raskt fikk støtte fra Elon Musk, samtidig som kritikere stilte spørsmål ved kommersielle motiver. Slik støtte er et politisk signal. Den dokumenterer ikke i seg selv felles grenser, kontrollmekanismer eller sanksjoner.

Amodei advarer også om at agentsvermer kan få svært farlige evner innen seks til tolv måneder. AP gjengir dette som hans advarsel. Tidsanslaget må leses som en risikovurdering fra en aktør i bransjen, ikke som en fastslått prognose.

Europa har allerede egne krav

Den europeiske bakgrunnen er vesentlig. AI Act-pliktene for tilbydere av generelle AI-modeller begynte å gjelde 2. august 2025, med særregler for eldre modeller. Tilbydere av modeller med systemrisiko har tilleggskrav om evaluering, risikoreduksjon, hendelsesrapportering og cybersikkerhet, forklarer EU-kommisjonen.

Dette er bakgrunnsregler, ikke nye vedtak fra helgen. Kommisjonens gjennomgang beskriver plikter for modelltilbydere. Anthropics løfte handler om en bestemt form for eksternt innsyn. De to bør ikke behandles som samme ordning eller som en generell godkjenning av alt en kunde vil bruke modellen til.

Hva bør norske kunder følge med på?

For norske brukere og bedrifter er en nøktern oppfølging å be om konkrete resultater fra kontrollarbeidet når de foreligger. Ved vurdering av AI-agenter bør virksomheten samtidig bestemme hvilke handlinger som krever menneskelig godkjenning, og hvordan uønsket aktivitet skal oppdages. Et varslet innsynsløfte er verdt å følge, men bør ikke alene utløse større fullmakter til verktøyet.

Ofte stilte spørsmål

Har Anthropic stanset utviklingen av AI? Utspillet varsler ikke full stans. Lavere tempo skal gi tid til sikkerhetsarbeid, slik The Next Web forklarer.

Er den eksterne kontrollordningen allerede i drift? Teksten sier at Anthropic vil invitere et eksternt team inn. Den dokumenterer ikke at teamet allerede er på plass. Se Amodeis kunngjøring.