Forbud mot superintelligens? 133 000 underskrifter og en global sikkerhetsrapport

Forbud mot superintelligens? 133 000 underskrifter og en global sikkerhetsrapport

I 2026 har kampen om kunstig intelligens' ytre grenser nådd et nytt nivå. Et opprop for et globalt forbud mot superintelligens har samlet over 133 000 underskrifter, inkludert AI-pionerene Geoffrey Hinton og Yoshua Bengio. Samtidig har over 30 land stilt seg bak den andre internasjonale AI-sikkerhetsrapporten — den største globale forskningsdugnaden om AI-risiko til dato.

Oppropet for et forbud

I oktober 2025 organiserte Future of Life Institute et opprop som krever et globalt forbud mot utvikling av superintelligens — AI-systemer som overgår menneskelig intelligens på et bredt spekter av oppgaver. Per 21. januar 2026 hadde oppropet over 133 000 underskrifter, og listen er bemerkelsesverdig bred.

Blant signatarene finner man «gudfedrene» til moderne AI, Yoshua Bengio og Geoffrey Hinton, samt ledende sikkerhetsforskere som Stuart Russell ved University of California, Berkeley. Men listen stopper ikke ved forskerne. Den inkluderer teknologigründere som Apple-medgrunnlegger Steve Wozniak og Virgin-grunnlegger Richard Branson, høytstående politiske og militære skikkelser fra begge sider av amerikansk politikk, og kulturpersonligheter som artisten will.i.am og historikeren Yuval Noah Harari.

Argumentet fra tilhengerne er at når AI-systemer først overgår menneskelig intelligens, kan tradisjonelle metoder for kontroll og verdijustering svikte. De hevder at selv begrenset eksperimentering med slike systemer kan føre til uopprettelige utfall, inkludert tap av menneskelig beslutningsmakt. At noen av de samme menneskene som bygde feltet nå advarer mot det, gir oppropet en spesiell tyngde.

Den internasjonale sikkerhetsrapporten

Parallelt med oppropet kom den andre internasjonale AI-sikkerhetsrapporten, publisert i februar 2026. Rapporten er en omfattende gjennomgang av den nyeste forskningen på kapabilitetene og risikoene ved generelle AI-systemer, ledet av Turing-prisvinner Yoshua Bengio og skrevet av over 100 AI-eksperter. Den er støttet av over 30 land og internasjonale organisasjoner, og beskrives som det største globale samarbeidet om AI-sikkerhet noensinne.

Forskjellen mellom rapporten og oppropet er viktig. Oppropet er en politisk og verdimessig oppfordring om å stanse en bestemt type utvikling. Rapporten er en faglig syntese som forsøker å samle hva forskningen faktisk vet om risiko, uten å foreskrive én bestemt løsning. Til sammen utgjør de to sporene — ett aktivistisk, ett vitenskapelig — den mest organiserte innsatsen så langt for å sette rammer rundt frontier-AI.

Motargumentene

Det finnes en betydelig motstand mot tanken om et forbud. Kritikere, blant annet fra tankesmien American Enterprise Institute, advarer om at de som støtter et forbud risikerer å fryse fast fremgang som kan gi store gevinster innen medisin, vitenskap og produktivitet. De argumenterer for at et forbud er både upraktisk å håndheve globalt og potensielt skadelig fordi det kan skyve utviklingen til land og aktører med svakere sikkerhetskultur.

Et kjernepunkt i debatten er at «superintelligens» i seg selv er vanskelig å definere presist. Uten en klar grense blir det uklart hva et forbud egentlig skulle ramme, og hvordan man skulle skille tillatt forskning fra forbudt. Motstanderne mener fokuset i stedet bør ligge på konkret, risikobasert regulering av faktiske skader — som desinformasjon, biosikkerhet og cybertrusler — fremfor et bredt forbud mot en ennå udefinert fremtidig teknologi.

Hva dette betyr for Norge og Europa

For norske beslutningstakere er denne debatten ikke bare akademisk. Norge er tett vevd inn i europeisk og internasjonalt AI-samarbeid, og rammene som settes globalt vil påvirke hvilke AI-systemer som kan utvikles og brukes her. EUs AI-lov representerer allerede en risikobasert tilnærming, og spørsmålet om hvordan man håndterer de aller kraftigste modellene står sentralt i den videre reguleringen.

Den brede underskriftslisten viser også at uenigheten ikke følger tradisjonelle politiske skillelinjer. Når både teknologipionerer, sikkerhetsforskere og folk fra ulike sider av det politiske spekteret stiller seg bak samme bekymring, signaliserer det at spørsmålet om AI-ens ytre grenser er i ferd med å bli en av de definerende debattene i tiåret. For Norge handler det om å delta i den internasjonale samtalen med en edruelig, kunnskapsbasert stemme.

«Per 21. januar 2026 hadde oppropet over 133 000 underskrifter, inkludert fremtredende skikkelser som Geoffrey Hinton og Yoshua Bengio, sikkerhetsforskere som Stuart Russell, og figurer fra næringsliv og politikk.» — House of Lords Library / Future of Life Institute

Ofte stilte spørsmål

Hva er superintelligens, og hvorfor vil noen forby det?

Superintelligens er AI-systemer som overgår menneskelig intelligens på et bredt spekter av oppgaver. Tilhengere av et forbud, deriblant AI-pionerene Hinton og Bengio, mener at slike systemer kan bli umulige å kontrollere, og at selv begrenset eksperimentering kan føre til uopprettelige utfall som tap av menneskelig beslutningsmakt.

Hvem står bak oppropet om å forby superintelligens?

Oppropet ble organisert av Future of Life Institute i oktober 2025 og hadde per januar 2026 over 133 000 underskrifter. Blant signatarene er AI-pionerene Geoffrey Hinton og Yoshua Bengio, sikkerhetsforsker Stuart Russell, Apple-medgrunnlegger Steve Wozniak, Richard Branson og historikeren Yuval Noah Harari.

Hva er den internasjonale AI-sikkerhetsrapporten?

Det er en faglig gjennomgang av forskningen på AI-kapabiliteter og -risiko, publisert i andre utgave i februar 2026. Den ledes av Turing-prisvinner Yoshua Bengio, er skrevet av over 100 eksperter og støttes av mer enn 30 land. Den beskrives som det største globale samarbeidet om AI-sikkerhet til dato.

``json { "@context": "https://schema.org", "@type": "FAQPage", "mainEntity": [ { "@type": "Question", "name": "Hva er superintelligens, og hvorfor vil noen forby det?", "acceptedAnswer": { "@type": "Answer", "text": "Superintelligens er AI-systemer som overgår menneskelig intelligens på et bredt spekter av oppgaver. Tilhengere av et forbud, deriblant AI-pionerene Hinton og Bengio, mener at slike systemer kan bli umulige å kontrollere, og at selv begrenset eksperimentering kan føre til uopprettelige utfall som tap av menneskelig beslutningsmakt." } }, { "@type": "Question", "name": "Hvem står bak oppropet om å forby superintelligens?", "acceptedAnswer": { "@type": "Answer", "text": "Oppropet ble organisert av Future of Life Institute i oktober 2025 og hadde per januar 2026 over 133 000 underskrifter. Blant signatarene er AI-pionerene Geoffrey Hinton og Yoshua Bengio, sikkerhetsforsker Stuart Russell, Apple-medgrunnlegger Steve Wozniak, Richard Branson og historikeren Yuval Noah Harari." } }, { "@type": "Question", "name": "Hva er den internasjonale AI-sikkerhetsrapporten?", "acceptedAnswer": { "@type": "Answer", "text": "Det er en faglig gjennomgang av forskningen på AI-kapabiliteter og -risiko, publisert i andre utgave i februar 2026. Den ledes av Turing-prisvinner Yoshua Bengio, er skrevet av over 100 eksperter og støttes av mer enn 30 land. Den beskrives som det største globale samarbeidet om AI-sikkerhet til dato." } } ] } ``