NeMo Guardrails
NeMo Guardrails er et Python-bibliotek for å styre hva en språkmodell eller AI-agent kan motta, svare på og gjøre. Utviklere beskriver regler i Colang og Python for temaer, input, output, jailbreak, personopplysninger og verktøykall, og kobler dem til valgt modell og applikasjon. Biblioteket er åpen kildekode og gratis, mens NVIDIA tilbyr separate produksjonskomponenter der pris må avklares.
NeMo Guardrails er et åpen kildekode-bibliotek fra NVIDIA for programmerbare regler rundt språkmodeller og AI-agenter. Biblioteket er gratis; produksjons- og mikrotjenestetilbud kan ha en separat, ikke offentlig oppgitt pris.
NVIDIA lanserte NeMo Guardrails som et åpen kildekode-verktøy i april 2023. Biblioteket har siden fått flere sikkerhets- og agentfunksjoner, og NVIDIA koblet det til NeMo-mikrotjenester og produksjonsdistribusjon i april 2025. Dokumentasjonen og GitHub-prosjektet har aktive utgivelser i 2026, så dette er ikke et utfaset forskningsprosjekt.
NeMo Guardrails legger et programmerbart mellomlag rundt en modell eller agent. Du skriver regler og flyter i Colang og Python som kan styre tillatte temaer, validere brukerinput og modelloutput, maskere personopplysninger, oppdage jailbreak-forsøk og begrense verktøykall. Egne actions og integrasjoner gjør det mulig å koble kontrollene til applikasjonens eksisterende funksjoner. NVIDIA dokumenterer også ulike PII-detektorer, agentisk sikkerhet og en egen produksjonsorientert runtime.
Det som skiller biblioteket fra en ferdig skyfiltertjeneste, er kontrollen utvikleren får over reglene. Det passer godt når produktet har spesifikke domener, handlinger eller krav som ikke kan uttrykkes med en standard blokklisten. Samtidig må teamet selv skrive, teste og vedlikeholde reglene, velge modell og sikre verktøykallene. Guardrails er derfor et rammeverk, ikke en ferdig garanti mot hallusinasjoner eller misbruk.
Dataflyten bestemmes i stor grad av arkitekturen. Ifølge NVIDIAs telemetridokumentasjon sendes ikke prompter, modellresponser eller API-nøkler i den anonyme standardtelemetrien, men den konfigurerte LLM-leverandøren mottar innholdet etter sine egne vilkår. Opt-in-sporing kan lagre mer i din egen backend. Det finnes ingen dokumentert norsk språkpakke eller norsk kvalitetsgaranti; språkstøtten kommer fra modellen og reglene du skriver. Les NeMo-dokumentasjonen, guiden vår om AI for sårbarhetsskanning, guiden om beste AI-sikkerhet, guiden om AI-personvern for bedrifter og kategorien sikkerhet og personvern.
Nøkkelfunksjoner
- Programmerbare input- og output-rails
- Colang-flyter for samtaleregler
- Python-actions og egne integrasjoner
- Kontroll av temaer og off-topic-samtaler
- Jailbreak- og prompt-sikkerhet
- PII-deteksjon og maskering
- Regler for agenters verktøykall
- Produksjonsruntime og observability-muligheter
Hvem passer det for
NeMo Guardrails passer for utviklerteam som vil ha detaljert kontroll over en agent, modellflyt og tillatte handlinger, og som kan vedlikeholde kode og testsett. Det er mindre egnet for virksomheter som ønsker en ferdig modereringstjeneste uten egen utvikling.
Prising
- Åpen kildekode: Gratis — Python-biblioteket og kildekoden er tilgjengelig for lokal bruk og egen distribusjon.
- Produksjonskomponenter: Pris varierer — NVIDIA tilbyr separate produksjons- og mikrotjenestekomponenter, men ingen offentlig fast pris er dokumentert på produktsidene.
Gratisnivå: NeMo Guardrails-biblioteket er gratis og åpen kildekode. Eventuelle produksjonsmikrotjenester, NVIDIA-plattformkomponenter, modellkall og drift kommer separat og har ikke en offentlig fast pris i dokumentasjonen som er gjennomgått. Prisene er hentet fra kilde 1, kilde 2 i oktober 2026 og endrer seg ofte — sjekk alltid hos leverandøren før du kjøper.
Norsk språkstøtte
NeMo Guardrails har ikke et dokumentert norsk grensesnitt eller en egen norsk språkpakke. Norske samtaler kan behandles dersom den valgte språkmodellen støtter norsk, men språkdekning og sikkerhetskvalitet avhenger av modell, Colang-regler og egne tester. Standardtelemetri sender ifølge NVIDIA ikke prompter eller svar.
Fordeler
- Gratis åpen kildekode med stor kontroll
- Colang og Python kan uttrykke egne policyflyter
- Støtter PII, jailbreak og agentiske regler
- Kan kobles til flere modeller og integrasjoner
Ulemper
- Regler og testdekning må bygges og vedlikeholdes selv
- Krever en separat språkmodell eller modelltilbyder
- Produksjons- og mikrotjenestepris er ikke offentlig
- Norsk språkstøtte og kvalitet er ikke dokumentert
Bunnlinje
NeMo Guardrails er et godt byggesett for team som vil kode inn egne grenser for AI-agenter og verktøykall. Fleksibiliteten koster i form av utviklings- og vedlikeholdsarbeid, og de som trenger en ferdig driftstjeneste må avklare både produktvariant, dataflyt og pris med NVIDIA.
Kilder
Ofte stilte spørsmål om NeMo Guardrails
Hva er NeMo Guardrails?
NeMo Guardrails er et åpen kildekode-bibliotek fra NVIDIA som lar utviklere programmere regler rundt språkmodeller og AI-agenter. Reglene kan styre temaer, input, output, personopplysninger, jailbreak-forsøk og verktøykall ved hjelp av Colang og Python.
Er NeMo Guardrails gratis?
Ja, selve biblioteket er gratis og åpen kildekode. NVIDIA har også produksjons- og mikrotjenestekomponenter rundt NeMo-plattformen, men pris og tilgjengelighet er ikke oppgitt som en fast offentlig sats. Modellbruk og drift kommer uansett separat.
Kan NeMo Guardrails brukes på norsk?
Det finnes ingen dokumentert norsk språkpakke eller garanti for norsk kvalitet. Du kan bruke norske samtaler dersom den valgte språkmodellen håndterer norsk, men du må skrive og teste reglene selv. Colang-reglene og sikkerhetsflytene bør valideres på realistiske norske eksempler.
Sender NeMo Guardrails prompter til NVIDIA?
NVIDIA oppgir at standard anonym telemetri ikke inneholder prompter, modellresponser, API-nøkler eller bruker-ID-er. Innholdet sendes likevel til den LLM-leverandøren du konfigurerer, og valgfri tracing kan lagre detaljer i din egen backend. Kontroller derfor hele arkitekturen.
Beskytter NeMo Guardrails mot alle AI-angrep?
Nei. Biblioteket gir regler og byggeklosser for å redusere risiko, men sikkerheten avhenger av modell, policyer, verktøykall og testdekning. Uavhengige tester har også vist at guardrail-oppsett kan omgås eller lures, så bruk red teaming og minstetilgang i tillegg.