Azure AI Content Safety
Azure AI Content Safety er en Azure-tjeneste for å oppdage og klassifisere skadelig tekst og bilder. Den kan gi alvorlighetsgrader for blant annet hat, seksualisert innhold, vold og selvskading, og har funksjoner for prompt shields, beskyttet materiale og groundedness i nyere Foundry-oppsett. En gratis kvote er tilgjengelig, mens betalt bruk prises per tekstpost og bilde.
Azure AI Content Safety analyserer tekst og bilder fra brukere eller AI-modeller for skadelig innhold og enkelte sikkerhetsrisikoer. Gratisnivået dekker 5 000 tekstposter og 5 000 bilder per måned; betalt standardpris varierer med Azure-oppsettet.
Microsoft åpnet Azure AI Content Safety for offentlig forhåndsvisning i mai 2023 og kunngjorde generell tilgjengelighet i oktober 2023. Tjenesten er fortsatt en del av Azure AI-tjenestene og omtales i 2026 som Content Safety i Foundry Control Plane. Den retter seg mot virksomheter som vil legge inn moderering i apper, chatboter og AI-pipelines.
API-et analyserer tekst og bilder og returnerer alvorlighetsnivåer for kategorier som hat, fornærmelser, seksualisert innhold, vold og selvskading. Utviklere kan bruke blocklists og terskler for å tilpasse hva som stoppes. I nyere Foundry-dokumentasjon finnes også prompt shields mot indirekte eller direkte prompt injection, beskyttet materiale og groundedness-kontroller. Kryptering i ro og støtte for kundestyrte nøkler via Key Vault er dokumentert for data som lagres.
Content Safety er først og fremst moderering og policykontroll, ikke en komplett sikkerhetstest av en agent. Den kan fortelle at innhold ser skadelig ut, men vurderer ikke nødvendigvis om en flertrinnsagent kan misbruke verktøy, lekkе en hemmelighet eller omgå en forretningsregel. Azure-region, lagring, logging og koblinger til andre tjenester må settes opp med egne personvernkrav i tankene.
Gratis Web-nivået inkluderer ifølge Azures prisside 5 000 tekstposter og 5 000 bilder per måned. Microsoft viser ikke en fast, dokumenterbar standardpris for den betalte webkvoten på siden, så kostnaden må slås opp for riktig region og avtale. Norsk står i den brede språklisten, men ikke blant språkene som er spesifikt oppgitt som trent og testet for alle modeller. Les dokumentasjonen om Content Safety, guiden vår om AI for sårbarhetsskanning, guiden om beste AI-sikkerhet, guiden om AI-personvern for bedrifter og kategorien sikkerhet og personvern.
Nøkkelfunksjoner
- Moderering av tekst og bilder
- Alvorlighetsgrader for flere skadelige innholdskategorier
- Blocklists og tilpassede terskler
- Prompt shields mot prompt injection
- Kontroll av beskyttet materiale
- Groundedness-kontroll i aktuelle Foundry-funksjoner
- Azure-integrasjoner, kryptering og Key Vault-nøkler
- Gratis kvote og API-basert bruk
Hvem passer det for
Azure AI Content Safety passer for produkt- og plattformteam som trenger moderering i en chat, søketjeneste eller generativ AI-applikasjon og allerede bruker Azure. Det er et godt filterlag, men team som tester agentlogikk og datalekkasje trenger flere sikkerhetsverktøy.
Prising
- Free Web: Gratis — 5 000 tekstposter og 5 000 bilder per måned, med begrenset volum sammenlignet med Standard.
- Standard Web: Pris varierer — Betalt bruk prises etter tekstposter og bilder, men den offentlige siden viser ikke en fast sats som kan oppgis her.
Gratisnivå: Free Web gir 5 000 tekstposter og 5 000 bilder per måned. Standard Web har høyere volum og flere muligheter, men pris og eventuell avtalestruktur avhenger av Azure-region og kjøpskanal. Prisene er hentet fra leverandørens prisside i oktober 2026 og endrer seg ofte — sjekk alltid hos leverandøren før du kjøper.
Norsk språkstøtte
Dokumentasjonen har norsk språk i den brede språklisten for språkdeteksjon, men norsk er ikke blant språkene Microsoft spesifikt oppgir som trent og testet for alle innholdsmodeller. Grensesnitt og hoveddokumentasjon er på engelsk. Region og datalagring følger Azure-oppsettet ditt.
Fordeler
- Gratis kvote for tekst og bilder
- Flere innholdskategorier og justerbare terskler
- Passer direkte inn i Azure- og Foundry-miljøer
- Kryptering og kundestyrte nøkler er dokumentert
Ulemper
- Betalt pris er ikke fast oppgitt på den offentlige prissiden
- Moderering erstatter ikke full agent- og sikkerhetstesting
- Norsk er ikke blant alle språkmodellens optimaliserte språk
- Region, logging og øvrig Azure-forbruk må konfigureres separat
Bunnlinje
Azure AI Content Safety er et praktisk filterlag for virksomheter som allerede har Azure som plattform. Gratisnivået gjør det lett å starte, men pris og språkdekning krever nærmere avklaring, og tjenesten bør suppleres med tester av agentens handlinger og datatilgang.
Kilder
Ofte stilte spørsmål om Azure AI Content Safety
Hva er Azure AI Content Safety?
Det er en Azure-tjeneste som analyserer tekst og bilder for potensielt skadelig innhold. Den kan gi alvorlighetsgrader for flere kategorier og har tilleggskontroller for blant annet prompt injection, beskyttet materiale og groundedness i nyere Azure AI Foundry-oppsett.
Er Azure AI Content Safety gratis?
Ja, Free Web-kvoten inkluderer 5 000 tekstposter og 5 000 bilder per måned. Høyere bruk går over på Standard Web. Microsoft viser ikke en fast generell pris for den betalte kvoten på siden, så du må sjekke region og avtale før du budsjetterer.
Støtter Azure AI Content Safety norsk?
Norsk står i Microsofts brede språkdeteksjonsliste, men er ikke blant språkene som dokumentasjonen spesifikt oppgir som trent og testet for alle innholdsmodeller. Norsk kan derfor fungere, men dekning og presisjon kan variere mellom kontrollene.
Kan tjenesten stoppe prompt injection?
Ja, nyere Azure AI Foundry-dokumentasjon beskriver prompt shields for å oppdage direkte og indirekte prompt injection. Dette er ett kontrollpunkt, ikke en full garanti. Agentens verktøykall, tilgangsgrenser og øvrige arbeidsflyt må fortsatt testes separat.
Hvor lagres data i Azure AI Content Safety?
Det styres av Azure-kontoens region og tjenesteoppsett. Microsoft dokumenterer kryptering i ro og mulighet for kundestyrte nøkler, men du bør kontrollere gjeldende databehandlingsvilkår, logging og region for akkurat den funksjonen du bruker.