EU Kids Act vil begrense barns tilgang til AI-chatboter

EU-kommisjonens president Ursula von der Leyen varslet 16. september en EU Kids Act med strengere rammer for barns bruk av digitale tjenester. Kommisjonens oppsummering beskriver et forbud mot sosiale medier for barn under 13 år og foreldrestyrte minikontoer for 13- og 14-åringer. Fremleggelsen er varslet til 17. september, ifølge EU-kommisjonen.

AI-chatboter er også del av planene som er omtalt i forkant. Reuters rapporterte 14. september om et utkast som omfatter chatboter, videodeling og nettspill. Nyheten 16. september er den politiske kunngjøringen; utkastets detaljer må fortsatt skilles fra endelig vedtatte regler.

En trapp med flere aldersgrenser

Kommisjonens offisielle oppsummering skisserer selvstendige kontoer fra 15 år. For 13- og 14-åringer skal foreldre opprette og kontrollere minikontoene. Alle kontoer for personer under 18 skal omfattes av krav om trygg utforming. Dette er modellen som presenteres for sosiale medier i kommisjonens redegjørelse.

For familier blir et sentralt spørsmål hva en slik minikonto faktisk tillater. Kan barnet kommunisere med kjente venner, bruke en innebygd assistent eller dele et bilde? Aldersgrensen alene gir ikke hele svaret. Funksjonene som tillates innenfor hvert trinn, vil avgjøre mye av den praktiske forskjellen.

Chatboter trekkes inn i samme diskusjon

Utkastet bruker en bredere avgrensning enn tradisjonelle sosiale medier. Ifølge Le Monde omfatter den også enkelte samtalebaserte AI-tjenester. Avisen skriver at utdanningsformål, offentlige tjenester og industrielle eller profesjonelle AI-verktøy er tenkt holdt utenfor. Utkastet navngir ikke bestemte selskaper, og kommisjonen hadde ikke bekreftet innholdet i dokumentet overfor avisen.

Dermed er det for tidlig å beskrive initiativet som et generelt forbud mot at barn bruker AI. Vår vurdering er at grensegangen mellom en læringsassistent og en sosial samtalepartner blir særlig viktig. Et verktøy kan tilby begge typer samtaler, og kategorinavnet forteller lite om hva barnet faktisk møter på skjermen.

Mer enn kontroll av fødselsdato

Et ekspertpanel for kommisjonen har allerede diskutert AI-verktøy og digitale følgesvenner som del av barns nettbruk. Rapporten behandler blant annet menneskelignende samtalepartnere og behovet for å forstå teknologiens begrensninger. Panelet anbefaler også at AI-kompetanse inngår i digital opplæring. Dette er faglige anbefalinger i rapporten om barns sikkerhet på nett, ikke en ny vedtatt plikt for norske skoler.

En relevant vurdering for foreldre og innkjøpere er derfor hvordan tjenesten oppfører seg etter innlogging. Er det tydelig at samtalepartneren er en maskin? Kan varsler slås av? Er det enkelt å avslutte en samtale? Slike spørsmål gir et mer konkret grunnlag for å vurdere et produkt enn et aldersmerke alene. Se også oversikten over sikkerhet og personvern.

Ingen automatisk ny regel i Norge

Et varslet EU-forslag er ikke norsk lov. Regjeringens forklaring av EØS-systemet viser at nye regler må vurderes for innlemmelse, og at EU og EØS/EFTA-statene må være enige i EØS-komiteen. En eventuell norsk gjennomføring av Kids Act må derfor avklares særskilt. Bakgrunnen er beskrevet i regjeringens spørsmål og svar om EØS.

For norske brukere og bedrifter betyr kunngjøringen først og fremst at det er grunn til å følge den konkrete lovteksten og den videre behandlingen. Leverandører med barn som målgruppe bør kartlegge hvilke samtalefunksjoner de tilbyr og hvordan foreldre får innsyn. Skoler og familier bør fortsette å vurdere hvert verktøy konkret, uten å behandle de foreslåtte aldersgrensene som gjeldende norske regler.

Ofte stilte spørsmål

Har EU vedtatt et forbud mot AI-chatboter for barn? Nei. Saken gjelder et varslet lovforslag og omtale av et utkast. Kilder: EU-kommisjonen og Reuters.

Vil reglene automatisk gjelde i Norge? Nei. EØS-relevans, innlemmelse og norsk gjennomføring må avklares. Kilde: Regjeringen.