Hjem · Nyheter · Automatisering & agenter · Nvidia lanserer AI-modeller for lokale agenter – én går på 24 GB
Nyhet

Nvidia lanserer AI-modeller for lokale agenter én går på 24 GB

Nvidia slipper tre åpne Nemotron 3.5-modeller for alt fra multimodale bedriftsagenter til lokale AI-assistenter. Den minste kommer senere, mens 74B-modellen allerede kan kjøres på maskiner med 24 GB minne.

En kompakt datamaskin står ved en skjerm med uleselige felt, omgitt av mapper, arbeidsnotater og diagrammer på et lyst skrivebord.

Tre modeller, tre bruksområder

Nvidia lanserte 15. oktober 2026 Nemotron 3.5 Super VL, en åpen multimodal modell med 120 milliarder parametre. Samtidig kom to mindre kantmodeller: Nemotron 3.5 Bolt 74B-A9B 24GB og Bolt E4B 4GB. Super VL og 74B-versjonen er tilgjengelige nå, mens E4B etter planen kommer 23. oktober, opplyser Nvidia.

Super VL er rettet mot agenter som må lese dokumenter, tolke bilder og tabeller, bruke verktøy og gjennomføre arbeidsflyter i flere trinn. I Nvidias tekniske beskrivelse er modellen oppgitt til 120 milliarder totale parametre, hvor 12 milliarder aktiveres per forespørsel. Den mindre Lightning-modellen i samme familie har 30 milliarder totale parametre og tre milliarder aktive, ifølge Nvidia Research.

Nyheten som treffer utviklere flest, er likevel Bolt 74B-A9B. Modellen bruker en innfødt 2-bits kvantisering for å få plass i 24 GB minne og er laget for lokale agentoppgaver. Nvidia beskriver bruk som nettsøk, skriving og feilsøking av kode uten at arbeidslasten må sendes til skyen. Modellen støttes allerede av blant annet llama.cpp, Ollama, LM Studio og vLLM, skriver Nvidia.

Fra chatbot til arbeidskollega

Nemotron 3.5 Super VL er ikke først og fremst en ny chatbot for privatmarkedet. Den er bygget for å inngå i systemer som gjør jobben i bakgrunnen: hente data fra dokumenter, lese diagrammer, vurdere en sak og sende resultatet videre til et annet verktøy. Nvidia trekker fram fem konkrete bruksfelt for agentene:

  • kode som skal testes, feilsøkes og dokumenteres
  • nettsøk der funn skal kontrolleres mot flere kilder
  • PDF-er, regneark, tabeller og diagrammer
  • videoanalyse og innholdsmoderering
  • sikkerhetsvarsler som må sorteres og prioriteres

Dette er også grunnen til at modeller som kan lese både tekst og visuelle dokumenter er interessante for norske virksomheter. En agent trenger ikke lenger å sende en faktura til ett system for OCR, et annet for språkforståelse og et tredje for beslutningslogikk. Det kan fortsatt være riktig arkitektur i mange tilfeller, men den nye modellen er konstruert for å samle mer av kjeden. Beskrivelsen av funksjonene kommer fra Nvidias tekniske blogg.

Åpne vekter, men ikke maskinvareuavhengig

Super VL leveres med åpne vekter, datasett og treningsoppskrifter. Det gjør det mulig å ettertrene modellen på egne data og kjøre den i eget datasenter eller i en valgt skytjeneste. Nvidia oppgir at virksomheter kan legge modellen der kravene til sikkerhet og datalagring tilsier.

Friheten har en bakside: ytelsen er tett knyttet til Nvidias maskinvare og verktøykjede. Super VL er gjort tilgjengelig på Hugging Face, OpenRouter, ModelScope og som NIM-tjeneste, mens Bolt 74B-A9B er tilpasset RTX-, DGX- og Jetson-miljøer. Det betyr at en norsk bedrift kan få mer kontroll over dataflyten, men fortsatt må regne med arbeid til drift, kvantisering, overvåking og oppdateringer.

Nvidia sier også at Perplexity bruker Super VL i søk og Computer. Det knytter modellen til en tjeneste mange allerede kjenner, men gjør ikke modellen til en ferdig agent du bare slår på i en nettleser. For oversikt over agentverktøy og bruksområder finnes det en egen kategori for automatisering og agenter.

Hva betyr det for norske brukere?

For norske utviklere er Bolt 74B-A9B den mest konkrete nyheten: lokale agenter kan testes på kompatible RTX-maskiner uten at dokumenter og kode nødvendigvis må forlate virksomhetens miljø. For bedrifter med større behov er Super VL mest interessant som byggestein i egne systemer, særlig når dokumenter, datalagring og tilpasning veier tyngre enn en ferdig chatbot. Før produksjonsbruk bør teamet kontrollere lisens, maskinvarekrav, språkytelse og sikkerhet selv. Modellene kan gi mer valgfrihet, men de fjerner ikke ansvaret for hvordan en agent får tilgang til norske kundedata, økonomi eller interne systemer.


Ofte stilte spørsmål

Kan jeg kjøre Nemotron 3.5 på en vanlig PC? Bolt 74B-A9B er laget for 24 GB minne og støttes på utvalgte RTX-miljøer. Super VL krever langt kraftigere maskinvare, og ytelsen avhenger av kvantisering og oppsett.

Er Nemotron 3.5 gratis? Nvidia gjør vekter og flere utviklerressurser tilgjengelige åpent, men drift krever kompatibel maskinvare eller skykapasitet. Eventuelle kostnader avhenger av hvordan modellen kjøres.

Hva er forskjellen på Super VL og Bolt? Super VL er den større multimodale modellen for krevende agentarbeid. Bolt-modellene er mindre og optimalisert for lokal kjøring på begrenset minne.

Slik vurderer vi

Vi baserer innholdet på offisielle priser, leverandørenes egne sider og uavhengige kilder, oppdatert løpende. Vi tjener provisjon på enkelte lenker, men det påvirker ikke vurderingen.

Redaksjonen
altai-redaksjonen

altai-redaksjonen er teamet bak altai — en oversikt over AI-verktøy for et norsk publikum. Vi vurderer verktøy etter faste, åpne kriterier og verifiserer fakta mot primærkilder. Innholdet produseres med AI-verktøy og kvalitetssikres redaksjonelt.

← Alle nyheter