Han har foten på gasspedalen – bør han også passe bremsen?

Skal Norge bli blant verdens beste på KI? Det skorter ikke på ambisjoner. Men fortsatt mangler en etablert mekanisme for å teste om norske språkmodeller følger norsk lov, forstår norsk språk og fungerer i forhold til norske offentlige tjenester. Skal samme instans – KI Norge – være både pådriver og kontrollør?

Behov for internasjonal kontroll: Se faktaboks

Sjef i fem minutter

Hans Christian Holthe har vært direktør i KI Norge i fem minutter. Slik kjennes det iallfall, ifølge ham selv. Det er fem måneder siden han fikk jobben.

– Holthe: Noen ledende eksperter, som Morten Godwin, mener Europa er mer opptatt av å regulere enn å innovere, mens amerikanske techtitaner bare gønner på. Hvordan ser det ut for deg?

– Det er å sette europeisk versus amerikansk – og kinesisk – tilnærming på spissen. Vi må finne vår rolle, hvordan vi rammer inn denne veldig kraftige utviklingen her til lands, sier den ferske KI–direktøren.

Et alternativ til Doktor Google

UA snakker med ham kort etter at han holdt sitt åpningsforedrag da Norwai arrangerte sitt Innovate 2026 som en del av Trondheim Tech Festival. Der innledet han med å vise til et intervju med den ferske digitaliseringsministeren, som ble publisert i Aftenposten noen timer innen han gikk på podiet, om at budsjettet for den nyopprettede organet han skal lede, vil bli tredoblet, fra 15 til 45 millioner kroner.

Dommedag, og Ludwig

Hver dag innledes med nye dommedagsprofetier, med fersker rapporter om språkmodeller som sprenger seg ut av sandkassene de er låste inne i, som juger og fører skaperne bak lyset, som hacker seg inn i virksomheter verden rundt og som skriver om sin egen kode for å unngå å bli fanget inn.

Men det er ikke slike modeller Holthe har til oppgave å vokte. KI Norge har som mandat å drive på utviklingen, ved å gjøre ledere mindre urolige for å ta mulighetene i bruk. Ledere som er redde for manglende personvern, for hallusineringer og mer til, samt for manglende og/eller sviktende regelverk.

Så mens mange her hjemme på berget sitter som en Ludwig i Flåklypa og betrakter utviklingen med engstelige øyne, drar andre land i fra. Hvor langt etter er vi landene omkring oss, egentlig?

Vi spør Tellef Raabe, tidligere rådgiver i Langsikt, nå prosjektleder i Fritt ord.

– Vi ligger nok langt bak, særlig Sverige og Finland, også Tyskland og Frankrike har mye tyngre satsinger, mens Europa samlet ligger milevis bak USA hva angår investering i infrastruktur, sier Raabe.

Det handler ikke minst om hvem som kontrollerer tilgangen på regnekraften som behøves for å drive fram innovasjon.

– Hva er det skadeligste med at det er slik?

– Det er jo at det forhindrer innovasjon og nytenkning i Europa. Vi risikerer å bli leilendinger i eget land når det gjelder cutting edge teknologi. Det vil også bli vanskeligere å ivareta nasjonale behov. Vi har nå forstått at vi ikke lenger kan stole på forutsigbar tilgang til amerikanske teknologileverandører.

Glem ikke bremsepedalen

Raabe er helt på linje med den ferske KI-direktøren at det er helt avgjørende at Norge gir klampen i bånn på området.

Men der Holthe heller i retning at organet han er satt til å lede også er skodd for å passe bremsepedalen, er Fritt ords prosjektleder mer usikker. Under foredraget han holdt, argumenterte han for nødvendigheten av uavhengig testing og etterprøving av norske KI–modeller.

– Så må jeg få skyte inn at jeg er veldig positiv til de signalene regjeringen kommer med nå, om at det skal satses mer på sikkerhet. Det behøves, sier Raabe.

For i en norsk kontekst ligger ikke fokuset på faren for global dommedag, men for hvordan man forebygger «små» dommedager, i form av små, «domene–spesifikke» modeller som ikke funker som de skal. En domene–spesifikk modell kan være en norsk versjon av «Doktor Google» som gir brukerne kvalitetssikret info om spørsmål om egen sykdom. Hvordan teste og kvalitetssikre disse innen de slippes løs på brukerne?

En åpning

Ingen aktør i Europa, heller ikke i Norge, kan konkurrere med USA og Kina på KI-modeller. For domene-spesifikke modeller derimot, som er trent på norske forhold – her har norske aktører en åpning.

Fintesting av slike modeller handler om å kontrollere at de er justert for norsk lov, norsk språk, norske normer, offentlige tjenester og mer til. Dette kan organiseres på ulikt vis. Det viktige er at ekspertisen som foretar testing og kontroll, er uavhengige. Derfor er det ikke sikkert at KI Norge skal ha foten på både gass og brems.

På spørsmål om hva som skal til for at han om tre år kan konstatere at utviklingen går i riktig retning, svarer KI-Norges direktør slik:

– At vi evner å sette tydelige og riktige rammer for den utviklingen. At vi tar i bruk EU-lovgivningen som kommer. Og at vi samtidig beholder litt av den farten i kroppen, ikke bare stopper opp fordi dette er vanskelig, men også ser på hvordan vi kan bruke trygge, gjøre dette på trygge gode måter og finne vår tilnærming. Så hvis vi ser tre år frem, så vil jeg tenke meg at da er usikkerheten mindre blant norske ledere, både i privat og offentlig sektor, det har ført til at vi har funnet gode måter å bruke dette på.

Det er alvor nå

– Tellef Raabe: Noen, blant annet Manifest Medias Magnus Marsdal, mener det er for mange som roper ulv om de store KI–modellene, og at de som roper høyest selv har økonomiske eller andre interesser i at folk lar seg skremme. Har de rett?

– Nei, der er jeg dypt uenig med Marsdal. Jeg mener de to tingene kan være sant samtidig. Det stemmer at selskap bak modellene selv varsler ulv. Men når Joshua Bengio, verdens mest siterte forsker på tvers av alle fagfelt, og leder av FNs uavhengige ekspertpanel på kunstig intelligens, eller FNs generalsekretær, eller Norges statsminister og digitaliseringsminister: Alle varsler om det samme, da burde vi kanskje ta de advarslene på alvor.