KI er kommet for å bli

Vi ser stadig flere vitenskapelige artikler med alvorlige feil, særlig oppdiktede eller feilaktige referanser. Jeg forstår frustrasjonen, og reaksjonen som ofte følger: KI ødelegger vitenskapen. Noen går enda lenger og hevder at den ødelegger demokratiet.

Men bør vi ikke også være bekymret for at så mange av disse tilfellene faktisk slipper gjennom, og at forskerne som sender inn slike artikler enten ikke er i stand til, eller ikke gidder, å kontrollere en håndfull referanser før innsendelse? Hvor vanskelig er egentlig det for en forsker, selv for en som handler i dårlig tro? Ville du virkelig hatt større tillit til disse forskerne dersom de ikke brukte KI?

Akademia har i flere tiår vært preget av en publiser-eller-forsvinn-kultur som altfor ofte belønner volum fremfor grundighet. KI skapte ikke dette problemet. Den har bare gjort det raskere og enklere å ta snarveier. En forsker som i dag er villig til å lime inn ubekreftet KI-generert innhold i en artikkel, var sannsynligvis også i går villig til å plukke ut bevis selektivt eller manipulere data. Hovedproblemet ligger hos forskeren som velger å se bort fra de grunnleggende standardene for vitenskapelig arbeid, snarere enn hos maskinen.

Når det gjelder demokratiet, har verdenspolitikkens surrealistiske tilstand, både nå og lenge før KI, lite med KI i seg selv å gjøre. Likevel er vi her. Ja, KI kan brukes til manipulasjon, og den kan forsterke den. Men manipulasjon er langt eldre enn KI. Når jeg åpner nyhetene, møter jeg allerede en offentlighet preget av svart-hvitt-tenkning. Er ikke manipulasjonen allerede der, med eller uten KI? Bør vi ikke også være bekymret for vår kollektive sårbarhet i møte med manipulasjon, uavhengig av virkemiddelet?

Ytring

KI-debatten stopper ved eksamen. Den burde starte i studieprogrammene.

Vi har bygget et medielandskap som lever av harme, bekreftelsesbias og polarisering. Vi skylder på algoritmen for ekkokammeret, men disse veggene bygget vi selv for lenge siden, gjennom tribalisme og selektiv tro. KI skrur aller tydeligst opp volumet i en samtale som allerede hadde mistet nyansene sine. Det dypere problemet er et offentlig klima som i økende grad er mottakelig for budskap som bekrefter det folk allerede ønsker å tro. Det er lettere å skylde på maskinen enn å innrømme at mange av disse tendensene allerede var godt etablert.

Verden står i en fornuftskrise, men ikke på grunn av KI eller annen teknologi. Åpne en hvilken som helst avis. Overskriftene taler for seg selv. 

Samtidig må vi erkjenne at KI ikke bare er en passiv refleksjon av oss. Som teknologi kan den være dyptgripende. Den endrer ikke bare skala, men også hastighet, rekkevidde og strukturen i menneskelig handling. Den skaper nye muligheter for dem som er villige til å utnytte den, og nye feller for dem som allerede er sårbare. Den arver også skjevhetene som ligger innebygd i historien den lærer av. I slike tilfeller krever skade ingen ond aktør, bare en trofast reproduksjon av det som allerede finnes.

Derfor trenger vi også regulering og tydelige politiske rammer. Men vi må ikke bli så oppslukt av teknologien at vi innbiller oss at den egentlige løsningen ligger der alene. Det KI fremfor alt har gjort, er å gjøre alvoret i våre egne svakheter mer synlig og mer akutt.

Problemet vårt er eksistensielt. Vi mangler fortsatt en reell enighet om hvilke verdier vi faktisk står for, og vi forlater dem når interessene våre skifter. Tidligere, så langt jeg kan huske, følte vi i det minste fortsatt behov for å late som. Vi pakket fortsatt egeninteresse inn i et språk om etikk og prinsipper. Nå virker selv det mindre nødvendig. Vi har gått fra hykleri, som i det minste forutsetter en bevissthet om en moralsk standard, til noe mer nakent: rå egeninteresse uten blygsel.

Vår kollektive moralske bevissthet er i ferd med å svekkes. Naturligvis påvirker dette alle samfunnets sfærer, og forsterker i sin tur den bredere kulturen. Det er den egentlige krisen, i vitenskapen, i demokratiet og i alt annet.

Teknologien vil utvikle seg. Det er uunngåelig. Det virkelige spørsmålet er om vi vil utvikle oss intellektuelt og moralsk raskt nok til å holde tritt med den.

Og hva gjør vi så? Samfunn er ikke maskiner som kan repareres med teknikk eller nye deler. Dette er et langsommere arbeid. Det handler om kultur, forståelse og tankesett. Teknologi er bare et redskap her, om enn et kraftfullt et. Krisen er oss. Og det er det vi må forholde oss til.

La oss lære av dette. I stedet for å behandle teknologien som selve trusselen, bør vi se den som både en test og et verktøy: en test av vår dømmekraft og våre verdier, og et verktøy for å bygge samfunn med større motstandskraft mot forenkling, kynisme og manipulasjon.

PS! Forfatteren har brukt språklige verktøy og veiledning til bearbeiding og oversettelse. Innhold, refleksjoner og struktur er hans.