NTNU tvinger ny teknologi inn i en jakke som er for trang

Det hemmer innovasjon. Jeg har nylig stått i en skriveprosess som førte meg inn i en slags paralyse. Jeg matet mine egne, selvstendige akademiske ideer inn i en generativ KI. Resultatet var en tekst som var så språklig perfekt og så i tråd med tankene mine at jeg ble helt stuck i en loop: forslagene var ekstremt gode, men jeg kunne ikke implementere dem fordi NTNUs fuskeregler definerer det som ulovlig tekstgenerering. Dette problemet belyser en fundamental brist i måten universitetet tenker på. NTNUs retningslinjer skiller strengt mellom "tekstforbedring" og "tekstgenerering", og hevder at selve skriveprosessen er en uatskillelig del av den faglige tenkingen.

Det er et tåpelig argument.

Nye, innovative tanker og unike teorier er der det faktiske gullet ligger. Å kode disse tankene om til tørr akademisk syntaks har ingenting med den kreative eller vitenskapelige kjerneinnsikten å gjøre. Det er et mekanisk håndverk som fint kan outsources. En filmskaper trenger ikke stå og forklare filmen sin ordfattig etterpå for at den skal ha verdi; produktet taler for seg selv. Likevel krever NTNU at vi forskere både må tegne huset og bære hver eneste stein manuelt.

Jeg skjønner selvfølgelig at systemet trenger en viss treghet for å tilpasse seg, slik at samfunnets tillit til sensur og grader ikke kollapser over natten. Men dagens regler tvinger ny teknologi inn i et urgammelt paradigme. Vi har allerede avanserte, dype modeller som kan sjekke premisser, logikk og sirkelargumenter før en tekst i det hele tatt går til fagfellevurdering. En god tekst med gode ideer er en god tekst, uavhengig av om det var et menneske eller en KI som valgte adjektivene og overgangsordene.

Teknologikappløpet stopper uansett ikke her. Snart vil studenter og forskere trene modeller på sitt eget åndsverk, slik at maskinen skriver "som om" det var dem selv. Da blir dagens KI-detektorer fullstendig ubrukelige. I stedet for å kjempe mot systemet, må NTNU begynne å jobbe med det. Vi må slutte å klamre oss til en utdatert definisjon av hva intellektuelt arbeid er.

La maskinen ta seg av den språklige kodingen, og la oss mennesker gjøre det vi er best til: Å være dommere i siste instans, generere radikale ideer, og utfordre premissene.

Jeg kan selv bevise problemet. Prøv å kjør teksten over og sjekk om den er generert av KI (blå tekst). Jeg har gjort det selv med en generativ modell (Gemini) og den vurderer at det er sannsynlig at innlegget er skrevet av et menneske. Men det er feil. Teksten over er generert av KI basert på en lengre samtale om bruk av KI hvor jeg til slutt brukte prompten:

 «La oss bare si at jeg vil skrive en tekst til universitetsavisa, med et debattinnlegg om sakene vi akkurat har diskutert. Jeg vil at du skriver debattinnlegget, men bruker det jeg har skrevet her som personlig stil, og skriver teksten som om jeg skulle skrevet den. Er det mulig? Dette gjør jeg for å drive poenget helt fram til problemet.»

gjesteskribenten

– Alt jeg ikke visste, og jeg ikke vet, om KI og om livet

Dette innlegget er ikke ment som en grunnløs provokasjon - målet med innlegget å introdusere en nødvendig stresstest. Det er helt kritisk at institusjoner har mennesker på innsiden som tester systemet fra denne vinkelen for å gjøre det mer hardfør fra manipulasjon fra både innsiden og utsiden (redteaming).

Utvilsomt arbeider menneskene i institusjonen på spreng, og gjør godt de kan for å håndtere utfordringene og mulighetene i møte med KI, og innlegget er ikke ment som et angrep mot dere, faktisk har dere min sympati - dette kan søren meg ikke være lett. Jeg mener likevel vi må ned i fundamentetene og sjekke integriteten til grunnmuren, for jeg er usikker på om det tåler vekta av det som kommer.

Legg merke til at hvis du tester om teksten er KI-generert, og inkluderer prompten, og avsnittet før, om bruk av KI, vil modellen (Gemini) med en gang påstå at teksten er skrevet av KI - noe som er veldig naturlig ettersom det ligger en innrømmelse i teksten. Hvis du kun inkluderer svart tekst (som er 100% min egen), også denne gangen inkludert prompten og avsnittet om innrømmelse om bruk av KI , vil modellen med en gang si at også svart tekst er KI-generert. Noe jeg vet ikke er sant - all svart tekst er helt min egen (de som vil kan komme og besøke meg på kontoret og undersøke tråden). Hvis du ikke tar med prompten og avsnittet om om KI-generering (klipper det vekk), vil du se at modellen sier at det er sannsynlig at teksten er skrevet av et menneske.