Ytring
«Skrev KI dette?» er feil spørsmål
Når Malthe-Sørenssen-utvalget legger fram utredningen sin på fredag, bør det ikke gjøre spørsmålet om hvem som skrev setningene, til målestokk for akademisk redelighet. Det viktige spørsmålet er hva teksten skal bevise.
Christoph Trattner, professor i informasjonsvitenskap ved Universitetet i Bergen og leder av SFI MediaFutures, et forskningssenter for ansvarlig medieteknologi. Han forsker på hva KI-verktøy gjør med folks egen dømmekraft og kompetanse.
Foto: MediaFutures / University of Bergen
Dette er en ytring. Innholdet i teksten uttrykker forfatterens mening.
På fredag får regjeringen utredningen fra utvalget som har vurdert hva kunstig intelligens betyr for høyere utdanning. Mandatet slår fast at generativ KI «utfordrer hvilke eksamens- og vurderingsformer man gjør bruk av», og utvalgsleder Anders Malthe-Sørenssen har selv sagt til Titan at språkmodellene «kan løse så å si alle oppgaver studentene får» de første studieårene. Universitets- og høgskolerådet har allerede laget felles retningslinjer for saker om fusk ved bruk av KI. Faren er at vi gjør et spørsmål til kjernen i akademisk redelighet som aldri har vært det: Hvem skrev egentlig denne setningen?
Jeg kjenner spørsmålet fra egen erfaring. Da jeg nylig delte et innlegg fra Universitas på Linkedin, skrev en leser at én av setningene åpenbart ikke var skrevet eller tenkt av meg. Det var ingressen, og den hadde jeg skrevet selv. Men hvis jeg hadde brukt et KI-verktøy i deler av skriveprosessen, ville setningen da ikke lenger vært min? Universiteter, tidsskrifter og arbeidsgivere trekker nå den samme slutningen som denne leseren, bare i stor skala og ved hjelp av KI-detektorer og stilsjekker.
Jeg har skrevet nesten alle artiklene i karrieren min på mitt andrespråk. Kolleger, fagfeller og språkvaskere har skrevet om flere av setningene mine enn jeg kan telle, og navnet mitt har stått på alle sammen, fordi det er slik publisering fungerer. Redaktører kutter avsnitt og skriver titler, oversettere bytter ut hvert eneste ord, og rettestavingsprogrammer har rettet skrivefeilene våre i flere tiår. Ingen anklager en språkvasker for å ha gjort forfatterens tenkning.
Forfatterskap har aldri betydd at én person har produsert hver eneste ordrekke. Kravet har heller vært at forfatteren har gjort det intellektuelle bidraget, står inne for det teksten sier og tar ansvar for den. Generativ KI har ikke brutt denne standarden. Den har synliggjort at «jeg skrev hvert ord» bare var en forenkling.
Det betyr ikke at KI-assistert skriving skal få fritt leide, men vi bør stille de riktige spørsmålene. Har verktøyet funnet på kilder eller introdusert feil? Forstår den som har signert teksten, argumentet, og står hun inne for det? Ble verktøyet brukt i en oppgave som skulle måle hva studenten kan på egen hånd? Tar noen æren for et bidrag de har satt bort? Dette er spørsmål med substans. «Skrev KI denne setningen?» er det ikke.
Det viktigste spørsmålet for utdanningen handler om kompetanse. En eksamensbesvarelse skal ikke bare formidle hva studenten mener, den skal vise hva studenten kan. Her er bekymringen reell, og den lar seg måle. I en studie publisert i PNAS i fjor lot Hamsa Bastani og kolleger nesten tusen tyrkiske elever i videregående skole øve på matematikk med og uten en GPT-4-assistent. Med assistenten løste elevene langt flere øvingsoppgaver riktig. Da hjelpen ble tatt bort, gjorde de som hadde brukt den vanlige chatbot-versjonen, det 17 prosent dårligere på prøven enn elever som aldri hadde hatt den. Prestasjonen var lånt, ikke lært. Det er dette utdanningen må beskytte seg mot, og det har ingenting å gjøre med hvilke setninger en maskin produserte.
Derfor bør utvalget og institusjonene skille mellom to ting som lett blandes sammen. Der en oppgave skal måle hva studenten kan uten hjelp, må vurderingen faktisk foregå uten hjelp, og det må sies tydelig på forhånd. Der KI er tillatt, bør erklæringen ikke stoppe ved om verktøyet ble brukt, men si hva det ble brukt til: å pusse språket, foreslå en struktur, utvikle argumentet eller finne belegg. Og den bør si om studenten selv har kontrollert det maskinen leverte. Det sier oss mer enn noen detektor kan.
Ifølge Platon fryktet Sokrates at skriften ville svekke hukommelsen, fordi den flyttet en evne ut av hodet. Han hadde rett i at noe ble flyttet ut, men tok feil i at det bare var et tap. Oppgaven med generativ KI er ikke å hindre at vi setter bort arbeid, men å bestemme hvilke ferdigheter som fortsatt må vises uten hjelp, og hvem som står ansvarlig for resultatet. Slutt å spørre om KI skrev setningen. Spør hva setningen skal bevise om mennesket som har satt navnet sitt under den.
