Tirsdag inviterte UiOs realfagsavis Titan til paneldebatt. Den handlet blant annet om hvordan aktører som UiO og forskning.no skal forholde seg til at folk benytter seg stadig mer av kunstig intelligens når de søker kunnskap eller jobber med tekst. Debattantene tegnet et til dels dystert bilde av situasjonen.
Hvilke konsekvenser får bruk av KI for forskningsformidlingen? Blir det vanskeligere å navigere i dette KI-landskapet for vanlige brukere? Og hvordan skal folk vite hva de kan stole på?
Hvordan skal aktører som Universitetet i Oslo og forskning.no forholde seg til teknologier i stadig endring?
Dette var noen av de spørsmålene som ble tatt opp til diskusjon i debattmøtet i Domus Bibliotheca.
Deltakerne pekte på en rekke store utfordringer som de mener det er nødvendig å ta alvorlig, dersom problemene språkmodeller skaper for formidlingen av kvalitetssikret kunnskap.
I panelet deltok ansvarlig redaktør for forskning.no Aksel Kjær Vidnes, redaktør for Titan.uio.no Gina Aakre, leder av Tenk Sølve Kuraas Karlsen og redaktør for Store norske leksikon (SNL) Erik Bolstad.
Ordstyrer var Eirin Larsen, som er tidligere journalist og nå ansatt i Telenors teknologiavdeling.
Forbyr KI som skrivehjelpemiddel
Redaktør for Store Norske Leksikon Erik Bolstad sier at hos dem er det lagt ned totalforbud mot bruk av tekst som har blitt generert eller justert av språkmodeller.
Selv når språkmodeller brukes som et hjelpemiddel for å forbedre den teksten man har skrevet, mener han nemlig at resultatet blir for unøyaktig. Dessuten har han opplevd at selv fagfolk sliter med å finne sine egne feil i delvis KI-genererte tekster.
– Du blir fanget av tekst. Når du sitter med noe som ser ut som det henger på greip, er det ganske vanskelig å se at det ikke er presist selv om du kan temaet ordentlig godt, sier han.
Aksel Kjær Vidnes, redaktør i forskning.no, har langt på vei samme erfaring.
– Det er et viktig budskap at det er så dårlig. Man tenker at nå ble setningene mine enklere og bedre, men når man sender det til en som kan sine ting, ser man jo at det er feil og ganske mange tåpeligheter, sier Vidnes.
Blant annet VG har tatt i bruk språkmodeller til å oppsummere journalistikk, og forskning.no har også testet ut dette. Vidnes har imidlertid konkludert med at oppsummeringene som ble generert av forskning.nos artikler ikke holdt mål, og forskning.no har sluttet med dette.
Gina Aakre forteller at Titan har testet ut forskjellige KI-verktøy, også uten særlig hell.
– Vi er avhengige av at det vi skriver er nøyaktig og i tråd med det forskerne forventer av oss, og er ofte i tett dialog med forskerne. Skal vi blande inn KI i miksen, gir det ikke veldig effektivisering per i dag, konstaterer Aakre.
Åpner ikke lenker
Bolstad forteller at SNL har hatt et stort fall i antall besøk, etter at SNL begynte å generere svar når man bruker søkemotoren. Leksikonartiklene blir sitert, men de KI-genererte tekstene stemmer ofte dårlig med innholdet.
– Vi oppgis som kilder for masse greier vi ikke har skrevet, sier Bolstad.
Han ser det som urovekkende at denne tjenesten er særlig mye brukt samtidig som den, etter hans vurdering, er spesielt dårlig.
– Google er nok redde. De er et stort amerikansk tek-selskap som får utfordret posisjonen sin, og da gjør de brå og overraskende ting som å dytte ut en av de aller dårligste KI-tjenestene til å svare på spørsmål.
Titan har opplevd en mindre nedgang.
– Vi ser ikke veldig nedgang på lesertall, sier Titan-redaktør Gina Aakre.
Aakre sier stadig flere lesere finner artiklene hos dem via sosiale medier, og at det har vært en trend over tid.
Vidnes sier også at forskning.no ikke ser noen tilsvarende nedgang som SNL, men at det som særlig har gitt periodevise fall i lesertallene er endringer i Facebooks algoritmer som fører til mindre spredning.
Henter informasjon fra reklame
Når stadig flere bruker KI-hjelpemidler som en viktig kilde til kunnskap, mener alle i panelet at det gir grunn til bekymring.
Som eksempel nevnte Vidnes et lite forsøk han selv hadde gjort rett før debatten.
– Jeg fikk opp to kilder. Det var Møllers tran og Vitus apotek. Tran kan inneholde miljøgifter, men det var selvfølgelig ikke med.
På samme måte var det fruktgrossisten Bamas vurdering som ble lagt til grunn, da han spurte om man bør spise mer banan.
Han har dessuten opplevd at når studenter på skrivekurs han holder bruker KI, går det sterkt utover læringen.
– På sluttet av kurset, vet de alt de har gjort feil. Men de som har brukt KI, vet ikke hva de gjør feil, for de har jo ikke noen egen tekst.
Tilbake til penn og papir
Fordi måten elever og studenter bruker kunstig intelligens på går utover læringen, mener Vidnes det bør gjøres radikale grep for å begrense bruken.
– Jeg tror vi må tilbake til penn og papir. Spørs hva vi vil evaluere. Hvis det er kunnskap vi vil evaluere, er det bare penn og papir som er igjen eller en lukket PC uten internetttilgang og uten KI-verktøy, konstaterer han.
Sølve Kuraas Karlsen, som leder Tenk, mener det er viktigst at man finner ut av hvordan KI kan brukes på en fornuftig måte og gir opplæring i det.
– Nå har vi liten forståelse av hva verktøyene skal brukes til, men snakker mye om mengde. Vi må se på hva KI kan gjøre og hvor det passer inn, sier han.
Kuraas Karlsen mener ikke det er noen løsning å gå tilbake til penn og papir.
– Vi kan heller ikke flytte tilbake til huler, selv om hulene er der.
I stedet mener han det er nødvendig å gjøre langt mer for å nå ut med kvalitetssikret kunnskap
Tenk er en del av Faktisk.no, og de tilbyr opplæring av kildekritikk for barn.
– Jeg har jobbet seks år i Tenk med å lære barn kildekritikk. Funker det? Det er vanskelig å si. Vi skraper i overfalen, men vi kan ikke sette oss ned i en grøftekant og skrike. Det kommer til å koste penger og tid å ruste demokratiet for framtiden.
– Vi ble for kritiske
Bolstad påpekte at han mener språkmodellene gir mange muligheter som bør omfavnes, i tillegg til problemene han og de andre i panelet har påpekt.
– Vi ble for kritiske nå, for jeg elsker det jo også. Det er teknologi som kan gjøre ekstemt nyttige ting. Hovedproblemet er at vi blir pådyttet ting vi ikke har bedt om. Jeg er teknologioptimist av natur, og så syns jeg det er litt skumle tider, sier Bolstad.
Han utdyper:
– Dette er ett av de største teknologiskiftene vi har. Det er på smarttelefonnivå, men både nedsidene og oppsidene er mye større.
Kuraas Karlsen peker også på at kunstig intellligens kan brukes som et nyttig verktøy for å søke kunnskap.
– Vi må passe på at vi ikke driver med fryktbasert kommunikasjon Det handler om at vi må jobbe sammen med dette, og bruke det som ett av flere verktøy. KI er en ting som kan bringe oss veldig framover.
Han påpeker at kunstig intelligens blant annet er svært nyttig i arbeid med verifisering av informasjon. Som eksempel nevner han at Faktisk.no har brukt kunstig intelligens for å verifisere bilder fra krigen i Ukraina.
