Etter tretti år får Letizia Jaccheri millionstøtte: – En viss ironi

– Programvare oppstår ikke av seg selv. Den er utviklet av og for mennesker. Utviklerne tar hele tiden valg om hvilke problemer som skal løses, hvilke data som legges til grunn og hvilke egenskaper som skal testes, forklarer professor Letizia Jaccheri.

Hvert valg kan få stor betydning for hvem teknologien fungerer for. Det er derfor hun vil undersøke «bias» i programvare og KI. Skjevheter i menneskenes vurderinger går inn i systemene de utvikler.

– Bias er ikke noe som plutselig oppstår. Det bunner ut i menneskene som utvikler den. Vi må forstå hvordan skjevheter beveger seg gjennom hele denne kjeden og så hvordan vi kan bryte den, slår Jaccheri fast.

Professoren ved NTNUs Institutt for datateknologi og informatikk får nå 9,6 millioner kroner fra Forskningsrådet.  Det går til prosjektet BIA-SE – «Reconceptualizing Bias in Software Engineering through Advanced Intersectional Frameworks». 

- Hvis du har en bestefar som var fascist, da må du si det

Et uventet gjennomslag etter 30 år

For Jaccheri kommer tildelingen etter mange forsøk. Hun skrev sin første søknad til det som i dag heter Fripro da hun var en ung forsker. 32 eller 33 år gammel. 

– Jeg har fått mange avslag gjennom årene. Rundt 30 år senere så får jeg endelig gjenomslag.

Hun peker på at det er en viss ironi i at akkurat dette prosjektet om «bias» fikk gjennomslag.

– Jeg er litt stolt over at jeg allerede har utfordret noen forestillinger om hvem som får slike tildelinger . At en dame over 60, som har hatt tunge administrative verv og satset mye på undervisning og formidling, fortsatt kan lykkes med forskning.

Fire NTNU-prosjekter som får støtte

Prosjektet er ett av 23 som denne uka fikk støtte i Forskningsrådets siste tildelingsrunde. Se full oversikt i bunnen av saken.

Totalt fordeles 269 millioner kroner denne gangen. 182 millioner går til 17 prosjekter der forskerne selv definerer hvilke problemstillinger de ønsker å undersøke.

– Norge trenger verdensledende forskningsmiljøer som gir oss kunnskap og ideer vi kan bygge på i årene som kommer. Prosjektene som får støtte i dag, viser bredden og kvaliteten i norsk forskning, sier forsknings- og høyere utdanningsminister Eileen Fugelsnes i en pressemelding.

Ved NTNU er det i alt fire prosjekter som får støtte i denne tildelingsrunden, med til sammen rundt 33,6 millioner kroner.

I tillegg til Jaccheri er det Nicolai Waniek, som får 11,9 millioner kroner, Kristine Rensvik Viddal, som får 10 millioner, og Johann Riemensberger, som får 2 millioner kroner.

– Det vi ønsker å forstå, er hvordan skjevheter beveger seg fra mennesker og organisasjoner inn i programvaren. Så hvordan programvaren igjen påvirker mennesker og organisasjoner. Det er nettopp denne sirkelen BIA-SE skal studere, sier Jaccheri om prosjektet hun har fått støtte til.

gjesteskribenten

April 1989 – mine fem første dager i Trondheim

– Finnes ikke gode metoder for testing av dette

Jaccheri forteller at programvareutvikling har vært et eget fagfelt siden 1960-tallet. I løpet av tiårene som har gått siden den gang er det utviklet en rekke gode metoder for testing, bygging og kvalitetssikring av programvare. 

– Disse metodene sier fortsatt lite om hvordan vi kan undersøke om et system inneholder skjevheter som kan føre til at enkelte grupper blir diskriminert.

Etter hvert som KI og tradisjonell programvareutvikling flettes tettere sammen, blir dette stadig mer aktuelt. KI-verktøy er tatt i bruk i utviklingen i stor skala. Også komponentene i mange programmer er nå KI-baserte.

– KI-systemer lærer fra eksisterende data. Hvis dataene, eller måten de er utviklet på, gjenspeiler skjevheter som allerede finnes i samfunnet, kan disse skjevhetene bli videreført. I noen tilfeller forsterket, poengterer hun.

For enkelt å bare se på kvinner og menn

Det å undersøke skjevheter er ikke i seg selv nytt. Ifølge Jaccheri har forskning ofte bare undersøkt én dimensjon om gangen.

– Et enkelt eksempel er at vi ofte ser på kjønn alene. Man ser på om dette systemet fungerer like godt for kvinner og menn. 

Det en slik sammenligning kan gå glipp av, er at mennesker tilhører flere grupper samtidig. Hun sier det er denne begrensingen prosjektet tar utgangspunkt i.

– En kvinne med norsk som morsmål, høy utdanning og lang erfaring kan møte et system på en måte. En kvinne med innvandrerbakgrunn, et annet morsmål og en funksjonsnedsettelse på en helt annen.

Derfor tar de i bruk et rammeverk basert på interseksjonalitet. Det er et begrep introdusert av Kimberlé Crenshaw på slutten av 1980-tallet for å beskrive hvordan ulike dimensjoner virker sammen. 

Kjønn, etnisitet, sosial klasse og andre identiteter og maktstrukturer kan skape former for diskriminering som ikke kan forstås ved å studere én dimensjon om gangen. Det gir også muligheten til å undersøkte makt.

– Jeg tror den viktigste forskjellen er at vi slutter å spørre bare «er det forskjell mellom gruppe A og gruppe B?». Vi vil spørre «hvilke kombinasjoner av forhold skaper denne forskjellen, hvor oppstår den, og hvordan forsterkes den gjennom systemet?».

- Det bør ikke være lov å lage KI-systemer uten kvinner

Skal gi reelle verktøy

Dermed har hun noen konkrete mål om hva det kan bety å lykkes med et slikt prosjekt.

– Jeg håper først og fremst at de begynner å stille noen flere spørsmål før systemet er ferdig. Ikke bare: Fungerer programvaren?

Blant annet hvem som var med da beslutningene ble tatt, og om enkelte grupper systematisk kan komme dårligere ut. I tillegg til hvem de ikke har tenkt på og hvilke antakelser som er bygget inn.

– Om vi lykkes, så skal vi ikke bare fortelle utviklere: «dere må være mer inkluderende». Vi skal gi konkrete modeller, måleinstrumenter  og praktiske retningslinjer som kan tas i bruk i den virkelige verden. Disse kan brukes til å oppdage faktiske problemer i utviklingsprosessen.