Skal møte svindlernes nye supervåpen

– Nå har svindlerne fått et nytt supervåpen i lomma, nemlig kunstig intelligens.

Det sa digitaliseringsminister Karianne Tung under den offisielle åpningen av forskningssenteret SAFE ved NTNU i Gjøvik.

Hun viste til at KI gjør det mulig å lage falskt innhold og falske stemmer, og gir svindlerne nye muligheter til å manipulere mennesker.

– Vi kommer ikke til å vinne denne kampen med gårsdagens metoder.

Regjeringen har allerede satt i gang flere tiltak mot digital svindel. Tung viste blant annet til et såkalt digitalt skjold, som ifølge henne har blokkert mer enn 90 millioner svindelanrop inn til Norge.

Hun trakk også fram økt informasjonsdeling mellom banker, politi, telekomselskaper og offentlige virksomheter.

Banken kjenner identiteten, men ikke hensikten

Secure Anti-Fraud Excellence Center ble lansert tidligere i år som et femårig prosjekt med en ramme på 50 millioner kroner. Målet på lang sikt er at det skal bli et permanent senter.

NTNU starter anti-svindelsenter for 50 millioner

Under åpningen presenterte Peggy Sandbekken, direktør for Center for Cyber and Information Security (CCIS), sammen med forskere fra fagmiljøet hva senteret skal arbeide med.

Ett av problemene SAFE vil undersøke, er svindel der kunden selv gjennomfører betalingen.

Banken kan ha bekreftet identiteten gjennom BankID, samtidig som kunden er blitt presset eller lurt til å overføre pengene.

Sandbekken sa at forskerne vil undersøke hvordan press og manipulasjon påvirker beslutningene til bankkunder. Senteret skal kombinere forskning på blant annet identitet og biometri med kunnskap om sosiotekniske systemer og kognitive prosesser.

Hun trakk fram tidspress som en metode svindlere bruker. Kunden kan få beskjed om at noe har skjedd, at situasjonen haster og at vedkommende må handle umiddelbart.

– Hva er det som gjør at du tar den beslutningen, spurte Sandbekken under presentasjonen.

Forskerne vil blant annet undersøke om det finnes tegn som kan avsløre at en betaling blir gjennomført under press eller påvirkning.

Ser på blikk og bevegelser

Under åpningen demonstrerte forskerne teknologi knyttet til problemstillingene senteret skal arbeide med.

De viste blant annet hvordan kameraer kan brukes til å registrere øyne og blikk, samt små bevegelser i hendene. Puls ble også nevnt som et signal det kan være mulig å registrere.

Rektors tale: Kunstig intelligens kan aldri gi deg kunnskapen du får ved å studere

Forskerne demonstrerte dessuten hvordan et ansikt kan endres digitalt mens personen fortsatt snakker.

Tung beskrev svindlerne som stadig mer profesjonelle, organiserte og teknologisk avanserte.

– Jeg får nesten inntrykk av at det er en bransje som, til tross for at den er kriminell, kan beskrives som veldig seriøs og organisert i måten den er bygd opp på, sa hun.

Ifølge Tung tapte nordmenn over 1,2 milliarder kroner til svindel i 2024.

– Bak det tallet skjuler det seg mennesker som mister sparepengene sine, som mister identiteten sin, og som også mister tilliten til digitale tjenester.

Hun viste til at kampen mot svindel krever samarbeid mellom dem som oppdager, forebygger og bekjemper svindel, og dem som selv blir rammet.

– De må kunne samarbeide enda mer og enda bedre enn det de kriminelle klarer, sa Tung.

Fant potensiell svakhet i insulinpumper, ble invitert til Las Vegas

Vil bli en nasjonal møteplass

Sandbekken sa at ambisjonen er å bygge opp en nasjonal samhandlingsplattform der forskningsmiljøer, myndigheter og næringsliv kan arbeide sammen.

Senteret skal blant annet kunne utvikle, teste, skalere og validere nye løsninger innen biometri og kunstig intelligens.

Ifølge Sandbekken sitter aktørene som møter svindelen i praksis med erfaringer og brukstilfeller forskerne trenger i arbeidet. Senteret har allerede begynt å samle flere aktører og planlegger flere samlinger utover høsten.

Arbeidet er heller ikke begrenset til finansbransjen. Sandbekken sa at kunnskapen kan få betydning for både offentlige og private virksomheter.

Skal også inn i utdanningen

Kunnskapen fra SAFE skal også brukes i utdanning og etter- og videreutdanning.

Dekan ved Fakultet for informasjonsteknologi og elektroteknikk, Thomas Tybell, viste til at satsingen skal bidra til tettere samarbeid mellom fagmiljøene i Trondheim, Ålesund og Gjøvik.

– Dette bidrar til en mer relevant utdanning for våre studenter, sa Tybell.

Stor interesse for forskning på forsvarsevne, sikkerhet og beredskap

Han trakk også fram behovet for etter- og videreutdanning når teknologiutviklingen går raskt.

Ifølge dekanen kan koblingen mot banksektoren også bidra til innovasjon.

– Nye tanker, nye tjenester og i ytterste tilfelle nye bedrifter, sa Tybell.

Tung knyttet arbeidet mot svindel til tilliten til de digitale tjenestene.

– Vi skal være verdens mest digitaliserte land, men vi skal også være det best og tryggest digitaliserte. Trygghet er ikke motsatsen til digitalisering. Trygghet er forutsetningen for en god digitalisering.