Intelligente nettverk kan bli farlige for oss

Nå blir datamaskinene smartere enn menneskene. Det er ikke nødvendigvis godt nytt for oss, sier NTNU-professor Keith Downing.
Er kunstig intelligens søt og ufarlig, som NTNUs sosiale robot Pepper - eller anonyme supermaskiner som opererer store mengder data? (Foto: Tore Oksholen/HUNT)

Er kunstig intelligens søt og ufarlig, som NTNUs sosiale robot Pepper - eller anonyme supermaskiner som opererer store mengder data? Foto: Tore Oksholen/HUNT

De første datamaskinene som er mer intelligente enn menneskene er i ferd med å bli lagd. De behøver ingen programmering, men lærer seg selv. Slike maskiner utvikler et overlevelsesinstinkt. Spørsmålet er om dette er dårlig nytt for menneskene.

Utviklingssprang

Vi står ved foten av en bratt utviklingen av menneskelagd intelligens. Skjønt, ”menneskelagd” – AI, artificial intelligence –  er menneskelagd. Neste trinn, ASI – artificial super intelligence – er det ikke. Den er lagd av AI.

- Det er når en AI har nådd et evolusjonært stadium at den lager en ny AI, at vi står foran et sprang i utviklingen, sier professor Keith L. Downing ved Institutt for datateknikk og informasjonsvitenskap. Forskning på hva som gjør oss intelligente er et særlig interessefelt for ham.

Definisjonen på en ASI er at den er smartere enn oss. Den er, for å si det litt dumt (sic) så smart at den er i stand til å lage en enda smartere ASI, Svært mye smartere. Og det er det første en ASI vil gjøre. Etter det kan alt gå svært fort, iallfall i henhold til menneskelig oppfattelse av tid. Det er her den eksponentielle veksten slår inn: En vekst som dobler seg selv for hver tidsenhet.

Robotene kommer!

Uha –robotene kommer og tar oss. Den spennende fantasien som får sci-fi fans til å godgrøsse, over fascinerende men akk så urealistiske fortellinger. Men vi kan bare slutte å godgrøsse og i stedet gå over til å grøsse, ifølge forskere som professor Downing. For disse vesenene, eller hva man skal kalle dem, har meldt sin ankomst. Hvordan hendte det?

- Det fins et uttrykk blant forskere på nevrale nettverk: We are riding on the wave of hard ware exponentials, svarer Downing.

Det betyr at det har foregått en teknologisk utvikling de siste årene som har gjort umulige ting mulig. En viktig komponent er at transistorene (et svært utdatert begrep) er skiftet ut med nye og bedre. CPU’ene er byttet ut med GPU’er. Dermed kan ekstremt mye større datamengder håndteres.

- Det har skjedd en voldsom utvikling innen forskningen på nevrale nettverk de siste fem årene, innen det man med en samlebetegnelse kaller deep learning, forteller IDI-professoren. Han ga en oversikt over statusen for forskningen på feltet under Nxt Media-konferansen på Rockheim denne uka.

Dyplæring

Et aspekt av dette er sterkt økende hemmelighold omkring hva som foregår på forskningsfronten, særlig innen to områder: militær forskning og alt relatert til Wall Street, som handler om aksjeroboter.

Dyplæring dreier seg om mønstergjenkjennelse. Da snakker man om for oss mennesker ekstremt komplekse mønstre på et nivå hvor den menneskelige hjerne for lengst har kapitulert. Det er her begrepet algoritmer hører hjemme: En algoritme er en menneskelagd ”bestilling” for å gjenkjenne spesifikke mønstre, og på basis av dette kunne komme opp med råd og anbefalinger.

LES OGSÅ Forsker på algoritmer

LES OGSÅ Lager metode som avslører falske nyheter

Et nevralt nettverk er et artifisielt (kunstig) læringssystem. Motsatsen er ekspertsystemet – tradisjonelle datasystemer. Sistnevnte utgjøres av klassisk programmering, hvis’ basisprinsipp er en databaserte regler ”hvis X, så Y”: programmereren lager en regel at hver gang én bestemt ting skjer, skal det utløse én, definert handling. Et dataprogram består av en lang rekke slike enkeltkommandoer. Ekspertsystemer er basert på alt alt kan reduseres til 0 og 1.

Nevrale nettverk er forsøkt bygd opp som den menneskelige hjerne, hvor det hersker et stort antall mulige forbindelser mellom hver nevron. Slike nettverk kan ikke programmeres, de må lære seg selv.

En ASI lærer seg selv

Og det er her kvantespranget er i ferd med å skje: De eksisterende nevrale nettverkene, eller kunstige intelligensene – AI’ene – lærer på basis av informasjon som er programmert inn i dem. En mer avansert metode er at programmererne viser AI’ene problemer, samt gir direktiver for hvordan problemene skal løses.

Den nye måten er at AI’ne selv erfarer problemene, og lærer å finne ut av dem på egenhånd.

- En slik AI starter som tabula rasa, som komplett idiot, og utvikler seg derifra, forteller Downing.

Cruxet er at akkurat hva denne kunstige intelligensen har lært, er i prinsippet en black box for oss mennesker. Vi har ingen mulighet til å forstå hva som foregår der inne. Det innebærer også at når avanserte algoritmer gir oss råd og anbefalinger, kan vi ikke, ikke egentlig, forstå hvordan algoritmen kom fram til akkurat den anbefalingen.

Tenker langt utenfor boksen

Det er når en AI blir en ASI at mennesket parkeres for godt. En superintelligent, kunstig bevissthet vil tenke så komplekst at vi for lengst har sluttet å henge med. Særlig ikke når ASI’en tenker utenfor boksen: Kommer opp med løsningsforslag et menneske ikke i sin villeste fantasi kunne komme på.

- Vi ser eksempler, både når det gjelder teknologiske innovasjoner og i spill, som Sjakk eller Go, at slike kunstige intelligensers evne til å teste ut alle mulige, og umulige, alternativer for så å komme opp med noe genuint nytt, synes bortimot ubegrenset, sier Downing.

Når tekno-genier som Bill Gates og Elon Musk i sterke ordelag advarer mot utviklingen av AI henimot ASI, ligger det i uroen for at disse nevrale supernettverkene kommer fram til løsninger som ikke er til menneskets beste. For å ta skrekkfantasien helt ut: Kanskje en ASI kommer fram til at løsningen på jordas framtid er å fjerne dets største skadedyr, mennesket. Eller noe i den retningen.

Dumbing down

Denne muligheten utgjør imidlertid ikke Keith Downings største uro: Hans bekymring handler mer om noe så prosaisk som tap av arbeidsplasser, samt fenomenet man benevner som dumbing down.

- Det er dette vi ser rundt oss, og i oss, hele tida nå: Vår evne til å konsentrere oss svekkes dramatisk, evnen til å orientere oss likeså, siden vi med GPS på telefonen uansett alltid vet hvor vi er og hvor vi skal, evnen til å huske ting eller utføre enkle, matematiske operasjoner. Og så videre.

Å ha superdatamaskiner i lomma gjør oss dummere. Dette skjer i stor fart. Samtidig som vi har en oppvoksende generasjon som ikke vet hva det vil si å ikke ha en superdatamaskin i lomma.

I så fall risikerer vi å ende opp som ”eloi” som i HG Wells’ Tidsmaskinen: Dumme overklassemennesker som er som uvitende barn som ikke er i  stand til å greie seg selv.

I dette perspektivet kan  ASI sees på som et nytt trinn i den evolusjonære stigen.

- Det følger av Darwins prinsipp om naturlig utvelgelse at det er de ASI’ene som ønsker å reprodusere seg, som faktisk reproduserer seg. De overlever, som har lyst til å overleve.

Vår siste oppfinnelse

Da kan man få, som forfatteren James Barrat formulerer det, at ASI er menneskets Final Invention.

Et beroligende ord fra Downing til slutt:

- Jeg tror det er sånn at for å ha en ordentlig forståelse av verden så må du ha en kropp. Det er grenser for hva et dataprogram, uansett hvor avansert det er, kan fatte av seg selv i den fysiske verden. Det er ved å bevege seg rundt i et fysisk landskap at man lærer seg selv i relasjon til omgivelsene, lærer omgivelsene ut fra ulike posisjoner, sier Keith Downing.

Vi tenker at da er det ingen fare – et nevralt nettverk er dømt til evig liv i cyberspace. Men så legger IDI-professoren ettertenksomt til:

- Men snart har vi jo selvkjørende biler her. De beveger seg rundt. Hva om en ASI tar kontroll over en sånn…

Begrepene
  • Nevrale nettverk. En ny kategori datamaskiner som i større eller mindre grad er selv-programmerbare, i motsetning til logiske systemer, som er tradisjonelle, programmerbare datamaskiner.
  • AI og ASI. Artificial Intelligence og Artificial Super Intelligence, begrepene som benyttes på datamaskiner basert på nevrale nettverk. En AI ”mimer” menneskelig intelligens mens en ASI har gått forbi den menneskelige intelligens.
  • CPU og GPU. Henholdsvis central processing unit og graphic processing unit. Om CPU er en datamaskins hjerne, benevnes GPU som dens sjel. GPU ble lagd for å håndtere 3D grafikk i dataspill, mens nyere versjoner er svært mye kraftigere.
  • Dyplæring. (Deep Learning) Fellesbetegnelse på nyere metoder innen maskinlæring der man tar i bruk nevrale nettverk på nye måter og i flere nivåer enn tidligere. De siste årene har dyplæring oppnådd oppsiktsvekkende resultater innen områder som bildegjenkjenning og talegjenkjenning samt mer allment på kategorisering av umerkede data.
- Den kanskje største faren ved kunstig intelligens er at den gjør oss dummere, sier Keith Downing, professor ved Institutt for datateknikk og informasjonsvigtenskap. (Foto: Tore Oksholen)

- Den kanskje største faren ved kunstig intelligens er at den gjør oss dummere, sier Keith Downing, professor ved Institutt for datateknikk og informasjonsvigtenskap. Foto: Tore Oksholen

UA vil gjerne ha dine kommentarer. Kommentarer fra anonymiserte brukere og kommentarer med personangrep vil bli slettet.
comments powered by Disqus
Siste fra forsiden

Ny utstilling viser døde dyr på innsida

NTNU Vitenskapsmuseet og Institutt for klinisk og molekylær medisin har brukt «Body worlds»-teknikken for å lage en unik utstilling.

Nokut gir HiOA klarsignal til å bli universitet

Nokut har i styremøte i dag tirsdag besluttet å gi Høgskolen i Oslo og Akershus klarsignal til å bli universitet.

Slik forsøker de å stanse bygging i Høyskoleparken

- Vi vil gi trærne i Høyskoleparken en stemme, sier Elisabeth Østgaard i Folkeaksjonen Bevar Høyskoleparken.