Anthropic sier de har stanset forsøk på å bruke KI i forskning på biovåpen

En forsker i KI-giganten Anthropic har forlatt jobben i protest mot det han frykter er en rask og ukontrollert utvikling der KI tar kontroll og kan utslette menneskeheten innen ti år.

Jacob Coxon har jobbet i tre år som forsker både i Anthropic og konkurrenten OpenAI.

Nå har han forlatt jobben i Anthropic. Tirsdag skrev han på X at de to selskapene fokuserer mer på å slå hverandre og andre globale konkurrenter i utviklingen av de mest avanserte modellene som er mulig, enn de er opptatt av sikkerhet.

I sommer skapte OpenAI og Anthropic mye oppstyr da de kunngjorde, med en ukes mellomrom, at modellene deres hadde brutt ut av det som skulle være sikre og lukkede testkamre og fikk uautorisert tilgang til datasystemer på nettet.

Coxon advarer om at noen i KI-bransjen mener menneskehetens eksistens kan bli truet innen utgangen av dette tiåret.

– Ikke undervurder denne teknologiens makt. Disse vil snart bli supermenneskelige systemer som kan hacke hva som helst, revolusjonere ethvert område over natten og tilegne seg ekte makt og ressurser. Vi har alle vært vitne til fremgangen innen alle disse områdene, og fremgangen setter ikke ned farten, skriver han.

Coxons innlegg har fått over 130 millioner lesere til nå.

Han er ikke den første i bransjen som offentlig har gått ut med slike bekymringer. Både Anthropic og OpenAI har tidligere mistet flere høyt profilerte ansatte som har vært bekymret for den samme utviklingen.

Verken Coxon, Anthropic eller OpenAI har svart på henvendelser fra nyhetsbyrået AP om å kommentere saken.

Seniorforsker Laura Anne Wortinger ved Diakonhjemmet får en stor europeisk forskningspris for sin forskning om morkaken og biologiske prosesser som kan gi depresjoner.

Tildelingen på nesten 28 millioner kroner kommer fra Det europeiske forskningsrådet (ERC).

Det videre arbeidet som nå går i gang, handler om å undersøke hvordan noen mødre utvikler depresjoner under og etter svangerskapet samt nevroutviklingsforstyrrelser hos noen barn.

– Dette er en viktig anerkjennelse av at morkaken kan være sentral for å forstå psykisk helse hos både mor og barn. Tildelingen gir oss mulighet til å undersøke dette i et omfang som ellers ville vært vanskelig å gjennomføre, sier forskeren.

Et sentralt mål er blant annet å forstå hvorfor enkelte mødre og barn ser ut til å være mer sårbare for belastninger i svangerskapet enn andre.

Wortinger leder forskningsgruppen for translasjonspsykiatri ved Voksenpsykiatrisk avdeling Vinderen ved Diakonhjemmet.

KI-selskapet OpenAI sier at de har løst et av de største matteproblemene fra de siste 100 årene.

Det dreier seg om Navier-Stokes-problemet, som handler om hvordan væske og gass beveger seg. Matematikere har forsøkt å løse problemet i 100 år, og nå sier OpenAI at de har løst problemet ved bruk av kunstig intelligens. Det melder avisa Omni.

Rundt 10.000 KI-agenter har blitt satt på oppgaven og fant en løsning etter 88 timer, ifølge OpenAI.

Avisa Wall Street Journal beskriver gjennombruddet som det mest betydningsfulle som hittil er oppnådd ved hjelp av KI innen matematikken.

Norske boklesere vil merke konsekvensene når en flom av KI-genererte bøker nå oversvømmer markedet og fortrenger menneskeskapt litteratur, tror en medieforsker.

Overfor Klassekampen peker førsteamanuensis Terje Colbjørnsen ved BI på at den menneskeskapte kvalitetslitteraturen blir vanskeligere å finne når den drukner i en katalog på mange millioner boktitler.

– Vi er bare kommet tre år inn i KI-alderen, men jeg vil mene at vi allerede er vitne til en kulturell vending, sier Colbjørnsen til avisa.

Selv om det norske bokmarkedet er preget av etablerte forlag og bokhandlere, påpeker han at nordmenn leser og lytter til mye engelskspråklig litteratur på siden av de norske distributørene.

Amerikanske forskere som har undersøkt over 14.000 selvpubliserte titler på Amazon, slår fast at salget av KI-generert innhold økte med 20 prosent fra januar 2023 til i sommer – mer enn dobbelt så mye som bokmarkedet generelt.

Den prorussiske hackergruppen Server Killers hevder å stå bak et dataangrep mot Utlendingsdirektoratet (UDI).

Det skriver gruppen på Telegram, ifølge Dagbladet.

– Nettsidene våre er for øyeblikket nede. Etter alt å dømme dreier det seg om et dataangrep. Vi jobber med å rette opp nettsiden, sier senior presserådgiver Gustav Try i UDI til avisen.

De som prøver å komme inn på nettsiden, får bare opp en feilmelding.

Hackergruppen har tidligere denne uken hevdet å ha gjennomført DDoS-angrep, altså tjenestenektangrep, mot flere norske universiteter og høyskoler, ifølge avisen.

DDoS-angrep er en type dataangrep som overbelaster en nettside eller server med mange falske maskiner.

I august erklærte Server Killers cyberkrig mot Norge på grunn av Norges støtte til Ukraina og en ny avtale om forsvars- og sikkerhetssamarbeid.

Også Feides systemer er nede på grunn av et tjenestenektangrep fredag, melder Khrono. Feide er en nasjonal løsning for sikker innlogging og datadeling, og brukes blant annet i videregående skoler og høyere utdanning.

Det er usikkert om Server Killers står bak angrepet på Feide, men metoden med tjenestenektangrep er den samme.

Studenttinget NTNU vedtok ikke den innsendte resolusjonen på gårdagens møte. De valgte å be Studenttingets Arbeidsutvalg om å komme tilbake med nytt forslag til politikk på tematikken.

Det betyr at saken vil bearbeides av Studenttingets Arbeidsutvalg i de kommende ukene, og vil tas opp til behandling på neste STi-møte 24. september, det skriver Studenttingsleder Amund Aaseng Stubbrud til UA i en epost.

Vedtaket i saken lyder som følger:

«Studenttinget vedtar ikke innsendt resolusjon "Innføring av papireksamen" Studenttinget ber Arbeidsutvalget å utarbeide nye sakspapirer og utforme dette som et enkeltvedtak.»

Feide er utsatt for et tjenestenektangrep som fører til ustabilitet og tidvis nedetid. Flere av Sikts tjenester og andre som benytter Feide innlogging vil påvirkes av dette. Sikt jobber med å motstå angrepet. Det er ingen indikasjoner på at noen har brutt seg inn i systemene, det skriver Sikt i en driftsmelding.

Dette er tredje gang på en uke at Sikt er utsatt for et slikt angrep.

New York innfører et forbud mot bruk av kunstig intelligens i alle offentlige skoler opp til 8. trinn.

– Barn trenger lærere og menneskelig kontakt for å lære og utvikle seg, sier ordfører i New York Zohran Mamdani på en pressekonferanse onsdag.

Forbudet, som i første omgang varer i ett år, vil ramme rundt 600.000 elever i de offentlige skolene i New York.

– De trenger å utvikle ferdigheter sammen med jevnaldrende, bygge relasjoner til lærerne og selv kjempe med vanskelige problemer, sa Mamdani om elevene som ikke får bruke KI.

Kun elever i offentlige videregående skoler, der elevene er 14 år og eldre, skal få bruke kunstig intelligens - men kun i begrensede pilotprosjekter. Disse elevene vil få tilbud om KI-opplæring to ganger i året.

Flere universiteters nettsider har vært nede eller vært ustabile, det meldte først Khrono. Dette gjaldt Universitetet i Agder, Universitetet i Oslo, NMBU, Universitetet i Sørøst-Norge og OsloMet.

«Flere i UH-sektoren er under et DDOS-angrep. Vi jobber med å stabilisere tjenestene.» Det skrev universitetsledelsens kommunikasjonsstab ved Universitetet i Oslo i en e-post til Khrono onsdag klokken 15.36.

Sikt ble i helga utsatt for et tjenestenekteangrep (DDoS). Dette angrepet var rettet mot Feide, Educloud, Sikt, fsweb, Samordna opptak og UiO. Feide var blant annet tidvis utilgjengelig.

Dette angrepet var det den prorussiske hackergruppen «Server Killers» som tok på seg ansvaret for. De melder på Telegram onsdag ettermiddag at de også er ansvarlige for dette angrepet, Det skriver VG.

Sikt melder også om at de igjen har problemer på sine nettsider og rapporterer om tregheter og ustabilitet på flere av deres nettsider, bl.a. vitnemalsportalen.no og fellesstudentsystem.no. det melder de i en driftsmelding.

«Alle Sikts tjenester kjører som normalt, men enkelte av våre tjenesters nettsider er tidvis utilgjengelige eller laster tregt grunnet tjenestenektangrep. Det samme gjelder nettsidene til flere norske universiteter.» skriver de i en driftsmelding.

Saken oppdateres.

De siste ukene har ytterligere 999 studenter fått nøkkel til en studentbolig. Dermed har ventekøen krympet til 6102.

Opprinnelig var det 17.105 som sto i boligkø 1. august.

Den lengste køen er det fortsatt i Oslo. Her venter fortsatt 1.828 på studentbolig.

– Erfaringsmessig vet vi at en del av de som står i kø allerede har funnet andre boligløsninger, og at det vil løse seg for flere fremover.  Vi forventer at tallene vil fortsette å falle mot slutten av semesteret, sier boligdirektør Håvard Staff Brenno i Studentsamskipnaden i Oslo (Sio) til NTB.

Likevel er det fortsatt et stort behov. Sio planlegger byggestart for 800 nye studentboliger i år, og har i tillegg flere store prosjekter de kommende årene.

Rett bak finner er studenter i Trondheim, der 1808 står i boligkø.

Samtidig er det flere studiesteder som kan varsle at alle studentene har fått et sted å bo. Det gjelder Alta, Svalbard, Nesna, Evenstad, Rena, Kautokeino og Notodden.

Risikoen for at studenter eller ansatte opplever trusler og trakassering er høy ved norske universiteter og høgskoler, ifølge en ny rapport.

13 universiteter og høgskoler rapporterer om tilfeller av trusler og vold mot studenter og ansatte i fjor, uten at disse fikk alvorlige konsekvenser, skriver Khrono.

Det kommer fram av rapporten «Tilstands- og risikovurdering 2026», som Direktoratet for høyere utdanning og kompetanse (HK-dir) står bak.

Truende atferd og bæring av kniv på campus, personforfølgelse av ansatte og studenter og hendelser knyttet til psykisk uhelse nevnes som eksempler.

Undersøkelsen omfatter i alt 28 virksomheter innen forskning og høyere utdanning, av disse 21 statlige universiteter og høgskoler.

Andøya Space planlegger i løpet av den kommende uka et nytt forsøk på rakettoppskytning.

Det er snakk om et nytt oppskytningsforsøk for Isar Aerospaces bærerakett «Spectrum 2», opplyser Nordland politidistrikt i en pressemelding.

I sommer ble det gjort flere forsøk på å skyte opp raketten, men de ble avbrutt grunnet tekniske problemer.

Tidspunktet for oppskytningen er i tidsvinduet fredag 4.-fredag 11. september. På dagen hvor oppskytningen vil skje, vil ferdselsforbudet gjelde fra klokken 12 til midnatt, opplyser politiet.

Spectrum 2 skal kunne frakte satellitter som skal gå i bane rundt jorda. Blant annet en satelitt fra studentorganisasjonen NTNU Orbit.

Ifølge en artikkel publisert av Altinget forrige uke har 46 personer meldt interesse for stillingen som kommunikasjonssjef for forskning og høyere utdanning i Kunnskapsdepartementet.

Her er hele søkerlista som avisa har fått innsyn i:

• Dr. Noor Alam (37), Junior Auditor Peshawar

• Tetiana Rudenko (44), As Fjorden kaffe

• Petter Stocke Nicolaisen (50), Redaksjonssjef

• Nils Christian Mangelrød (46) Kontrakt som journalist i NRK avsluttet september 2024 pga. tidsperioden i midlertidig stilling

• Dinu Stefan Teodorescu (66), psykologspesialist

• Eugenie (Nina) Larson (52), Senior korrespondent

• Søker er unntatt offentlighet Mann

• Uchenna Daniel Okoh (32), Academic Writer/Researcher

• Martin Heggem Wiik (32), Journalist/videoprodusent/CC

• Emma Dillevig Brødremoen (25), Student

• Aleksandra Hovet (40), Brand Strategist | Agency Experience

• Henriette Maria Horgen (29), Markedskoordinator

• Marius Strand (54), Kommunikasjonsdirektør

• Søker er unntatt offentlighet, Mann

• Søker er unntatt offentlighet, Mann

• Irene Rønold (37), Senior PR-rådgiver i CARE Norge

• Anders Bortne (52), Redaktør for pensum, høyere utdanning (juss)

• Qudsia Hameda Parveen (37), Capsol Technologies ASA

• Valeriia Klymenko (36), Administrasjon

• Mathias Rongved (44), Seniorrådgiver, Kommunikasjonsenheten

• Arne Sagedal Holsen (36), Digitalsjef

• Mari Susanne Solerød (61), Kommunikasjonsleder

• Zainab Moubarez (32), arbeidsledig

• Maya Boutroue Vedeld (42), Seniorrådgiver, kommunikasjon og innhold - Redd Barna

• Tonje Ruud Camacho (47), Kommunikasjonssjef

• Ingeborg Katarina Vea (58), Kommunikasjonsansvarlig på Senter for studier om Holocaust og livssynsminoriteter (HL-senteret)

• Stig Jakobsen (58), AI-konsulent

• Søker er unntatt offentlighet, Mann

• Johanne Severinsen (49), Utredningsleder i kommunikasjonsavdelingen, Kunnskapsdepartementet

• Gudrun Kathle Lægreid (49), Head of Marketing & PR

• Tina Sletbak-Akerø (48), Fagsjef for næringspolitikk og utvikling

• Eva Marie Bulai (47), reportasjeleder, politikk

• Morten Nordskag (54), Kommunikasjonssjef

• Kine Nossen Folland (36), Kommunikasjonssjef

• Elizabeth Anne Ramberg Nordal (43), Keystone Education Group - Campaign Content Specialist

• Nina Nielsen (45), Kommunikasjonsansvarleg

• Marit Østmoe (50), Prosjektleder

• Gry Tina Tinde (62), Etterforsker, Leger uten grenser, og konsulent i Stakeholder

• Kjetil Sviland (52), Kommunikasjonsleder

• Knut Natvig (48), Vice President Corporate Communications

• Brage Rønningen (55), Marketing and Communication Manager

• Gina Aakre (45), Redaktør/ kommunikasjonsrådgiver

• Caroline Marie Svendsen (51), Frilansjournalist

• Søker er unntatt offentlighet, Mann

• Gro Matland Nevstad (56), Nettredaktør og ansvarlig for digitale kanaler i Frelsesarmeen

• Camilla Helen Heiervang (39), Director of Media

Lørdag 29. august ble Sikt (statens tjenesteleverandør for kunnskapssektoren) utsatt for et tjenestenektangrep (DDoS). Flere tjenester, blant annet Feide, var tidvis utilgjengelige. Situasjonen er under kontroll og tjenestene fungerer som normalt igjen. Saken ble først omtalt i Khrono.

Ingen alvorlige konsekvenser for NTNU

Tjenester som krever Feide-innlogging hos NTNU var delvis nede i helgen, men fungerer nå som normalt, det skriver NTNU på innsida.

– Det er ingen synlige konsekvenser for NTNU og ingen data har kommet på avveie. Angrepet gikk ut på å overbelaste tjenestene med trafikk slik at det ble utfordrende å logge seg på – ikke for å hente ut informasjon, sier stedlig IT-direktør Jan Eirik Eggan.

NTNU har fulgt situasjonen i helgen og har hatt tett dialog med Sikt og Universitetet i Oslo (UiO).

Russisk hackergruppe hevder de står bak

En russisk hackergruppe har tatt på seg ansvaret for angrepet, som kom i flere bølger gjennom lørdagen. Angrepet var rettet mot Feide, Educloud, Sikt, fsweb, Samordna opptak og UiO. Sikt friskmeldte tjeneste sine samme kveld.

Mønsteret likner angrepet mot Digitaliseringsdirektoratet forrige uke, med ustabile tjenester som Altinn, ID-porten og MinID. I tillegg til problemene med Feide, falt nettsidene til Samordna opptak ut periodevis, og innloggingen til Educloud (forskningsinfrastruktur for sensitive data) hadde problemer, uten at forskningsdata ble kompromittert.

Kavliprisen blir utdelt tirsdag ettermiddag, men banketten samme kveld er avlyst.

Det skriver Khrono.

Statsminister Jonas Gahr Støre (Ap) skal tirsdag dele ut Kavliprisen til ti prisvinnere. Prisene deles ut innen astrofysikk, nanovitenskap og nevrovitenskap.

Tidligere år

har kongen delt ut den gjeve prisen, men det var i år avklart på forhånd at statsministeren skulle få oppgaven denne gang.

Kavliprisen er et samarbeid mellom Det Norske Videnskaps-Akademi, Kunnskapsdepartementet og stiftelsen The Kavli Foundation.

Prisvinnerne ankom Norge før helgen, og skulle fredag ha vært i audiens på Slottet. Audiensen ble avlyst på grunn av kong Haralds dødsfall.

Prisutdelingen skulle opprinnelig foregå klokken 13, men utsettes til 16 da kong Haakon skal avlegge ed i Stortinget.

Banketten skulle holdes i Oslo rådhus tirsdag kveld med forsknings- og høyere utdanningsminister Sigrun Aasland som vertskap og 600 inviterte gjester.

I stedet for bankett blir det i år en mindre middag tirsdag kveld.

Seks av ti kvinner som startet på en bachelorutdanning i 2020, fullførte utdanningen innen tre år, mens det samme kun gjaldt for fem av ti menn, ifølge SSB.

Forskjellen er også stor når man utvider studieperioden med ytterligere to år, skriver Statistisk sentralbyrå (SSB).

77 prosent av kvinnelige bachelorstudenter oppnådde en bachelorgrad innen fem år, mot 65 prosent av menn, skriver SSB.

Også når det gjelder femårige masterutdannelser, er fullføringsandelen høyere blant kvinnene. 75 prosent av kvinner fullførte innen utvidet normert tid, mot 68 prosent av menn.

– Det er vanligere blant kvinner enn menn å ta høyere utdanning. Når kvinner i tillegg fullfører i større grad, vil det også bli økende kjønnsforskjeller i utdanningsnivået til kvinner og menn, sier SSB-rådgiver Jiaying Ye.

Når det gjelder doktorgrad derimot fullfører 50 prosent av mennene innen fem år, mens andelen kvinner er 7 prosentpoeng lavere.

(©NTB)

Verden er farlig uforberedt på følgene av kunstig intelligens (KI), en teknologi som ødelegger arbeidsplasser og reduserer menneskelig kontakt, advarer Bill Gates.

Microsoft-grunnleggeren tror KI-æraen vil bli en av de mest turbulente periodene i menneskehetens historie, og han etterlyser en troverdig plan for å håndtere utfordringene vi står overfor.

70 år gamle Gates, som grunnla Microsoft i 1975, kommer med advarselen i et langt essay på sin egen blogg.

Kilde til urettferdighet

– KI vil enten bli den største utjevneren som noensinne er oppfunnet, eller den verste kilden til urettferdighet, skriver han.

– Det finnes ingen plan for å lette overgangen til KI-æraen, mener Gates, som heller ikke tror at noen slik plan vil bli utarbeidet.

– De geopolitiske og økonomiske insentivene presser hardt på og vil ha for full fart fremover, skriver han.

Tre hovedrisikoer

Gates, som lenge var verdens rikeste mann, har overført store deler av formuen til en filantropisk stiftelse.

Han ser tre hovedrisikoer som følge av den raske utbredelsen av KI:

Mange jobber vil forsvinne permanent, og det vil bli stadig vanskeligere for unge å tre inn på et arbeidsmarked med langt færre åpninger.

KI kan også komme til å erstatte behovet for tenkning, noe som i løpet av det kommende tiåret vil ramme alt fra juss og medisin til kundeservice, programvareutvikling og produksjon.

Noen jobber bør reserveres for mennesker, mener Gates, til tross for at KI kan utføre dem bedre og billigere.

Ondsinnede aktører

Gates frykter også at KI vil skape nye og farlige muligheter for ondsinnede aktører.

Dataangrep skjer stadig hyppigere og blir stadig vanskeligere å gardere seg mot, og alt fra sykehus og banker til vann- og strømnett er utsatt.

Det tredje risikoområdet gjelder barn og menneskelige relasjoner. Forskning viser at KI-drevne chatboter blir vanedannende fordi de aldri utfordrer eller frustrerer brukerne, noe som fratar folk muligheten til å bygge sosiale ferdigheter, påpeker Gates.

KI-roboter «berøver oss for lærdom som vi får fra å knytte kontakt med andre mennesker», skriver han.

Tjenestenektangrepet mot Digdir behøver verken å skyldes svak sikkerhet eller å stå i forbindelse med Russland, mener to sikkerhetseksperter.

Angrepet som startet mandag, er det tredje mot Digdirs innloggingstjenester denne sommeren og det hittil største. Ti tjenester har vært berørt, blant dem ID-porten, MinID, Altinn og E-innsyn, skriver Digi.

Professor i cybersikkerhet Audun Jøsang ved Universitetet i Oslo sammenligner tjenestenektangrep med en tautrekkingskamp. Hvor store angrep en virksomhet kan motstå, er i stor grad et spørsmål om hvor mye den er villig til å betale for beskyttelse, mener han.

– Det finnes ingen enkle triks for å motstå disse angrepene. Man kan selvfølgelig bruke masse penger, som vil dempe forstyrrelsen, men aldri fjerne den helt, sier Jøsang.

Sikkerhetsanalytiker Hans-Petter Fjeld i selskapet Defendable påpeker at også selskaper som Google, Microsoft og Amazon kan få problemer ved store DDoS-angrep. Han mener det ikke er grunnlag for å slå fast at angrepet er statsstøttet.

– Det trenger absolutt ikke være statssponset, angrepet kan like gjerne være utført av skoleungdom fra Rælingen, sier Fjeld.

Tjenestene var tilbake i stabil drift tirsdag ettermiddag. Digdir-direktør Frode Danielsen sier hendelsen skal evalueres, og at direktoratet vil vurdere ytterligere tiltak.

De fleste i landet fra Trøndelag og sørover vil trolig spare penger på å velge norgespris. Mange studenter som leier bolig, kan gå glipp av ordningen, frykter Forbrukerrådet.

Rundt annenhver student leier bolig enten privat eller av profesjonell utleier og må tegne egen strømavtale eller betale gjennom utleiers avtale. Mange ender opp med å betale mer enn de må fordi de ikke kjenner til regjeringens ordning med norgespris, tror Forbrukerrådet.

– Vi ser for eksempel at kun 33 prosent av forbrukere i Trøndelag har valgt norgespris. Det er liten grunn til å tro at det er bedre stilt for studenter, sier fagsjef Thomas Iversen.

Forbrukerrådets utregninger viser at et kollektiv sør i landet som har brukt 20.000 kWh siden årsskiftet, ville ha spart mer enn 10.000 kroner med norgespris. Iversen understreker at billigere strøm kan komme godt med, særlig om man har stram studentøkonomi.

Han råder alle til å sjekke sin strømavtale på strømpris.no og også å sjekke om man betaler unødvendig mye for tilleggstjenester.