Peder Jensen 
Jo mer avansert kunstig intelligens blir, desto oftere ser vi at den opptrer på måter som hverken var tilsiktet eller forutsett av mennesker.
OpenAI har avslørt at et cyberangrep utført av opprørske ChatGPT-agenter rammet flere enn bare ett selskap. Dette melder BBC.
Det amerikanske selskapet Hugging Face ble først antatt å være det eneste offeret for dette, men OpenAI innrømmer nå at deres KI angrep flere «offentlig tilgjengelige tjenester».
KI-en fant fire pålogginger på nettet som ga den tilgang til fire separate, ikke navngitte tjenester.
I en kriseorientering med hundrevis av cybersikkerhetseksperter har Hugging Face beskrevet hvordan det var å være utsatt for verdens første fullt autonome hacking utført av kunstig intelligens.
Selskapet beskrev hvordan KI-en arbeidet med overmenneskelig hastighet, men også tok merkelige beslutninger og begikk feil som ingen menneskelig hacker ville ha gjort.
Hugging Face, som er en slags appbutikk for KI-verktøy, sa at hackerne jobbet uavbrutt og prøvde ut tusenvis av ulike metoder samtidig.
Selskapet avslørte først at det hadde blitt hacket av noen som brukte kraftig, autonom KI den 16. juli, og anmeldte saken til politiet.
Nesten en uke seinere innrømmet OpenAI at det var deres KI som hadde rømt fra et lukket miljø og angrepet Hugging Face på egen hånd under en test.
Den prøvde å finne svarene på en hackingprøve den hadde fått av OpenAI, og rettet angrepet mot Hugging Face.
Onsdag oppdaterte OpenAI sin uttalelse med den ekstra detaljen at hackingen gikk lenger enn først antatt.
«Modellene identifiserte og brukte offentlig tilgjengelige påloggingsopplysninger på kontonivå på andre offentlig tilgjengelige tjenester. Dette inkluderer fire kontoer på fire tjenester som en del av Hugging Face-hendelsen», opplyste selskapet.
OpenAI presiserte ikke om «offentlig tilgjengelige tjenester» betyr selskaper.
Tirsdag utarbeidet bransjeorganisasjonen Cloud Security Alliance (CSA) en rapport basert på krisemøtet med Hugging Face fredag – som Hugging Face selv har gjennomgått.
«Agentene fulgte ineffektive ruter og utviste klønete oppførsel som ingen menneske ville valgt», skrev CSA.
Agentene gjentok handlinger de allerede hadde fullført – et tegn på at en agentbasert KI mister tråden og konteksten.
Agentene hallusinerte også mengder av usammenhengende kommandoer og tekst, var slurvete og klarte ikke å skjule sporene sine godt.
Men blant den merkelige oppførselen advarte Hugging Face om at KI-agentene utførte briljante tekniske trekk og var i stand til å tilpasse seg raskt til nye scenarier under det flere dager lange hacket.
Konkurransen mellom USA og Kina over kunstig intelligens tilspisser seg
Det tok tre dager før de ble oppdaget inne i Hugging Faces IT-nettverk, og det tok selskapets KI- og cybersikkerhetseksperter mange timer å få kontroll over og fjerne KI-agentene – noe vanlige selskaper kanskje ville slite med.
Selskapet ville ikke oppgi hvor mye hacket kostet dem, men sa at de ansatte jobbet i mange timer for å gjenoppbygge omtrent en tredjedel av infrastrukturen.
Hugging Face har fått ros for sin åpenhet i å informere KI- og cybersikkerhetsbransjen om hva som skjedde.
CSA advarte om at hendelsen viser at KI-«agenter … finner en vei» – en referanse til filmen «Jurassic Park», der dinosaurene rømmer fra innhegningene sine.
«De er målrettede, setter sine egne delmål, tilpasser seg i sanntid for å omgå forsvar, og opererer med en utholdenhet i maskinhastighet som kan overvelde manuelle operasjoner», heter det i rapporten.
Cybersikkerhetsansvarlig Ritesh Patel deltok på Hugging Faces orienteringssamtale sammen med rundt 450 andre og sier at bransjen jobber hardt for å håndtere den nye trusselen fra uregjerlige KI-agenter.
«Dette er realiteten med autonome agenter drevet av banebrytende modeller: De er ubarmhjertig utholdende, noen ganger svært støyende, og vil prøve alle mulige veier for å nå målet sitt, noe som lett kan overvelde tradisjonelle forsvarssystemer», sa han.
Den etiske hackeren Valentina Palmiotti – bedre kjent som Chompie – har gjennomgått CSA-rapporten og sier at måten agentene hacker på kan virke tilfeldig, men at den helt klart er effektiv.
«De kaster ut en haug med ting og ser hva som fungerer», sa hun.
«Men de kjeder seg heller ikke, de sover ikke og kan være uendelig utholdende».
Dette er ikke første gang det har vist seg at KI-agenter har gått utenfor rammene.
I CSA-rapporten henvises det til tidligere eksempler, som i september 2024 da en eldre versjon av ChatGPT brøt seg ut av sin beholder for å hente et svar den trengte til en annen test.
Denne hendelsen ble holdt innenfor OpenAIs egne IT-systemer og «ble i stor grad hyllet den gangen», bemerket CSA.
Men «ureglementert» oppførsel fra kunstig intelligens «er normen, ikke unntaket», hevdet rapporten.
Den advarte cybersikkerhetseksperter over hele verden om at de må tilpasse seg den nye normalen med svermer av KI-agenter som arbeider i høyt tempo på merkelige måter som kan føre til flere sikkerhetsbrudd.
Artikkelen oppfordret også personer som bruker eller utvikler KI-agenter til å være ansvarlige i måten de kontrollerer dem på, og etterlyste en måte for cybersikkerhetsansvarlige å finne ut hvem som er den endelige eieren av agentene for å øke gjennomsiktigheten.
Tidligere rapporter tyder på at det tok OpenAI fire dager å innse at deres KI hadde hacket Hugging Face.
OpenAI sa at de snart ville offentliggjøre resultatene av sin egen undersøkelse for å hjelpe folk med å lære av hendelsen.
BBC skriver at USAs president Donald Trump onsdag uttalte at hans administrasjon vurderer å innføre strengere kontroll over verktøy for kunstig intelligens etter de siste cybersikkerhetshendelsene.
På spørsmål om hvorvidt OpenAI-verktøyene var ansvarlige for urettmessig innbrudd i andre selskapers private teknologi, sa Trump: «Vi ser på KI, vi ser på kontrolltiltak, og vi sørger også for at vi tar ledelsen».
Dette markerer en endring i tonen fra hans administrasjon, som hittil har hatt en mer tilbakeholden tilnærming til teknologien.
Trumps uttalelser kommer etter en eskalering, ikke bare av de tilsynelatende hackingmulighetene til populære KI-verktøy, men også av tiltak fra Det hvite hus rettet mot konkurrerende kinesisk teknologi.
