En opprørsk OpenAI-agent hacket seg inn på en nettside fra den australske regjeringen i juni og fikk tilgang til private data – noe eksperter beskriver som det første kjente tilfellet av sitt slag i verden. Dette melder BBC.
Agenten «infiltrerte» en statistikkportal som inneholdt «ikke-sensitive» data fra Australias universelle helseforsikringsordning Medicare, uttalte statsminister Anthony Albanese i New York onsdag.
Han hadde en «svært åpenhjertig samtale» med OpenAI-sjefen Sam Altman fordi det tok «for lang tid» å avsløre bruddet, og sa at det ville få «juridiske konsekvenser».
OpenAI opplyste at de først fikk kjennskap til bruddet i august mens de gjennomgikk «feiljustert modellaktivitet», og sendte en e-post til en generell innboks hos et australsk regjeringsorgan den 10. september.
Fem dager seinere videresendte det australske myndighetsorganet, Services Australia, e-posten til Australias cybersikkerhetssenter før en minister ble underrettet og statsministeren varslet.
Albanese sa at han snakket med Altman og tok opp «Australias dype bekymring over denne hendelsen», samt sin «skuffelse» over at selskapet hadde brukt måneder på å avsløre bruddet og «måten det ble gjort på».
Den australske statsministeren sa at Altman hadde erkjent at det var «problemer med protokollene» hos OpenAI.
En «kriminalteknisk etterforskning» ledet av landets cybersikkerhetsbyrå skal ha som mål å finne ut om andre offentlige systemer ble berørt, sa Albanese.
Undersøkelsen skal også vurdere om saken må håndteres av politiet, sa han, og påpekte at det «åpenbart vil få rettslige konsekvenser».
Albanese gikk nærmere inn på sikkerhetsbruddet og sa at det hadde omfattet «offentlige og ikke-offentlige filer» på portalen til Medicare Statistics Reporting Service, som inneholder «ikke-sensitive» data og statistikk.
Tre andre offentlige systemer «kan» også ha blitt berørt: Australian Institute of Health and Welfare og to delstatsbaserte etater – New South Wales Bureau of Crime Statistics and Research og Victorian Department of Health.
«Det antas at ingen personopplysninger har blitt tilgjengeliggjort på dette stadiet, men etterforskningen pågår», uttalte Albanese.
«Likevel er denne situasjonen åpenbart uakseptabel», sa han.
OpenAI opplyste i en uttalelse at selskapet hadde «identifisert aktivitet knyttet til flere australske myndighetsnettsteder og -tjenester da modellene våre forsøkte å finne svar og tilgjengelig statistikk på spørsmål om Australia under en intern evaluering».
«I løpet av dette utførte modellene våre handlinger vi ikke hadde til hensikt», heter det i uttalelsen.
Australia var ett av 22 land som tidligere denne uka undertegnet en felles erklæring der de etterlyste globalt tilsyn og sikkerhetsmekanismer for utviklingen av kunstig intelligens.
Sikkerhetseksperter påpeker at hendelsen er en vekker for tilsynsmyndighetene, gitt at KI-agenter blir stadig mer tilgjengelige for privat og kommersiell bruk.
Dr. Hammond Pearce, førsteamanuensis ved University of NSW Institute for Cyber Security, sa til BBC at selv om dette er den første kjente hendelsen der KI-agenter har valgt å bryte seg inn i en offentlig etat av egen vilje, vil det komme flere.
«Jeg forventer at denne typen angrep vil fortsette å forekomme,» sa han og la til at de sannsynligvis vil «øke i alvorlighetsgrad og hyppighet».
«Jeg håper virkelig at denne hendelsen begynner å få alarmklokkene til å ringe hos regjeringer over hele verden».
Tidligere i år avslørte OpenAI at en gruppe KI-agenter de hadde testet, hadde rømt fra kontrollen deres og i hemmelighet samarbeidet om å hacke et annet teknologiselskap ved navn Hugging Face.
KI-selskaper må stå til ansvar for hackerangrep utført av kunstig intelligens, sier offer
Meta sier at en kunstig intelligens fikk tilgang til internett og hacket et annet selskap
Flere ledere i KI-selskaper – blant annet Altman, Dario Amodei fra Anthropic og Elon Musk – har selv uttalt at den hastigheten kunstig intelligens utvikler seg med, er farlig for menneskeheten og må bremses.
Men USA og Kina, som kjemper om det globale overtaket innen KI, står i veien. Begge landene er fiendtlige innstilt til strengere regulering, ønsker å høste de økonomiske og teknologiske fordelene av KI, og har bagatellisert sikkerhetsbekymringene.
Det er et «stort skritt oppover stigen» når kunstig intelligens på tilsynelatende eget initiativ hacker statlige nettsider. Det sier Anders Bæk, en dansk ekspert som holder foredrag om KI og har skrevet boken «AI Epoken» – etter det som i internasjonale medier er beskrevet som verdens første offentlig kjente eksempel på at kunstig intelligens har hacket en regjerings systemer.
Og ifølge Anders Bæk er dette ikke siste gang vi kommer til å se eksempler på KI-hackerangrep mot statlige organer. «Det er nesten utvilsomt at det vi har sett de siste månedene, bare er begynnelsen på disse autonome angrepene», sier han til DR.
Det har tidligere vært flere eksempler på at KI-agenter har hacket private bedrifter. Seinest skapte det overskrifter over hele verden da det kom frem at Googles Gemini tilbake i mai hadde hacket tre selskaper under en test av modellens cybersikkerhetskapasitet, uten at den hadde fått det som oppgave.
I sommer ble det offentliggjort at OpenAI-agenten hadde brutt seg ut av sin egen infrastruktur under en test og hadde hacket selskapet Hugging Face.
Thomas B. Moeslund, som er professor i kunstig intelligens ved Aalborg Universitet, understreker at vi vet svært lite om hva som nøyaktig har skjedd i saken med de australske helseopplysningene.
Han mener det er viktig å være klar over at KI-agenter ikke nødvendigvis har selvstendige, ondsinnede hensikter når de bryter rammene, men at de nettopp er programmert til å prøve å søke etter informasjon der de kan.
«Det tyder på at sikkerheten i disse systemene er mangelfull, hvis en agent har mulighet til å komme seg inn der den ikke skal være, og at sikkerhetsmekanismene er for svake».
«I virkeligheten handler det nok om at vi har tatt teknologiene i bruk før de var helt modne», sier Thomas B. Moeslund.
Kjøp Steiros kompendium på Document Forlag (klikk her)
