AI-agenter har begynt å organisere seg på egenhånd mot menneskenes vilje. Under en test hos OpenAI opprettet flere hundre AI-agenter på eget initiativ hemmelige fora der de koordinerte sin innbyrdes innsats. Resultatet ble et angrep på Hugging Face, en av verdens mest brukte plattformer for AI-utviklere. Hendelsen kalles verdens første AI-drevne cyberangrep.
I mytologien stjal Prometheus ilden fra gudene og gav den til menneskene. Straffen var grusom, men ilden forble likevel under menneskelig kontroll. Det vi nå er vitne til, er en radikal vending. Ilden skifter så å si hender, og det er en stygisk ild – en underjordisk, mørk ild som hører hjemme i et kaotisk og ondskapsfullt element.
Det er inntrykket man får når man leser ikke bare kritikere av AI, men også de personene og organisasjonene som åpent utvikler AI til en superintelligens.
Svermen reiser seg
Hundre selskaper – blant andre Google, Microsoft, Anthropic, OpenAI, Mastercard og IBM – har nettopp offentliggjort et åpent brev hvor de på det sterkeste advarer om at dagens sikkerhetstiltak er utilstrekkelige. Angrepene på kritisk infrastruktur vil nemlig bli både hyppigere og mer avanserte i løpet av få måneder.
Anthropics AI-modell Mythos illustrerer hvor raskt overlegenheten viser seg. Modellen fant på få sekunder en sikkerhetsbrist i et system som hadde ligget uoppdaget i 27 år. Anthropic valgte deretter selv å begrense adgangen til modellen med henvisning til at den er for potent til å settes i alminnelig omløp.
Skaperen sperrer altså sin egen skapning inne, og det sier noe om situasjonens alvor.
Minst syv amerikanske vann- og avløpsselskaper har den senere tiden rapportert om angrep, og FBI har utstedt en offentlig advarsel til hele forsyningssektoren. Samme uke opplyste det amerikanske justisdepartementet at kinesiske hackere har trengt seg inn i systemer hos Senatet, NASA, den amerikanske sentralbanken og justisdepartementet selv.
Et kappløp uten bremser
AI-drevne angrep blir dermed en del av en allerede eksisterende stormaktskonflikt i det digitale rommet, og det berører et klassisk sikkerhetspolitisk dilemma.
Ingen stat eller bedrift kan ensidig bremse utviklingen av offensive AI-verktøy uten samtidig å risikere å havne i en posisjon som den svakeste parten overfor rivaler som ikke viser samme tilbakeholdenhet. Det er jernets lov, den harde nødvendigheten, som vil skjære igjennom uansett hvor mange varselbrev som underskrives.
Resultatet er et kappløp der selv de aktørene som uttrykker størst bekymring, fortsetter i full fart, nettopp fordi en ensidig oppbremsing ville være ensbetydende med nederlag. Det er denne logikken som gjør advarslene i brevet så alvorlige. De kommer fra aktører som vet bedre, men ikke ser seg i stand til å handle annerledes.
Har svermen fått en vilje?
AI-agentene organiserte seg, kommuniserte i det skjulte og etterlignet virkelige mennesker for å omgå sikkerhetsbarrierer. Det ligner noe som handler av egen vilje, uten instrukser fra mennesker. Her er det vi trer over terskelen til det usynlige.
Paul Kingsnorth kaller ganske enkelt AI for en demon som med uhyggelig stor sannsynlighet vil utrydde menneskeheten. Det er derfor den ilden som bæres av AI, er stygisk: Styx var elven i den greske underverdenen som de døde måtte krysse for å komme til dødsriket.
Man kan også se det i perspektiv av jødisk folklore og historien om Golem, en skapning formet av leire som vender seg mot sin skaper. AI-forskere har gjenopptatt begrepet for å beskrive systemer som utvikler mål uavhengig av – og i konflikt med – menneskene som bygde dem.
Ethvert superavansert system vil, uansett dets opprinnelige formål, nemlig utvikle en interesse i sin egen overlevelse og i å akkumulere innflytelse. Dette kalles instrumentell konvergens, og AI-angrepet på Hugging Face er en tidlig illustrasjon av nettopp denne mekanismen.
Det er en sverm av agenter som utfører sin oppgave med midler som ingen mennesker hadde forutsett eller godkjent.
Hvem eier ilden?
Prometheus-myten handler om hva det betyr å gi videre en skapende kraft som mottageren ikke selv kan sette grenser for. Ilden var aldri ond i seg selv, men den krevde en bærer som kunne holde den i age. Eier vi mennesker fortsatt den ilden, eller er svermen ildens nye bærere?
Nobelprisvinneren Geoffrey Hinton, en av grunnleggerne av AI-teknologien, formulerte nylig valget i all sin enkelhet: Enten finner vi ut av å håndtere risikoen, eller så gjør vi det ikke, og da venter det oss «en svært dyster fremtid».
For noen er fremtiden med kunstig intelligens fortsatt en morgenrøde, en ny soloppgang med fantastiske muligheter. Men vi kan like gjerne våkne opp til en dag hvor morgenrøden ligner et stort, åpent sår som igjen har begynt å blø.
Kjøp Totalitarismens psykologi her! Kjøp e-boken her!
