Anthropic hevder at Iran forsøkte å bruke selskapets kunstig intelligens-modell for å angripe krigsskip fra U.S. Navy i Midtøsten.
KI-giganten fra San Francisco opplyser at de forhindret komplottet, som ble omtalt i selskapets rapport om fiender som bruker KI til å utvikle våpen og spore dissidenter, skriver Wall Street Journal.
En gruppe med tilknytning til Iran skal ha hentet inn informasjon fra transpondere på skip og fly, militære fotografier og kommersielle satellittbilder for å spore amerikanske krigsskip og lete etter sårbarheter i deres kommunikasjonssystemer om bord.
Anthropic opplyste at de hadde avverget trusselen fra gruppen, som benyttet den avanserte KI-modellen Claude.
Rapporten viser hvordan USAs motstandere bruker KI på nye måter som utgjør alvorlige trusler mot nasjonal sikkerhet. KI kan brukes til utvikling av nye missiler, aggressiv desinformasjon, spionasje mot dissidenter og til og med potensiell utvikling av biologiske våpen.
Påstandene som fremgår av Anthropic-rapporten kommer midt i en landsomfattende debatt om hvorvidt beslutningstakerne fullt ut forstår truslene og endringene som kunstig intelligens vil medføre for nasjonal sikkerhet i de kommende tiårene.
Kongressen i USA begynner å ta truslene på alvor, og dusinvis av lovgivere fremmer nå nye forslag for å regulere bruken av de stadig kraftigere KI-modellene.
Anthropic har som prinsipp at deres teknologi ikke skal brukes til å utvikle våpen, og heller ikke til overvåkning. Disse begrensningene har ifølge WSJ irritert USAs krigsminister Pete Hegseth.
Dette kan være årsaken til at Anthropic ble utelukket da Pentagon i vår inngikk avtale med syv KI-selskaper. Dette til tross for at selskapets Claude-modell var den eneste som var godkjent for bruk i graderte operasjoner i det amerikanske militæret.
Flere forskere i Anthropic frykter hva ukontrollert utvikling av KI til militært bruk kan føre til. Jacob Coxon sa opp sin stilling denne uken fordi han frykter at selskapene kappes om å utvikle ukontrollerbare systemer som forbedrer seg selv.
Også Evan Hubinger, en annen av selskapets ledende forskere, er bekymret.
«Vi tror virkelig oppriktig at KI kan drepe alle mennesker! Personlig tror jeg sannsynligheten er >10 % i løpet av det neste tiåret. Jeg mener Anthropic gjør sitt beste, men vi har ennå ikke en plan for å løse problemet med tilpasning av superintelligens, og vi er ikke klart på vei mot det.»
Ifølge Anthropic skal en gruppe i Jemen ha forsøkt å bruke Claude til å utvikle styringsprogramvare for avanserte våpen, blant annet ballistiske missiler.
«Våre sikkerhetstiltak blokkerte mange av forespørslene deres, men ikke alle», heter det i Anthropic-rapporten om den jemenittiske våpenutviklingen.
Dramatisk utvikling i Jemen – houthiene kan strupe skipstrafikken i Rødehavet
I tillegg har Anthropic også avdekket en operasjon kontrollert av kinesiske myndigheter som brukte Claude til å spore og overvåke uigurer. Dette inkluderte også journalister fra den uiguriske diasporaen. USA erklærte i 2021 at Beijings undertrykkelse av uigurene utgjorde et folkemord.
Også russiske aktører skal ha forsøkt å bruke Claude i krigshandlinger mot Ukraina, samt å utvikle desinformasjonskampanjer ved å spre KI-generert, russisk-orientert statspropaganda i ressursrike land i Sentral-Afrika, som Den sentralafrikanske republikk og Den demokratiske republikken Kongo.
«Vi håper at funnene i denne rapporten vil hjelpe andre utviklere med å gjenkjenne lignende mønstre på sine egne plattformer, gi myndigheter og sivilsamfunnet et klarere bilde av hvordan nye trusler tar form, og styrke det kollektive forsvaret», skrev Anthropic i rapporten.
Kunstig intelligens trenger enorme datasentre og svært mye energi og vann for å fungere. Det finnes flere etablerte og planlagte datasentre for KI i Norge, som Tydal Data Center, som skal lage Europas største datasenter for KI.
Stadig flere bekymrer seg for hvilke konsekvenser en massiv utvikling av kunstig intelligens kan føre til hvis tilgangen til energi strekker til.
Men få av oss har den nødvendige kunnskapen man trenger for å konkludere. Som det gamle kinesiske ordtaket sa, sånn cirka: Måtte du leve i interessante tider.
