Det amerikanske kunstig intelligens-selskapet Anthropic kunngjorde nylig at deres nyeste KI-teknologi, Mythos (offisielt kalt «Claude Mythos Preview»), ikke er klar for offentlig lansering ennå fordi den er for effektiv til å oppdage alvorlige sikkerhetshull, eller potensielle svakheter, i store operativsystemer og nettlesere. Dette kan føre til at den blir misbrukt av nettkriminelle og spioner.

Finansministre, sentralbankfolk og finansfolk har nå uttrykt alvorlig bekymring for den kraftige nye KI-modellen, som de frykter kan undergrave sikkerheten i finanssystemene. Dette melder BBC.

Utviklingen av Claude Mythos-modellen av Anthropic har ført til krisemøter, etter at den fant sårbarheter i mange store operativsystemer.

Eksperter sier at den potensielt har en enestående evne til å identifisere og utnytte svakheter i cybersikkerheten – selv om andre advarer om at det er behov for ytterligere testing for å forstå dens evner fullt ut.

Den kanadiske finansministeren François-Philippe Champagne fortalte BBC at Mythos hadde blitt diskutert inngående på møtet i Det internasjonale pengefondet (IMF) i Washington DC denne uka.

«Det er absolutt alvorlig nok til å rettferdiggjøre oppmerksomhet fra alle finansministrene», sa han.

«Forskjellen er at Hormuzstredet – vi vet hvor det er, og vi vet hvor stort det er… problemet vi står overfor med Anthropic er at det er det ukjente, det ukjente».

«Dette krever mye oppmerksomhet, slik at vi har sikkerhetstiltak og prosesser på plass for å sikre at vi ivaretar robustheten i våre finanssystemer», la han til.

Bekymringene rundt Mythos overgår alle tidligere KI-modeller – men noen cybersikkerhetseksperter har stilt spørsmål ved hvor berettiget de er, spesielt med tanke på at modellen ikke har blitt testet av bransjen for å se hvor kapabel den faktisk er.

Det britiske AI Security Institute har fått tilgang til en forhåndsversjon av den, og har publisert den eneste uavhengige rapporten om modellens cybersikkerhetskompetanse.

Forskerne bemerket at det var et kraftig verktøy som kunne finne mange sikkerhetshull i ubeskyttede miljøer, men antydet at Mythos ikke var dramatisk bedre enn Claudes forgjenger, Opus 4.

«Våre tester viser at Mythos Preview kan utnytte systemer med svak sikkerhet, og det er sannsynlig at flere modeller med disse evnene vil bli utviklet», sa rapportforfatterne.

Ledende bankfolk skal få tilgang til modellen på forhånd for å teste ut systemene sine.

Anthropic varsler søksmål etter Pentagon-utestengelse – OpenAI inngår Pentagon-avtale

Oljefondssjefen deltok i markedsføring av KI-modell: – Uforenlig med Tangens rolle

Administrerende direktør i Barclays, CS Venkatakrishnan, sa til BBC: «Det er alvorlig nok til at folk må bekymre seg».

«Vi må forstå det bedre, og vi må forstå sårbarhetene som blir avslørt og fikse dem raskt».

Han la til at «dette er hvordan den nye verden kommer til å bli» – med henvisning til et mye mer sammenkoblet finanssystem, med både muligheter og sårbarheter.

Mens utvikleren Anthropic har sagt at modellen allerede har avdekket flere sikkerhetssårbarheter i noen kritiske operativsystemer, finanssystemer og nettlesere, blir myndigheter og banker tilbudt tilgang før den offentlige lanseringen for å hjelpe dem med å beskytte sine egne systemer.

Sentralbanksjef Andrew Bailey i Bank of England sa til BBC at utviklingen måtte tas svært alvorlig: «Vi må nå se nøye på hva denne siste KI-utviklingen kan bety for risikoen for nettkriminalitet».

Han la til: «Konsekvensen kan være at det skjer en utvikling innen KI og modellering som gjør det enklere å oppdage eksisterende sårbarheter i sentrale IT-systemer, og da vil selvfølgelig nettkriminelle – de onde aktørene – kunne forsøke å utnytte dem».

Det amerikanske finansdepartementet bekreftet at det hadde tatt opp saken med sine største banker og oppfordret dem til å teste systemene sine før Mythos fra Anthropic blir offentliggjort.

Kilder i finansbransjen antydet at et annet fremtredende amerikansk KI-selskap snart kunne lansere en tilsvarende kraftig modell, men uten de samme sikkerhetstiltakene.

James Wise, partner i Balderton Capital, er leder for Sovereign AI-enheten, et risikokapitalfond som skal investere i britiske kunstig intelligens-selskaper, støttet av 500 millioner pund i statlig finansiering.

Han sa at Mythos er «den første av det som vil bli mange flere kraftige modeller» som kan avsløre systemers sårbarheter.

Hans enhet «investerer i britiske KI-selskaper som tar tak i dette – selskaper som jobber med KI-sikkerhet og -trygghet», sa han til BBCs Today Programme.

«Vi håper at modellene som avslører sårbarheter, også er modellene som vil fikse dem».

Kjøp Giulio Meottis «De nye barbarene» fra Document Forlag her! Kjøp e-boken her.