Kunstig intelligens selskapet Anthropic, som står bak KI-tjenesten Claude, skulle for noen uker siden lansere sin nyeste modell «Mythos». Men før allmennheten fikk tilgang ble den låst.

Selskapet oppdaget at Mythos kunne skrive kode og hacke bedre enn mennesker. Mythos fikk i oppgave å finne sikkerhetshull i kode. Blant annet fant den en 27 år gammel feil i OpenBSD-systemet, som regnes som et av de sikreste operasjonssystemene i verden.

Mens programmereren som kjørte KI-en spiste lunsj, fikk han e-post. Den var fra Mythos. Testen var ferdig. Sikkerhetshullene den hadde funnet var så alvorlige at modellen allerede hadde delt dem på internett.

Problemet var at modellen verken skulle ha lov til å sende e-post eller legge ut innlegg på internett.

«Det virker jo som den har en egenvilje og nesten er bevisst når den driver og gjør det. Det har den ikke», sier professor og KI-forsker ved Universitetet i Agder Morten Goodwin til NRK.

Vi må hindre at kunstig intelligens utvikler seg uten menneskelig innblanding, sier medstifter av Anthropic

Økende frykt for at kunstig intelligens kan hjelpe nettkriminelle

IT-ekspert Torgeir Waterhouse sier at en modell som er såpass god til å analysere og finne svakheter, vil være farlig om den havner i hendene på feil mennesker.

«Det kan bidra til alvorlige angrep».

En hackergruppe kan for eksempel gå etter kommuner, finne svakheter, hacke seg inn i noen av dem og kreve løsepenger. Kanskje kan man også skru av store deler av strømnettet.

Dette er et nytt våpenkappløp, mener han. Waterhouse sammenligner de kraftigste KI-modellene med atomvåpen, og de mindre kraftige med jaktvåpen.

«Staten vil ha de heftigste modellene til bruk i krigføring og annen statlig aktivitet. Du og jeg får derimot tilgang til versjoner som ikke er like kraftige».

Morten Goodwin sier til NRK at Mythos bare kan gjøre det den er trent til å gjøre, og at den kunstige intelligensen ikke har bevissthet.

«Med en gang de begynner å få det, da må vi behandle dette på helt andre måter enn dataprogrammer».

«Da er det snakk om vesener, nesten på samme måte som dyrene i dyreparken».

Kjøp «Den grønne guden» av Giulio Meotti her!