Siden lanseringen i slutten av november i fjor, har ChatGPT – en språkrobot med kunstig intelligens (KI) – underholdt og imponert mange med sin evne til å levere betydelig bedre tekster enn vi er vant til at maskiner kan sette sammen.

Nylig fortalte VG om 18 år gamle Andrea Holm Tanderø, som fikk en 5-er da hun leverte inn en historieoppgave skrevet av ChatGPT. Venstres Abid Raja har fått roboten til å skrive et innlegg som han sendte til kunnskapsminister Tonje Brenna (Ap) – uten at statsråden oppdaget at teksten var skrevet av en maskin.

Men den nye roboten kan brukes til langt mer enn å hjelpe elever med skoleoppgaver, påpeker Erling Schackt overfor NTB. Han er teknologisjef i den norske delen av det israelske selskapet Check Point Research og jobber med cybersikkerhet.

Økosystem

– Tekstdelen av ChatGPT synes jeg er bra, men isolert sett skaper ikke den store problemer, annet enn for universiteter og høyskoler. Det er når du blander dette med evnen til å skrive kode, at hackere ser muligheter med dette verktøyet, sier han.

Schackt forteller at den kunstige intelligensen også er trent opp til å skrive kode, altså til å programmere.

– Den kan lage relativt avansert kode. Jeg kjenner ikke programmeringsspråket Python godt nok til å si om koden er kjempebra, men den er så bra at den virker. Med et verktøy som både kan generere tekst og kode, har du nærmest et helt økosystem. Dermed er det blitt enklere for folk å bli kriminelle, forklarer han.

Er i bruk allerede

Likevel er han foreløpig ikke veldig bekymret.

– Dette er ikke noe mer enn det vi har i dag, men denne motoren har gjort det enklere for flere å kaste seg inn i kampen om å skrive kode. Og om den brukes til noe dårlig, så gir det et generelt løft til bekymringen, sier Schackt.

Han minner om at også de som bekjemper datakriminalitet, bruker kunstig intelligens og maskinlæring allerede.

– Vi bruker dette i vårt arbeid og har ganske intelligente systemer. Så det er ikke dommedag, sier han.

– En gave

Schackt understreker også at ChatGPT skaper muligheter for dem som har rent mel i posen.

– Å kalle det vinn-vinn blir kanskje litt feil, men dette er en gave både for «de snille» og «de slemme», sier han og peker på at det kan skape nye forretningsmuligheter og forenkle arbeidet for flere grupper.

– Dette er glimrende for den som ønsker å lære seg programmering. Utviklingsselskaper som ansetter nye folk, vil kanskje bruke dette, så de kommer fortere i gang. Så kan man heller gå etter og rette og kanskje gjøre koden mer effektiv, sier cybersikkerhetseksperten.

– Så får vi håpe at det er flere som bruker denne teknologien til noe godt enn til å stjele penger og gjøre ugagn.

Ingen faktasjekk

En svakhet han påpeker ved ChatGPT, er at språkroboten er et godt stykke unna å ha kontroll på fakta, selv om språket er blitt veldig overbevisende – også når den skriver på norsk.

– Teksten som skrives er så bra at det er nærmest umulig å vite om det er en datamaskin eller en person. Så den er veldig flink til å skrive prosa eller ren skjønnlitteratur, men den klarer ikke å faktasjekke det den skriver, sier Schackt.

– Samtidig blir dette verktøyet bare bedre, og allerede neste versjon blir ganske mye bedre. Og klarer du å få den til å faktasjekke seg selv, har du nådd et nytt nivå.

Etikk

Som andre kunstige intelligenser lærer ChatGPT av dataene den fores med. Det byr på sine egne utfordringer, som både brukere og utviklere bør være bevisst på.

– Lar du den løpe løpsk på internett og lese alt, blir den nok ganske rasistisk og fordomsfull. Det er jo mye på internett som ikke stemmer, påpeker Schackt. Å slippe den kunstige intelligensen løs på et bibliotek er heller ikke helt uproblematisk, forklarer han.

– Dagens bøker er kanskje 80 prosent research og fakta, men for de øvrige 20 prosentene har vi kunstnerisk frihet til å legge til og trekke fra. ChatGPT lærer det siste også, men vet ikke om det er fakta eller fiksjon den trenes på.

Her ligger det et viktig etisk aspekt ved utviklingen og bruken av kunstig intelligens.

– Hvem bestemmer hvilke data og hva den får svare på eller ikke, spør Schackt og har selv noen forslag til regulering.

Foreslår ID-krav

– Hvis du vil kjøpe bitcoin eller investere, sier hvitvaskingsloven at du må identifisere deg. Hvis du ikke får brukt ChatGPT uten å oppgi hvem du er, blir du nok litt mer ansvarlig. I tillegg kunne det kanskje være et telleverk, så man for eksempel begrenser hvor mange ganger du kan be om en bombeoppskrift, før du blir flagget, sier cybersikkerhetseksperten.

Selv om den som har onde hensikter, kan kjøpe seg en falsk identitet og lure seg inn, tror Schackt at et ID-krav vil begrense den ondsinnede bruken.

– Hvis man må begynne med å gjøre noe kriminelt for i det hele tatt å komme i gang, vil de som ikke allerede er kriminelle, holde tilbake. Det vil ikke hindre alle som vil bruke teknologien til noe kriminelt, men det vil redusere omfanget av kriminelle handlinger.

– Kommer til å gå fort

Foreløpig er det denne konkrete KI-løsningen fra OpenAI som har fått mest oppmerksomhet, men på sikt vil det trolig være flere aktører som utvikler lignende roboter og tjenester. I tillegg vil robotene bli stadig flinkere

– Dette kommer til å gå fortere enn folk er klar over, og jeg tror ett eller annet regelverk må til. Hvis ikke, er dette dessverre en oppskrift på katastrofe, sier Schackt.

Lesermøte i Oslo torsdag 26. januar kl. 18.00

Vi i Document ønsker å legge til rette for en interessant og høvisk debatt om sakene som vi skriver om. Vennligst les våre retningslinjer for debattskikk før du deltar.