Jack Clark, medstifter av firmaet Anthropic, har etterlyst muligheten til å bremse utviklingen av kunstig intelligens (KI), og advart om at teknologien nærmer seg et punkt der den kan utvikle seg uten menneskelig innblanding. «Man ønsker å ha muligheten til å ta foten av gasspedalen og sette den på bremsen», sa Clark til BBC Newsnight.

«Akkurat nå er det som om KI-bransjen har en gasspedal, men ikke noen bremsepedal».

Han understreket at mennesker, gjennom regjeringens politikk, må beholde kontrollen over KI-systemene, som bare vil bli kraftigere og få større innvirkning på samfunnet.

«Verden må tenke seg om, og vi må til slutt utvikle noen nye regler som gjør at vi kan ha tillit til disse systemene», sa han.

Allerede nå opererer Anthropics populære samtalerobot Claude på kode som systemet selv har skrevet 80 % av. Det er mulig å komme opp i 100 % innen to år, sa Clark, og «det ville ha enorme implikasjoner».

Clark skisserte ikke hvordan en «bremsepedal» for KI-forskning og -utvikling kunne skapes, men trakk en parallell mellom KI og oljeboomen og baronene ved forrige århundreskifte.

«Samfunnets respons var å komme med en fornuftig politikk og et regelverk som ga folk tillit til olje og fordelene olje kunne gi verden, og som innebar at man ikke trengte å bekymre seg for personlighetene til dem som ledet selskapene», sa Clark. «Det er helt klart der vi ender opp her».

Det siste gjennombruddet innen kunstig intelligens skremmer matematikere

Kjent biolog antyder at kunstig intelli­gens har ut­viklet bevissthet

Likevel tok Anthropic denne uka imot en presidentordre om KI fra USAs president Donald Trump som var relativt tilbakeholden i sine direktiver overfor selskapene.

Den krevde ikke at KI-selskaper måtte underkaste seg sikkerhetstesting av myndighetene, noe som fortsatt er en frivillig innsats.

Store KI-selskaper som arbeider med teknologiske fremskritt, inkludert Anthropic, OpenAI og Google, har heller ikke sagt at de vil sette sin egen forskning på pause.

Anthropic har vokst så raskt siden oppstarten for fem år siden at selskapet forbereder seg på børsnotering.

Det er i ferd med å bli en av de første børsnoteringene av et nyere KI-selskap og en av de mest verdifulle børsnoteringene i historien, ettersom Anthropics verdivurdering av private investorer anslås til nesten 1 billion dollar.

Clark sa at Anthropics motivasjon for å diskutere KI-teknologiens voksende evner offentlig ikke er å styrke omdømmet sitt ytterligere overfor betalende kunder.

Han ønsker ganske enkelt å «fortelle verden hva vi ser inne i disse selskapene med denne uvanlige teknologien».

Siden selskapet ble grunnlagt av administrerende direktør Dario Amodei, Clark og en håndfull andre ledere, har Anthropic markert seg som en åpenhjertig kritiker av potensielle risikoer knyttet til kunstig intelligens.

Selskapet har til og med vært involvert i en offentlig strid med det amerikanske forsvarsdepartementet på grunn av bekymringer for at KI-verktøyene deres skulle brukes til masseovervåking av amerikanere og autonom krigføring.

«Jeg er bekymret for barna mine hvis vi som samfunn ikke har en seriøs samtale om hva implikasjonene av KI-teknologiens fortsatte fremskritt innebærer», uttalte Clark til BBC. «Det finnes potensielt store fordeler. Det finnes også risikoer».

Clark la til at en av risikoene er forstyrrelser i økonomien, med frykt for at KI-teknologi som «agenter» – i hovedsak individuelle KI-boter som utfører rutineoppgaver på en noe autonom måte – kan overta visse jobber.

Store teknologiselskaper har gjennomført masseoppsigelser det siste året, ofte med henvisning til KI-verktøyenes økende evne til å utføre arbeidet til hundrevis eller til og med tusenvis av programvareingeniører.

Clark sa at folk som er mer kreative og har flere og bedre idéer, faktisk kan ha en fordel overfor kunstig intelligens.

«Det er åpne spørsmål om KI-systemer virkelig kan være kreative … det finnes egentlig ikke bevis for det ennå», la han til. «Hos Anthropic er vi nå mer begrenset av evnen til å generere gode idéer enn av evnen til å utføre ingeniørarbeidet for å gjøre disse til virkelighet».

Likevel foreslo Jack Clark at en ung person som kanskje føler at en økonomi bygget på KI ikke har plass til dem, bør «utvikle en hobby» og satse på en utdanning innen humanistiske fag.

«Folk som er kreative og kan tenke bredt, folk som leser mye, folk som har interesser, er dem som har mest nytte av dette», sa Clark. «Gi etter for nysgjerrigheten, så vil det lønne seg i form av hvordan du kan bruke denne teknologien».

Kjøp boken på Document Forlag

Kjøp «Den grønne guden» av Giulio Meotti her!