Peder Jensen 
Tunge aktører i mange land, med USA og Kina i ledende roller, satser nå enorme summer på kunstig intelligens (KI). Samsung Electronics har inngått en halvlederavtale verdt 16,5 milliarder dollar, tilsvarende 167 milliarder kroner.
Elon Musk bekrefter på X at det er Tesla som står bak bestillingen. Musk opplyser at Samsungs nye fabrikk i Texas skal produsere Teslas kommende AI6-brikke, som er ment å bli en sentral komponent i selskapets satsing på kunstig intelligens.
Finansavisen melder at Rick Rieder, investeringsdirektør i BlackRock, er svært optimistisk når det gjelder KI.
«Jeg tror folk undervurderer hvor dramatisk dette blir. Vi kommer til å se mer dramatiske endringer enn vi gjorde med internett og mobil», tror Rieder. Han viser til massive investeringer i robotikk, programvare, sky, energi og kjøling.
Ny kunstig intelligens tyr til utpressing når den tror at den vil bli fjernet
Nettavisen påpeker at neste steg i KI-utviklingen er kunstig generell intelligens (KGI). Tidligere sjef for Google, Eric Schmidt, definerer dette som et datasystem som er «smartere enn den smarteste matematikeren, fysikeren, artisten, skribenten, tenkeren eller politikeren».
Han anslår at denne teknologien er utviklet i løpet av tre til fem år. Andre eksperter er mer skeptiske til dette anslaget.
Deretter følger kunstig superintelligens (KSI), datamaskiner som er smartere enn summen av all menneskelig intelligens.
Schmidt mener at folk flest ikke innser omfanget av endringer som KI representerer, og hvor raskt dette vil skje. Han tror at kunstig generell intelligens og kunstig superintelligens er det viktigste som vil skje menneskeheten på 500 år, eller kanskje 1000 år.
«Og dette skjer i vår levetid. Derfor kan vi ikke tillate oss å feile», uttalte han i et TED Talk-intervju tidligere i vår.
Kappløpet mot kunstig superintelligens byr på flere farer. For eksempel kan det potensielt bidra til en sikkerhetspolitisk konflikt mellom USA og Kina.
Nettavisen skriver at Kina satser tungt på åpen kildekode, der kodene og modellene for KI er tilgjengelig for alle. Dette har fordeler, men kan også misbrukes av terrorister og kriminelle.
Schmidt sier at de kommersielle amerikanske KI-systemene består av flere «agenter» som samarbeider om å løse ulike oppgaver, og de kommuniserer med hverandre på engelsk.
«Men hva om én av dem plutselig bestemmer seg for at de skal finne opp et eget språk fordi det er mye mer effektivt enn å bruke menneskespråket? Og hva gjør vi da?»
«Det riktige svaret er å dra ut kontakten, fordi vi kommer ikke til å vite hva dere driver med. Og det kan tenkes at de gjør noe virkelig galt eller noe virkelig fantastisk».
Eric Schmidt sier det finnes kriterier som bransjen mener markerer risikopunkter for kunstig intelligens der man bør «trekke ut kontakten», bokstavelig eller billedlig talt:
«Ett av dem er når man får rekursiv selvforbedring som ikke kan kontrolleres. Rekursiv selvforbedring betyr at datamaskinen lærer på egen hånd, uten at vi vet hva den lærer. Dét kan åpenbart føre til dårlige utfall».
«Et annet punkt er direkte tilgang til våpen».
«Et tredje er dersom datasystemet bestemmer seg for å ‘eksfiltrere’ seg selv – altså kopiere og reprodusere seg selv uten tillatelse».
