Kunstig intelligens er i ferd med å realisere Orwells mareritt, det totalitære overvåkningssamfunnet beskrevet i dystopien 1984. Pixabay

Brad Smith er en av topplederne i Microsoft, og svært bekymret for utviklingen av kunstig intelligens. Han mener det er helt nødvendig å kontrollere utviklingen gjennom lovverket. Hvis ikke kan vi oppleve et 1984-samfunn allerede i 2024.

Smith har det øverste ansvaret for juridiske spørsmål hos Microsoft. I et intervju med BBC Panorama advarer Smith mot at livet kan bli som beskrevet i George Orwells klassiske dystopi 1984: Et samfunn preget av total kontroll og massiv overvåkning.

Det vil ikke bli lett, men lovgivere må forsøke å henge med i svingene, nå som utviklingen av kunstig intelligens (AI) og overvåkningsteknologi går stadig raskere.

‘If we don’t enact the laws that will protect the public in the future, we are going to find the technology racing ahead.’

Kina har allerede utviklet et system hvor befolkningen overvåkes tett.

Det nye systemet ble annonsert av kommunistpartiet i 2014 og er allerede delvis implementert. Etterhvert vil den kinesiske staten ha tilgang til hvert skritt, hvert ord som skrives online, hva man liker og ikke liker etc.

Mulighetene er både uendelig store men også veldig skremmende. For kineseres handlinger vil gi hver kineser en sosial rating. Denne kan avgjøre hvilke jobber du kan få, og om man får lov til å reise utenlands.

Brad Smith fra Microsoft under en høring i Kongressen i februar, som omhandlet den nye teknologien som er under utvikling. Foto: AP /Susan Walsh/ NTB

Panorama avdekker nye elementer ved det kinesiske overvåkningssystemet. Kina skal ha teknologi som er i stand til å gjenkjenne følelser og avgjøre skyld. En anonym software-ingeniør som har jobbet med utviklingen av det kinesiske systemet som overvåker uighurene forteller:

‘We placed the emotion detection camera three metres from the subject. It is similar to a lie detector but this is a far more advanced technology.’

‘It is used to confirm the authorities’ prejudgment without any credible evidence. The computer score reveals the suspect is dangerous, therefore he or she must be guilty of many wrongdoings which have not been confessed yet.’

Smith sier at science fiction er i ferd med å bli en realitet, mye raskere enn folk flest forstår.

‘I’m constantly reminded of George Orwell’s lessons in his book 1984. You know the fundamental story…was about a government who could see everything that everyone did and hear everything that everyone said all the time.’

‘Well, that didn’t come to pass in 1984, but if we’re not careful that could come to pass in 2024,’

Eric Schmidt er tidligere toppsjef for Google og var rådgiver i AI-spørsmål for US National Security Commission. Han sier det blir avgjørende å utkonkurrere Kina i utviklingen av kunstig intelligens.

‘We’re in a geo-political strategic conflict with China,’ he said. ‘The way to win is to marshal our resources together to have national and global strategies for the democracies to win in AI.’

‘If we don’t, we’ll be looking at a future where other values will be imposed on us.’

Men dette kan bli vanskelig, hvis tech-gigantene er i lomma på Kina. Den amerikanske forretningsmannen Peter Thiel hevdet i 2019 at Google delte sin mest avanserte forskning innen kunstig intelligens med Kina, men avslo å samarbeide med det amerikanske forsvaret.

I juli 2020 advarte Thiel’s tidligere Pay Pal-partner Elon Musk at kunstig intelligens ville overgå menneskelig intelligens i løpet av kun fem år. Musk fryktet at dette ville utgjøre en «eksistensiell trussel» for menneskeheten.

Peter Thiel: Google deler kunstig intelligens med Kina, ikke med USA 

Professor Stuart Russel er en britisk AI-ekspert tilknyttet University of California. Han sier til Panorama at vi står ved et veiskille for menneskerasen.

‘If we get it right it could be a golden era for humanity, we could abolish poverty and disease. If we get it wrong we could create a technology-reinforced global dictatorship, we could even lose control over the world to our own technology.’

Document skrev nylig om hvordan Bellona har tatt i bruk kunstig intelligens for å stanse kritikk av klimahysteriet. I april skrev vi om hvordan militære styrker kan sende ut svermer av stridsdroner som kontrolleres av denne teknologien.

Forskere ved Oxford fryktet i 2018 at terrorister, hackere og autoritære ledere vil bruke den nye teknologien. Og Facebook sier de vil benytte kunstig intelligens til å identifisere ekstremisme, noe som i stor grad vil ramme konservative stemmer.

Et annet skremmende perspektiv er muligheten for at Big Tech benytter seg av kunstig intelligens for å sikre at republikanerne aldri får muligheten til å vinne et valg i fremtidens USA. Disse selskapene legger jo ikke akkurat skjul på sine politiske preferanser.

Samtidig er det moderne mennesket villig til å la seg overvåke frivillig. Vi overvåkes på utallige måter. Hver gang vi sender en SMS, bruker kredittkort, går forbi et overvåkningskamera, liker noe på Facebook: Alt blir registrert og all denne informasjonen kan bli brukt mot oss.

Som noen nylig uttrykte det: Brukerne av sosiale medier som Facebook er ikke lenger kunder. Brukerne er produktet Facebook selger for utallige milliarder dollar.

Vi overvåkes av myndighetene, som snart vil rulle ut sine vaksinepass. Danmark lanserte i dag sin app «Coronapas». Enkelte opererer allerede inn microchips i hånden, noe som åpner for skremmende perspektiver.

Du kan se programmet i sin helhet nedenfor.