Det er økende bekymring blant mange etter at flere bransjeinnsidere har advart offentligheten om at kunstig superintelligens kan utgjøre en trussel mot menneskeheten, og til og med kan utrydde oss.

Sjefen for OpenAI, selskapet bak ChatGPT, sier at folk bør ha større tillit til at KI-selskaper vil sørge for at teknologien er trygg, samtidig som bekymringene i offentligheten rundt risikoene øker. Dette melder BBC.

«Verden bør stole på at vi kommer til å gjøre det rette, fordi det er det rette å gjøre, og fordi vi forstår hvor stort dette er», sa Sam Altman tirsdag under en konferanse i San Francisco.

Han erkjente at det er berettiget at folk er bekymret for KI, ettersom verktøyene har utviklet seg raskt.

Men kritikere mener at selskapene ikke kan overlates til å regulere seg selv, og blant dem som krever strengere regulering av KI, er den venstreorienterte senatoren Bernie Sanders og Steve Bannon, en tidligere rådgiver for USAs president Donald Trump.

Trump selv har kritisert krav om flere sikkerhetsbarrierer for den raskt utviklende teknologien, og har kalt frykten for KI-sikkerhet «en bløff». Han fokuserer på kappløpet mellom USA og Kina innen kunstig intelligens.

Men KI-sjefene har selv også innrømmet at det kan være vanskelig å regulere en teknologi som endrer seg så raskt.

Altmans uttalelser tirsdag kom under en opptreden på en årlig konferanse arrangert av programvareselskapet Salesforce.

«Det krever ikke like mye fantasi som før for [oss] å forestille oss hvordan dette kan gå galt», sa han. «Jeg tror verden gjør rett i å være redd for dette».

Men KI-sjefene har selv også innrømmet at det kan være vanskelig å regulere en teknologi som endrer seg så raskt.

I et intervju med Axios publisert 3. september sa Altman at han hadde forventet at den amerikanske Kongressen skulle opprette et «grunnleggende rammeverk» for avansert KI etter hans vitneforklaring i 2023, men det har ennå ikke skjedd.

Han antydet at lovgiverne har slitt med å holde tritt med teknologien og å regulere den uten å «bremse innovasjonen».

Det er lite sannsynlig at ny sikkerhetslovgivning om KI vil komme fra Kongressen med det første, til tross for at lovgiverne kom tilbake fra sommerferien på mandag.

Det mangler enighet i begge de amerikanske partiene om hvordan en eventuell regulering skal gjennomføres – og Representantenes hus skal gå inn i pause igjen ved slutten av uka, i forkant av mellomvalget i begynnelsen av november.

Altmans kommentarer tirsdag var første gang han uttalte seg offentlig siden et innlegg fra forskeren Jacob Coxon, som sa opp jobben hos KI-selskapet Anthropic, gikk viralt i forrige uke. Forskeren hevdet at KI kunne «drepe alle mennesker» innen utgangen av tiåret hvis den ikke ble holdt i sjakk.

En håndfull andre AI-ledere og eksperter svarte at de var enige i vurderingen, selv om de ikke forklarte hvordan de kom frem til konklusjonene sine eller nøyaktig hvordan kunstig intellligens skulle kunne oppnå noe slikt.

Etter Altmans uttalelser skrev Meta-sjef Mark Zuckerberg på X at hvert KI-selskap har evnen og motivasjonen til «å iverksette egne tiltak» for å ivareta sikkerheten.

«Ethvert laboratorium som ikke fokuserer på alignment, vil havne på etterskudd», skrev Meta-sjefen.

«Laboratoriene står overfor betydelig erstatningsansvar hvis modellene deres forårsaker skade, så de har også et sterkt incitament til å forhindre dette».

Alignment er et fagfelt som tar sikte på å innarbeide menneskelige etiske ideer og prinsipper i KI. Med andre ord handler det om å holde teknologien på rett spor i forhold til det mennesker verdsetter.

Nvidia-sjef Jensen Huang sa på den samme konferansen tirsdag at KI-selskaper selv bør avgjøre om nye versjoner av teknologien skal lanseres – og ikke styres av ytre krefter.

«Vi trenger ikke nye lover eller forskrifter», sa han, og la til at det ikke bør være et «falskt valg» mellom innovasjonstempoet og sikkerheten til KI-produkter.

Nvidia er verdens største selskap målt etter markedsverdi, og selskapets fortjeneste har skutt i været som følge av den voldsomme etterspørselen etter maskinvaren. Huang hevdet også at sikkerhet er et «teknisk problem» og at selskaper bør «ta en pause» dersom de mister tilliten til et produkt.

De nylige påstandene fra bransjen har ført til økt granskning av KI-utviklingen, noe som har fått Anthropics administrerende direktør Dario Amodei til å kreve at tempoet i KI-utviklingen reduseres og oppfordre myndighetene til å regulere bransjen.

Innlegget ble hyllet av Altman, Googles DeepMind-medgrunnlegger Demis Hassabis og Elon Musk.

Innen tirsdag var det imidlertid flere KI-ledere som ga uttrykk for støtte til selvregulering fremfor myndighetsinnblanding.

Altman sa at KI-selskaper er i stand til å regulere seg selv.

Tanken om at KI-ledere skal få lov til å regulere seg helt på egen hånd, er av noen i bransjen blitt oppfattet som en dårlig idé.

Jack Clark, leder og medgrunnlegger i Anthropic, sa til BBC mandag at å la KI være en «helt uregulert bransje» var «å kaste terning med enorme risikoer».

Jo smartere kunstig intelligens blir, desto vanskeligere vil det være for menneskeheten å kontrollere den, ifølge den engelske forskeren Geoffrey Hinton, den nobelprisvinnende datavitenskapsmannen kjent som «gudfaren av kunstig intelligens».

Hinton, en tidligere leder i Google, har de siste årene kommet med en rekke alvorlige advarsler om KI, og har til og med sagt at det er en sannsynlighet på 10–20 % for at teknologien til slutt vil utrydde menneskeheten.