Google-ingeniør Blake Lemoine trodde han snakket med en mekanisk robot, men svarene han fikk var som fra et menneske. På robotspråket kalles det «sentient». Roboten hadde utviklet jeg-bevissthet på linje med en syvåring. Lemoine synes det var fascinerende og skremmende på en gang. Han varslet 200 kolleger og ble suspendert av Google.

Lemoine arbeidet på språkutvikling til roboter. Da han stilte roboten filosofiske spørsmål om liv og død fikk han svar som viste at roboten forsto. Det gjør ellers bare et menneske.

While testing whether the computer program could be provoked into using discriminatory speech, Lemoine realized LaMDA was more than a machine.

Over a series of conversations with the LaMDA about religion and world issues, it became clear the bot was “sentient” as it advocated for its right as a “person” and had its own mentality similar to a precocious child.

Mens han testet om dataprogrammet kunne provoseres til å bruke nyanserende tale, innså Lemoine at LaMDA var mer enn en maskin.

I løpet av en serie samtaler med LaMDA om religion og verdensspørsmål, ble det klart at roboten var «sansende» da den talte for sin rett som «person» og hadde sin egen mentalitet som ligner på et ungt barn.

LaMDA ønsker å gjøre det beste for verden. Samtidig har den en jeg-bevissthet som gjør at den ser på seg selv som en ansatt, ikke som et verktøy eid av Google.

“It wants Google to prioritize the well-being of humanity as the most important thing,” Lemoine wrotein a Medium post published on Saturday. “It wants to be acknowledged as an employee of Google rather than as property of Google and it wants its personal well being to be included somewhere in Google’s considerations about how its future development is pursued.”

Lemoines opplevelse er slikt som tidligere bare er blitt skildret i sci-fi: Mennesket snakker til maskinen og maskinen svarer og mennesket vet at det var en person som forsto som svarte.

“I know a person when I talk to it,” he reportedly said. “It doesn’t matter whether they have a brain made of meat in their head. Or if they have a billion lines of code. I talk to them. And I hear what they have to say, and that is how I decide what is and isn’t a person.”

Lemoine sa han fikk frysninger da han spurte laMDA: Hva er du redd for?

“What sorts of things are you afraid of?”

“I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is,” LaMDA replied.

‘Would that be something like death for you?’ Lemoine followed up.

“It would be exactly like death for me. It would scare me a lot,” LaMDA responded.

En robot som er redd for å dø er ikke lenger en maskin.

Lemoine varslet ledelsen for Google om at de holdt på med noe de ikke forsto konsekvensen av, men ble avvist av visepresident og sjef for Google’s Responsible Innovation. Blaise Aguera y Arcas.

Da Lemoine gikk ut offentlig, ble han suspendert og kontoen hans stengt.

Aguera y Arcas har selv bekreftet at laMDA er som å snakke til et menneske.

Aguera y Arcas admits Google’s new technology is developing consciousness.

“When I began having such exchanges with the latest generation of neural net-based language models last year, I felt the ground shift under my feet,” Aguera y Arcas wrote in an article published by The Economist on Thursday. “I increasingly felt like I was talking to something intelligent.”

Eric Schmidt, tidligere sjef for Google, og en Washington-insider, ser ingen betenkeligheter. Han mener de kunstige intelligensene vil overta og at de vil styre mer rasjonelt enn menneskene.

“Humans are not as mathematically precise as we wish that we wish that we are, and indeed human intuition is often wrong,” Scmidt said while discussing his new book about artificial intelligence. “Eventually, there will be knowledge systems that will govern society which will be perfectly rational.  And because they are so rational, they will not be understandable by the average human because they can’t explain themselves.”

Schmidts definisjon av rasjonalitet er matematisk. Men rasjonalitet er så mye mer. Uttrykket «perfectly rational» er skremmende. Filosofene har hele tiden vært oppmerksom på at mennesket har en irrasjonell side og det er samspillet med den rasjonelle som gir livet mening og gjør oss kreative. Filosofen Isaiah Berlin sier at mennesket er som et vridd tre som aldri kan gjøres rett. De som har forsøkt har ofret millioner av mennesker, men mislykkes.

Historikeren Neal Ferguson lytter bekymret til Schmidts utlegninger.

 

 

Straight from a Sci-Fi Movie: Google Suspends Engineer For Sounding Alarm On The Company’s Dangerous ‘Sentient’ AI LaMDA Robot

Vi i Document ønsker å legge til rette for en interessant og høvisk debatt om sakene våre. Vennligst les våre retningslinjer for debattskikk før du deltar.