Deres største bekymring har vært ideen om såkalt kunstig generell intelligens (AGI) – et løst definert begrep for det øyeblikket maskiner blir i stand til å utføre omfattende funksjoner og kan utvikle sin egen programmering.