Super-AI kan uppstå som Coronavirus för att förstöra civilisationen

VD för Allen Institute for AI, professor Oren Etzioni, utfärdade en serie potentiella varningsskyltar som skulle varna oss för att "superintelligens" var runt hörnet.

Människor måste vara redo för tecken på robotisk superintelligens men borde ha tillräckligt med tid att adressera dem, har en datorforskare varnat.

Oren Etzioni, VD för Allen Institute for AI, skrev en tidning med titeln: ”Hur man vet om artificiell intelligens håller på att förstöra civilisationen. ”

Han skrev: ”Kan vi vakna upp en morgon fördömd att en supermäktig AI har uppstått med katastrofala konsekvenser?

”Böcker som Superintelligence av Nick Bostrom och Life 3.0 av Max Tegmark, liksom nyare artiklar, hävdar att illvillig superintelligens är en existentiell risk för mänskligheten.

”Men man kan spekulera oändligt. Det är bättre att ställa en mer konkret, empirisk fråga: Vad skulle varna oss för att superintelligens verkligen är runt hörnet? ”

Han jämförde varningsskyltar med kanariefågel i kolgruvor, som användes för att upptäcka kolmonoxid eftersom de skulle kollapsa.

Prof Etzioni hävdade att dessa varningstecken kommer när AI-program utvecklar en ny kapacitet.

Han fortsatte för MIT Review: ”Kan det berömda Turing-testet fungera som en kanariefågel? Testet, som uppfanns av Alan Turing 1950, antyder att AI på mänsklig nivå kommer att uppnås när en person inte kan skilja på att prata med en människa från att prata med en dator.

”Det är ett viktigt test, men det är inte en kanariefågel; det är snarare tecknet att AI på mänsklig nivå redan har kommit.

”Många datavetare tror att om det ögonblicket anländer kommer superintelligens snabbt att följa. Vi behöver fler milstolpar. ”

Men han varnade för att "den automatiska formuleringen av inlärningsproblem" skulle vara den första kanariefågeln, följt av självkörande bilar.

Läs hela historien här ...