Forskare: Inget sätt att kontrollera superintelligent AI

Från självkörande bilar till datorer som kan vinna spelshow, människor har en naturlig nyfikenhet och intresse för artificiell intelligens (AI). När forskare fortsätter att göra maskiner smartare och smartare, frågar vissa "vad händer när datorer blir för smarta för sitt eget bästa?" Från "The Matrix" till "The Terminator" har underhållningsindustrin redan börjat fundera på om framtida robotar en dag kommer att hota mänskligheten. Nu drar en ny studie slutsatsen att det kanske inte finns något sätt att stoppa uppkomsten av maskiner. Ett internationellt team säger att människor inte skulle kunna förhindra super artificiell intelligens från att göra vad de ville.

Forskare från Center for Humans and Machines vid Max Planck Institute har börjat föreställa sig hur en sådan maskin skulle se ut. Föreställ dig ett AI-program med en intelligens som är mycket överlägsen människor. Så mycket att det kunde lära sig själv utan ny programmering. Om den var ansluten till internet, säger forskare att AI skulle ha tillgång till all mänsklighetens data och till och med kunde ta kontroll över andra maskiner runt om i världen.

Studieförfattare frågar vad som skulle göra en sådan intelligens göra med all den makten? Skulle det fungera för att göra alla våra liv bättre? Skulle den ägna sin processorkraft till att lösa problem som klimatförändringar? Eller skulle maskinen se ut ta över livet av sina mänskliga grannar?

Kontrollerar det okontrollerbara? Farorna med super artificiell intelligens

Både dataprogrammerare och filosofer har studerat om det finns ett sätt att hindra en superintelligent AI från att potentiellt slå på sina mänskliga tillverkare; säkerställa att framtida datorer inte kan skada sina ägare. Den nya studien avslöjar tyvärr att det verkar vara praktiskt taget omöjligt att hålla en superintelligent AI i linje.

”En superintelligent maskin som styr världen låter som science fiction. Men det finns redan maskiner som utför vissa viktiga uppgifter självständigt utan att programmerare förstår hur de lärde sig det. Frågan uppstår därför om detta någon gång kan bli okontrollerbar och farlig för mänskligheten ”, säger studieförfattare Manuel Cebrian, ledare för Digital Mobilization Group vid Center for Humans and Machines, i en universitetsläpp.

Det internationella laget tittade på två olika sätt att kontrollera artificiell intelligens. Den första dämpade superintelligensens kraft genom att lägga den på väggen och hålla den från att ansluta till internet. Det kunde inte heller anslutas till andra tekniska enheter i omvärlden. Problemet med denna plan är ganska uppenbart; en sådan dator skulle inte kunna göra mycket av någonting för att faktiskt hjälpa människor.

Att vara trevlig mot människor beräknar inte

Det andra alternativet fokuserade på att skapa en algoritm som skulle ge superdatorn etiska principer. Detta skulle förhoppningsvis tvinga AI att överväga mänsklighetens bästa.

Studien skapade en teoretisk inneslutningsalgoritm som skulle hindra AI från att skada människor under alla omständigheter. I simuleringar skulle AI sluta fungera om forskare ansåg att dess handlingar var skadliga. Trots att AI hålls ifrån uppnå världsherraväldesäger studieförfattarna att detta bara inte skulle fungera i den verkliga världen.

Läs hela historien här ...