Joe Allen: Nedräkning till Gigadeath – Från AI Arms Race till Artilect War

För sanna troende kommer artificiell intelligens oundvikligen att bli övermänsklig. Enligt deras myter befinner vi oss i ett gudlöst kosmos. Så det är upp till oss att skapa digitala gudar. Eller snarare, det är upp till några tekniknördar att skapa dem. Vi andra kan antingen knäböja framför deras altare eller bli knuffade ner i avgrunden.

När bots svärmar in i våra liv växer spänningen mellan oss och dem. Vissa dagar känns det som att vi skyndar oss mot ett datoriserat raskrig mellan begynnande cyborgs och äldre människor. Efter för mycket skärmtid – när mina synapser ordnar om sig för att passa data som strömmar in – är det inte klart vilken underart jag tillhör.

För ordens skull är jag mer agnostisk än sann troende. Tekniker ger alla möjliga tomma löften. De trivs med att projicera mystiska krafter. Trots det ignorerar vi deras teknokulturella revolution på egen risk.

Tekniska företag har den verkliga makten av informationskontroll. De förvränger bokstavligen det allmänna medvetandet i stor skala. På den militära sidan har tillsynsmän förmågan att spränga dig från andra sidan jorden. Du kanske hånar att USA:s väpnade styrkor har skapat fler transofficerare än cyborgsoldater. Men om du inte kan sikta in din AR-15 snabbare än deras drönare kan finslipa, fnissar du under en stövel. Artificiell intelligens stärker bara det fotfästet.

Under 2018, US Defense Advanced Research Projects Agency meddelade det "fokuserar sina investeringar på en tredje våg av AI som tar fram maskiner som kan förstå och resonera i sitt sammanhang." Direktören för DARPA:s informationsinnovationskontor, Brian Pierce, är galet entusiastisk om en "sann symbios mellan Homo sapiens och den framväxande Machina sapiens."

En 2021 vitt papper från det brittiska försvarsministeriet bekräftar: "Kärnan i framtida militära fördelar kommer att vara effektiv integrering av människor, artificiell intelligens och robotik i stridssystem – människa-maskin-team – som utnyttjar förmågan hos människor och teknologier för att överträffa våra motståndare. ”

Kina har liknande cyborgambitioner. Så gör Ryssland och NATO . "Artificiell intelligens är framtiden", proklamerade Vladimir Putin berömt. "Den som blir ledare på denna sfär kommer att bli världens härskare."

Kanske slösar generalerna pengar på nördkrigföring. Kanske leker de bara med nya leksaker.

Jag skulle inte räkna med det.

Redan nu ser vi smala AI: er överträffa mänskligt mönsterigenkänning i de specifika uppgifter de är designade för att utföra – proteinmodellering, radiologisk analys, slagfältsövervakning och målförvärv, för att nämna några. Exempelvis tillhandahåller den amerikanska försvarsentreprenören Palantir fritt sin AI till Ukraina. Det är en viktig anledning till att de har hållit ut så länge mot de större ryska styrkorna.

"Kraften hos avancerade algoritmiska krigföringssystem är nu så stor att det motsvarar att ha taktiska kärnvapen mot en motståndare med bara konventionella," Palantirs vd Alex Karp berättade de Washington Post. "Allmänheten tenderar att underskatta detta. Våra motståndare gör det inte längre.”

I händerna på elit apex predators är dessa digitala verktyg dödligt seriösa. När ledare inte distribuerar teknik mot rivaler, vänder de det mot sina egna medborgare. Kom ihåg att Clearview AI ansiktsigenkänning aktiverad polisen för att spåra upp demonstranter den 6 januari.

Teknik är makt. har alltid varit.

Alla är dock inte oroliga. Tvivlare hånar föreställningen om "intelligenta" maskiner. "AI finns inte", säger de. "Det är bara en algoritm." "Skräp in skräp ut." Vanligtvis är de före detta programmerare som fortfarande lever på 90-talet. De upprepar "skräp in, skräp ut" så ofta, det är som om de var programmerade att säga det.

De här killarna har en poäng. En AI är bara så bra som utformningen av dess neurala nätverk och den data den är tränad på. Det är inte olikt människor på det sättet. Men när det är bra är det läskigt bra. Om en solid AI är tränad att känna igen kontoutdrag, till exempel, kan den gräva genom berg av sopor och hitta en på några sekunder – som en soptunna Regnman som dyker ut för att stjäla din identitet.

Den AI som skakade mig vaken var AlphaZero, utvecklad av Googles DeepMind 2017. Programmerat med bara grundläggande spelregler och "lusten" att vinna, detta neurala nätverk lärde sig själv att spela Go, schack och ett antal videospel på bara några timmar. Att behärska Go är särskilt viktigt. I decennier insisterade skeptiker på att ingen dator skulle förstå detta urgamla kinesiska spel. Gos komplexitet, hävdade de, kräver djup intuition som bara människor besitter. Det visade sig att det var önsketänkande.

AlphaZero, liksom sin föregångare AlphaGo, uppfinner effektiva strategier som ingen människa någonsin har tänkt på. Och mest alarmerande, dessa digitala sinnen krossa mänskliga mästare i sina egna spel. Om folk hade något jäkla vett hade de dragit ur kontakten just då. På det hela. Men du vet vad de säger - "Du kan inte stoppa framsteg."

Nästa steg är att kombinera dessa smala kognitiva förmågor till en enda "konstgjord hjärna". Detta konstgjord allmän intelligens (AGI) skulle vara tillräckligt flexibel för att flytta från en domän till nästa, eller införa olika moduler samtidigt, för att lösa verkliga problem.

I teorin kan man limma ihop vilken kombination av förmågor som helst – ansiktsigenkänning, naturlig språkbehandling, social modellering, robotstyrningssystem, estetiska algoritmer – vad som helst du vill ha i en robothjärna. Maskinen skulle sannolikt överträffa människor på alla dessa områden. Men oavsett vilken kombination du kom på så skulle det inte vara helt mänskligt. Det skulle inte heller dela våra värderingar eller erfarenheter av världen. Det skulle vara ett blindt, deformerat barn etsat i kisel, men med enastående kognitiv kraft - ungefär som den gnostiska demiurgen.

För transhumanister kommer tillkomsten av en självförbättrande AGI att markera ett "sällsynt ögonblick i historien" - Singularitet. Därifrån är äldre människor bara med på resan. Om vi ​​har tur.

Det är drömmen i alla fall. Och stora företag som DeepMind och OpenAI – såväl som deras kinesiska motsvarigheter på Baidu och Tencent – ​​är Racing att göra någon version till verklighet. Deras vd:ar håller ut löftet om en digital utopi, eller någon approximation. De föredrar att du bara slappnar av och inte ställer frågor.

Det finns dock några alarmister som säger att skenande AI kan innebära förintelsen av mänskligheten. Eftersom vi är barnmorskor till AGI, råder de, är vår centrala uppgift att lära detta spädbarn datorguden att vara välvillig – att anpassa dess värderingar med våra. Annars blir vi förslavade eller dör. De kallar detta för "AI-anpassningsproblemet." Eftersom olika fraktioner slåss om hur "vaken" eller "baserad" ChatGPT får vara, ser det ganska dystert ut.

Märkligt nog kommer några av de mest högljudda larmsamtalen från de som arbetar på AGI. De inkluderar Sam Altman och Elon Musk (OpenAI), Demis Hassabis (DeepMind) och verksamma från Kina, Ben Goertzel (SingularityNET) och teknokalypsens galne profet Hugo de Garis (Xiamen University).

Oxford-transhumanisten Nick Bostrom, författare till 2014 års bok förklarade betydelsen av en Tesla-körning TED publik:

Potentialen för superintelligens ligger vilande i materien, ungefär som atomens kraft har legat i dvala genom mänsklighetens historia och tålmodigt väntat där – fram till 1945. Under detta århundrade kan forskare lära sig att väcka kraften i artificiell intelligens. Och jag tror att vi då kan se en underrättelseexplosion.

Oavsett de existentiella riskerna, hävdar dessa män, kommer varje nation som misslyckas med att omfamna AI hamna bakom dem som gör det. Samma dynamik gäller för individer och organisationer som konkurrerar mot varandra inom nationer. I ett digitalt ekosystem är det de starkaste cyborgernas överlevnad – med AI framhållen som en mytisk Ring of Power.

Av alla framtider som projiceras av transhumanister, den som Hugo de Garis framtrollade är den gruvligaste. Det är också det ärligaste. Många i Silicon Valley tror att övermänsklig maskinintelligens kommer att leda till "radikalt överflöd" och obegränsad kunskap om universum. Som fysiker och robotbyggare tror de Garis att alla dessa saker kommer att hända.

Men han profeterar också att skapa "artilekter" - förkortning för "artificiella intellekt"; i grund och botten AGI—kommer förmodligen att leda till mänsklighetens förstörelse. Kanske kommer dessa digitala gudar inte att ha någon användning för oss och klämmer oss som insekter. Eller lika troligt, hävdar de Garis, kommer en "gigadeath"-händelse att inträffa när människor slåss om huruvida de ska skapa dem i första hand. Det betyder att miljarder dör i en handvändning.

"Frågan som kommer att dominera 21^st talets globala politik kommer att vara: 'Vem eller vilka borde vara den dominerande arten på planeten, artilekter eller människor?'” Detta leder honom till att formulera en oroande, om än förvirrande formulerad slogan: ”Bygger vi gudar, eller bygger vi våra potentiella utrotare?”

De Garis uppfinner galna nya ord som en oregerlig Scrabble-spelare och utforskar denna konflikt i sin bok från 2005. Han förväntar sig att den kommer att dyka upp inom några generationer. "Det här kriget kommer att använda det mest destruktiva vapnet som någonsin utarbetats, baserat på slutet av 21^st talets vetenskap och teknik."

Vi pratar supernukes och AI-designade biovapen – en mörk horisont som kryper av robotiska helveteshundar och nanobotsvärmar.

Artilektkriget kommer att utkämpas mellan "Terranerna", som skulle döda för att bevara den organiska mänskligheten, och "kosmisterna", vars religiösa hängivenhet för att bygga artilekter är så intensiv, att de kommer att vara villiga att dö för denna spådom. Faktum är att de är villiga att se alla dö för det:

I 20^th århundradet utplånade nazisterna 20 miljoner ryssar, japanerna mördade 20 miljoner kineser, Stalin dödade 30 miljoner i sina utrensningar och Mao svalt 50 miljoner kinesiska bönder. Dessa är bland de största brotten i historien, men de bleknar i jämförelse med tragedins storlek om artilekterna någonsin bestämmer sig för att utplåna mänskligheten. Tragedin skulle vara total i den meningen att det inte längre skulle finnas några människor kvar att sörja artens försvinnande.

Som de Garis noterar är det häpnadsväckande att någon människa skulle sträva efter ett sådant mål med vetskapen om att miljarder kan slaktas. Men för kosmister är skapandet av övermänskliga maskiner en religiös strävan bortom gott och ont. I traditionen av galna vetenskapsmän plågad av skuld, sätter de Garis sig själv i det sistnämnda lägret, gigadeath var förbannad:

Mitt slutmål är att se mänskligheten, eller åtminstone en del av mänskligheten, gå Cosmist och att göra det framgångsrikt genom att bygga verkligt gudaliknande artilekter som reser sig över våra ynkliga mänskliga intellektuella och andra förmågor.

Ett nyckelbegrepp i Artilektkriget är "artsdominans". Efter att ha skapat konstgjort liv, möter mänskligheten en ny evolutionär konkurrent. När vissa människor smälter samman med det digitala livet som bandmaskar i en meka-tarm, kommer mänskligheten att delas upp i underarter - botsugande cyborgs och "ynkliga" människor.

Tillsammans med artbildning kommer konkurrens. Utgående från politisk och evolutionär teori säger de Garis att det bara finns så mycket utrymme ovanpå skithögen. Eftersom jämlikhet inte finns i naturen är artdominans oundviklig. Med mänsklighetens historia som guide betyder det våld.

Kommer topplatsen att tas av datorer med hög IQ som kretsar runt planeten och som är "snabbare och bättre än människor av faktorer på biljoner biljoner"?

Eller kommer det att ockuperas av kosmisterna som bygger och distribuerar dessa maskiner?

Eller kommer Terrans att döda denna transhumana kult och gå tillbaka till att dunka trummor i skogen?

Det verkar lika troligt att vi kommer att snubbla in i ett kärnvapenkrig med Ryssland eller Kina, vilket helt och hållet besparar oss detta artilektkrig. Det finns gott om gigadeathom att gå runt utan en superdatorgud.

Men om vi lyckas undvika att kärnva ner varandra i rymddamm, kan det vara så att supermaktsrivalisering kommer att driva teknisk utveckling – särskilt militär teknik – mot något som liknar de Garis vision. Se det som en singularitet med en smäll.

I verkligheten, vikten av Hugo de Garis mardröm kan vara dess inflytande på kinesisk teknikkultur. Från 2006 till 2010 avslutade han sin yrkeskarriär i Kina – först vid Wuhan University, sedan drev han artificiell hjärnlabb vid Xiamen University. Fram till pandemin sprang hans nära kollega Ben Goertzel SingularityNET från Hong Kong. Detta AGI-projekt fungerade i samarbete med Hanson Robotics– fortfarande baserad i Hong Kong – vars robot Sophia är upphöjd som en transhuman gudinna på världsscenen.

Omfattningen av tekniköverföringen till det kinesiska kommunistpartiet är okänd. Men det är rimligt att anta att oavsett deras avsikter har de Garis och Goertzel hjälpt till i Kinas mål att överträffa USA i artificiell intelligens. Denna ambition inkluderar att länka mänskliga hjärnor till AI och skapa artificiell allmän intelligens – med sikte på militära tillämpningar.

Volymen PRISM från november 2021, publicerad av National Defense University i DC, innehåller ett ögonöppnande forskningsdokument, "Kinas "nya generationens" AI-hjärnprojekt.” Det råder ingen tvekan om att den transhumana impulsen går genom den kinesiska själen. Författarna citerar en toppforskare från KKP, Xu Bo, som talar till ministeriet för vetenskap och tekniks officiella tidning:

Som generalsekreterare Xi Jinping påpekade i den kollektiva studien av politbyrån, måste forskning om artificiell intelligens utforska "obemannade områden". Inom områdena svärmintelligens, människa-maskin hybridintelligens och autonom intelligens finns det stora obemannade områden som ska utforskas. … Vi tror att autonom evolution är en bro från svag artificiell intelligens till allmän artificiell intelligens.

Eller, som dekanus vid Beijing Academy of Artificial Intelligence, Huang Tiejun, sa till en Future of Life-konferens:

Vår mänskliga ras är bara i ett skede. Varför stanna? Människan utvecklas för långsamt. Det är omöjligt för människor att jämföra med maskinbaserad superintelligens. Det kommer att hända förr eller senare, så varför vänta? Även ur perspektivet av mänsklig centrism eller mänsklig exceptionalism, behövs superintelligens för att möta de stora utmaningar som vi inte kan lista ut. Det är därför jag stöder idén.

Genom att översätta uttalanden från hela det kinesiska tekniska etablissemanget konstaterar författarna till PRISM-tidningen torrt: "Andra sådana prognostikationer är vanliga."

Framtiden ser mörk ut, men möjligheterna är fortfarande vidöppna. Återigen, jag befinner mig någonstans mellan tvivlarna och sanna troende – och jag ska erkänna att det är en ljummet häck.

Precis som smartphones eller internet kommer AI aldrig att fungera som annonserat. Teknisk utveckling är en saga om oväntade buggar och oavsiktliga konsekvenser. Det är fullt av pumpade aktier, överhypade regeringskontrakt och överfinansierade akademiska projekt.

Det finns inga flygande bilar (ännu). Det finns ingen kall fusion (ännu). Det finns inga mind control nanobots (eller hur?).

Ändå är det bara en dåre som vägrar se att smartphones och internet har krossat den organiska kulturen. Detsamma gäller massövervakning och drönarkrigföring. Oavsett vilken form AI så småningom tar, är jag övertygad om att det kommer att få liknande effekter, om inte värre.

Det kan vara så att AI-chatbotar och virtuella sexslavar kommer att dra bort vissa människor från verkligheten, vilket gör dem mer galna än de redan är. Eller så kan det vara så att en armé av AI-förbättrade, genetiskt modifierade, hjärn-chippade cyborgs kommer att stiga ner på moln av nanobotar för att föra ett raskrig mot vad som finns kvar av äldre människor.

Svaret kommer med tiden. Håll din aluminiumfolie tät och ditt puder torrt. Och för guds skull, stäng av din smartphone. Det är så de får dig.

Läs hela historien här ...