Becoming One: Futurists Predict Technological Singularity Senast 2045

De flesta känner till syndafloden av appar för artificiell intelligens (AI) som verkar utformade för att göra oss mer effektiva och kreativa. Vi har appar som tar textuppmaningar och genererar konst, och det kontroversiella ChatGPT, som väcker allvarliga frågor om originalitet, desinformation och plagiat.

Trots dessa farhågor blir AI allt mer genomgripande och påträngande. Det är den senaste tekniken som kommer irreversibelt förändras våra liv.

Internet och smartphones var andra exempel. Men till skillnad från dessa teknologier tror många filosofer och forskare att AI en dag kan nå (eller till och med gå längre än) mänskligt "tänkande". Denna möjlighet, tillsammans med vårt ökande beroende av AI, ligger till grund för ett koncept inom futurismen som kallas "teknisk singularitet. "

Denna term har funnits ett tag, efter att ha varit det populariserade av science fiction-författaren Vernor Vinge för några decennier sedan.

Idag hänvisar ”singulariteten” till en hypotetisk tidpunkt vid vilken utvecklingen av konstgjord allmän intelligens (AGI) – det vill säga AI med förmågor på mänsklig nivå – blir så avancerad att den oåterkalleligt kommer att förändra den mänskliga civilisationen.

Det skulle markera gryningen av vår oskiljaktighet från maskiner. Från det ögonblicket kommer vi inte att kunna leva utan dem utan att sluta fungera som människor. Men om singulariteten kommer, kommer vi ens att märka det?

Hjärnimplantat som första steg

För att förstå varför detta inte är grejen sagor, behöver vi bara se så långt som den senaste utvecklingen av hjärn-datorgränssnitt (BCI). BCI:er är en naturlig början till singulariteten i många futuristers ögon, eftersom de smälter samman sinne och maskin på ett sätt som ingen annan teknik hittills kan.

Elon Musks företag Neuralink is söker tillstånd från Food and Drug Administration för att påbörja mänskliga försök för sin BCI-teknologi. Detta skulle innebära att man implanterar neurala kontakter i frivilligas hjärnor så att de kan kommunicera instruktioner genom att tänka efter dem.

Neuralink hoppas kunna hjälpa paraplegiker att gå och blinda se igen. Men bortom dessa mål finns andra ambitioner.

Musk har länge sagt han tror att hjärnimplantat tillåter det telepatisk kommunikation, och leda till samutveckling av människor och maskiner. han hävdar att om vi inte använder sådan teknik för att förstärka våra intellekt, riskerar vi att utplånas av superintelligent AI.

Musk är förståeligt nog inte allas favorit teknisk expertis. Men han är inte ensam om att förutsäga en massiv tillväxt av AI:s kapacitet. Undersökningar visar AI-forskare håller övervägande med AI kommer att uppnå "tänkande" på mänsklig nivå inom detta århundrade. Vad de inte är överens om är om detta innebär medvetande eller inte, eller om detta nödvändigtvis betyder att AI kommer att skada oss när den når denna nivå.

Ett annat BCI-teknikföretag, Synkronisera, har skapat ett minimalt invasivt implantat som gjorde det möjligt för en patient med amyotrofisk lateralskleros (ALS) att skicka e-post och surfa på internet använder sina tankar.

Synchrons vd Tom Oxley tror att hjärnimplantat i slutändan kan gå längre än protesrehabilitering och helt förändra hur människor kommunicerar. Att prata med en TED publik, sa han att de en dag kan tillåta användare att "kasta" sina känslor så att andra kan känna vad de känner, och "hjärnans fulla potential skulle då låsas upp."

Tidiga prestationer inom BCI kan utan tvekan anses vara de första stadierna av en tumlande mot den postulerade singulariteten, där människa och maskin blir ett. Detta behöver inte betyda att maskiner kommer att bli "kännande" eller kontrollera oss. Men själva integrationen, och vårt därav följande beroende av den, skulle kunna förändra oss oåterkalleligt.

Det är också värt att nämna att startfinansieringen för Synchron kom delvis från DARPA, forsknings- och utvecklingsarmen till det amerikanska försvarsdepartementet som hjälpte till gåva världen internet. Det är förmodligen klokt att vara orolig över var DARPA placerar sina investeringspengar.

Skulle AGI vara vän eller fiende?

Enligt Ray Kurzweil, en futurist och tidigare Googles innovationsingenjör, kan människor med AI-förstärkta sinnen kastas ut på evolutionens autobahn – rusa framåt utan hastighetsbegränsningar.

I sin bok från 2012 How to Create a Mind, Kurzweil teoretiserar de neocortex – den del av hjärnan som tros vara ansvarig för ”högre funktioner” som sensorisk perception, känsla och kognition – är ett hierarkiskt system av mönsterigenkännare som, om de emuleras i en maskin, skulle kunna leda till artificiell superintelligens.

Han förutspår att singulariteten kommer att vara med oss ​​senast 2045, och tror att det kan skapa en värld av superintelligenta människor, kanske till och med den nietzscheanska "Übermensch": någon som överträffar alla världsliga begränsningar för att förverkliga sin fulla potential.

Men alla ser inte AGI som en bra sak. Den framlidne, store teoretiske fysikern Stephen Hawking varnade superintelligent AI kunde resultera i apokalypsen. 2014 sa Hawking till BBC: "Utvecklingen av full artificiell intelligens kan innebära slutet för mänskligheten. […] Den skulle ta fart av sig själv och designa om sig själv i en ständigt ökande takt. Människor, som är begränsade av långsam biologisk evolution, kunde inte konkurrera och skulle ersättas.”

Hawking var dock en förespråkare för BCI.

Ansluten i ett bikupa sinne

En annan idé som relaterar till singulariteten är den med det AI-aktiverade "hive mind". Merriam-Webster definierar en hive sinne som ”den kollektiva mentala aktiviteten uttryckt i det komplexa, koordinerade beteendet hos en koloni av sociala insekter (såsom bin eller myror) anses vara jämförbara med ett enda sinne som kontrollerar beteendet hos en enskild organism."

En teori har utvecklats av neuroforskaren Giulio Tononi kring detta fenomen, kallat Integrerad informationsteori (JAG DET). Det tyder på att vi alla är på väg mot en sammanslagning av alla sinnen och all data.

Filosofen Philip Goff gör ett bra jobb med att förklara implikationerna av Tononis koncept i sin bok Galileos fel: "IIT förutspår att om tillväxten av internetbaserad anslutning någonsin resulterade i att mängden integrerad information i samhället överträffade mängden integrerad information i en mänsklig hjärna, så skulle inte bara samhället bli medvetet utan mänskliga hjärnor skulle 'absorberas' in i den högre formen av medvetande. Hjärnor skulle upphöra att vara medvetna i sin egen rätt och skulle istället bli bara kuggar i den megamedvetna enhet som är samhället inklusive dess internetbaserade anslutning.”

Det är värt att notera att det finns få bevis för att något sådant någonsin skulle kunna bli verklighet. Men teorin väcker viktiga idéer om inte bara teknikens snabba acceleration (för att inte tala om hur kvantberäkning kan driva detta) – utan om själva medvetandets natur.

Hypotetiskt, om en bikupa skulle komma fram, skulle man kunna föreställa sig att det skulle markera slutet för individualiteten och de institutioner som förlitar sig på den, inklusive demokrati.

Den sista gränsen går mellan våra öron

Nyligen OpenAI (företaget som utvecklade ChatGPT) släppte ett blogginlägg som bekräftade sitt engagemang för att uppnå AGI. Andra kommer utan tvekan att följa efter.

Våra liv blir algoritmiskt styrda på sätt som vi ofta inte kan urskilja och därför inte kan undvika. Många funktioner i en teknisk singularitet lovar fantastiska förbättringar i våra liv, men det är ett bekymmer att dessa AI:er är produkter från privat industri.

De är praktiskt taget oreglerade, och till stor del på nycker av impulsiva "technopreners" med mer pengar än än de flesta av oss tillsammans. Oavsett om vi anser dem vara galna, naiva eller visionärer, har vi rätt att känna till deras planer (och kunna motbevisa dem).

Om de senaste decennierna är något att gå efter, när det gäller ny teknik, kommer vi alla att påverkas.

Läs hela historien här ...