Framtida chock: AI-framsteg trendar mot vertikal acceleration

mörk Forest

"Förlåt att jag ska säga det, men det finns inga utomjordingar", sa underrättelseanalytikern.

"Tic Tac-videorna, ballongerna, UFO:n - de är inte utomjordingar", sa han. "Vi är helt ensamma här, det är bara vi."

För de av oss som läser Cixin Liu, Kinas briljanta sci-fi-författare, är uppfattningen att vi är ensamma extremt tröstande. Cixin vände mig till Dark Forest-hypotesen, som postulerar att även om det kan finnas många främmande civilisationer där ute, ser vi inga tecken på dem eftersom de är tysta och paranoida, så att de inte gör andra uppmärksamma på deras existens och inbjuder till invasion, förintelse. 

"Vad vi ser är vår nästa generations militära teknik," fortsatte underrättelseanalytikern.

"Vi ser alla vad ukrainarna gjorde mot Rysslands militär med hjälp av slagfältsteknik som vi i allmänhet skulle anse vara föråldrad i förhållande till vår senaste teknik," sade han. "Men USAs faktiska toppmoderna är en eller två generationer före vad allmänheten ser i dag", sa han, vilket samtidigt var tröstande och skrämmande.

"Det ligger inte i vårt intresse att visa våra motståndare hur långt framskridna våra förmågor har vuxit."

"Titta noga på det här diagrammet", sa teknikinvesteraren.

Det var den typen av kurva jag sett ofta, en uppåtlutande trend som accelererar över tiden. På den vertikala axeln fanns beräkningskraften som användes för att träna artificiell intelligens. Den horisontella axeln var tid, går tillbaka till början av 1950-talet. "Jag vet att du tror att du har sett den här typen av diagram förut, det är en klassisk hockeyklubba. Men här är grejen, det är ett logaritmiskt diagram, det ska inte böjas uppåt. Den här typen av tillväxt är nästan omöjlig för den mänskliga hjärnan att förstå.”

ChatGPT har haft den brantaste användningen av någon teknik i historien. Det slog 1 mm användare på fem dagar. Inom 2 månader passerade den 100 mm användare. Det beräknas ha 1 miljard användare i slutet av året. Det är en anmärkningsvärd teknik, och även om vi inte kan ha någon säkerhet om hur den kommer att förändra världen, råder det ingen tvekan om att bågen av dess inflytande bara har börjat. Regeringar kommer att ligga långt efter när det gäller att reglera det. Vi vet ännu inte vad som kommer att hända när den ansluts till internet. Och ChatGPT ligger 2-3 generationer efter toppmodern AI.

"Tid är det enda som inte går att stoppa. Som ett vasst blad skär det tyst igenom hårt och mjukt, ständigt framåt. Ingenting är kapabelt att skaka det ens det minsta, men det förändrar allt”, skrev Cixin Liu i The Dark Forest. "Att hålla sig vid liv är inte tillräckligt för att garantera överlevnad. Utveckling är det bästa sättet att säkerställa överlevnad, säger Cixin. "Vet du vad det största uttrycket för respekt för en ras eller civilisation är? Förintelse. Det är den högsta respekt en civilisation kan få. De skulle bara känna sig hotade av en civilisation som de verkligen respekterar.”

Läs hela historien här ...