Datavetare skapar ritning för maskinmedvetenhet

Kända forskare Manuel Blum och Lenore Blum har ägnat hela sitt liv åt studier av datavetenskap med särskilt fokus på medvetande. De har författat dussintals artiklar och undervisat i decennier vid prestigefyllda Carnegie Mellon University. Och nyligen publicerade de ny forskning som skulle kunna fungera som en ritning för att utveckla och demonstrera maskinmedvetenhet.

Det papperet, med titeln "Ett teoretiskt datavetenskapligt perspektiv på medvetandet", kanske bara ett förtryckt papper, men även om det kraschar och brinner vid peer-review (det gör det säkert inte) kommer det fortfarande att vara en otrolig skillnad i världen av teoretisk datavetenskap.

Blum sällskapas av en tredje samarbetspartner, en Avrim Blum, deras son. Per Blums papper:

Alla tre Blums fick sin doktorsexamen vid MIT och tillbringade sammanlagt 65 underbara år på fakulteten vid datavetenskapliga avdelningen vid CMU. För närvarande är de äldre två emeriti och den yngre är Chief Academic Officer vid TTI Chicago, ett doktorandbaserat datavetenskapligt forskningsinstitut som fokuserar på områden för maskininlärning, algoritmer, AI (robotik, naturligt språk, tal och syn), datavetenskap och beräkningsbiologi, och ligger på University of Chicago campus.

Detta är deras första gemensamma uppsats.

Hats off to the Blums, det kan inte finnas för många teoretiska datavetenskapsfamiljer i framkant av maskinmedvetenhetsforskning. Jag är nyfiken på hur familjens husdjur är.

Låt oss gå vidare till tidningen ska vi? Det är en fascinerande och väl förklarad bit av hardcore-forskning som mycket väl kan förändra vissa perspektiv på maskinmedvetandet.

Per tidningen:

Vårt stora bidrag ligger i den exakta formella definitionen av en medveten turingmaskin (CTM), även kallad en medveten AI. Vi definierar CTM i andan av Alan Turing's enkla men ändå kraftfulla definition av en dator, Turing Machine (TM). Vi letar inte efter en komplex modell av hjärnan eller kognitionen utan efter en enkel modell av (det visserligen komplexa begreppet) medvetande.

I detta sammanhang verkar en CTM vara vilken maskin som helst som kan visa medvetande. Den stora idén här är inte nödvändigtvis utvecklingen av en tänkande robot, utan mer en demonstration av kärnkoncepten medvetande i hopp om att vi får en bättre förståelse för våra egna.

Detta kräver att medvetandet minskas till något som kan uttryckas i matematiska termer. Men det är lite mer komplicerat än att bara mäta vågor. Så här säger Blum:

Ett viktigt huvudmål är att avgöra om CTM kan uppleva känslor inte bara simulera dem. Vi undersöker särskilt känslor av smärta och njutning och föreslår hur dessa känslor kan genereras. Vi hävdar att även en fullständig kunskap om hjärnans kretsar - inklusive medvetenhetens neurala korrelat - inte kan förklara vad som gör det möjligt för hjärnan att skapa en medveten upplevelse som smärta.

Vi föreslår en förklaring som fungerar lika bra för robotar som har hjärnor av kisel och guld som för djur som har hjärnor av kött och blod. Vår avhandling är att i CTM är det systemets arkitektur, dess grundläggande processorer; dess uttrycksfulla inre språk som vi kallar hjärnan; och dess dynamik (förutsägelse, konkurrens, feedback och lärande); som gör det medvetet.

Att definiera medvetandet är bara hälften av striden - och en som sannolikt inte kommer att vinnas förrän efter att vi har tagit det. Den andra sidan av ekvationen är att observera och mäta medvetandet. Vi kan se en valp reagera på stimulans. Även växtmedvetande kan observeras. Men för att en maskin ska kunna visa medvetandet måste dess observatörer vara säkra på att den inte bara imiterar medvetandet genom smart efterlikning.

Låt oss inte glömma det GPT-3 kan blåsa även de mest cyniska i sinnet med sin otroliga förmåga att verka kogenta, sammanhängande och gripande (låt oss inte glömma att du måste slå "generera ny text" en massa gånger för att få det att göra för att det mesta av det spottar ut är skräp).

Blums kringgår detta problem genom att utforma ett system som bara är avsett att visa medvetande. Det kommer inte att försöka agera mänskligt eller övertyga dig om att det tänker. Det här är inte ett konstprojekt. Istället fungerar det lite som ett digitalt timglas där varje sandkorn är information.

Läs hela historien här ...