Experter: "Medveten" AI är inriktad på personlighetsrättigheter i framtiden

Förnamn företag, och nu artificiell intelligens – strävan efter icke-mänsklig personlighet fortsätter i snabb takt, även om detta senaste argument är avgjort mer komplicerat än det förra.

I ett op-ed för Los Angeles Times, filosofiexperten Eric Schwitzgebel och "icke-mänsklig" intelligensforskare Henry Shevlin hävdade att även om AI-teknik definitivt inte är där ännu, har det "blivit allt mer troligt att AI-system skulle kunna uppvisa något som liknar medvetande" - och om eller när det inträffar, algoritmerna, kommer också att behöva rättigheter.

Citerar förra årets AI-medvetandekrig – som vi omfattas extensivt och även doppade tårna i – Forskarna noterade att "några ledande teoretiker hävdar att vi redan har de centrala tekniska ingredienserna för medvetna maskiner."

Om maskiner någonsin skulle få medvetande, hävdar Schwitzgebel och Shevlin att vi måste börja tänka kritiskt på hur AI:erna behandlas - eller snarare hur de kan tvinga våra händer.

"AI-systemen själva kan börja vädja, eller tyckas vädja, för etisk behandling," förutspådde paret. "De kan kräva att inte stängas av, formateras om eller raderas; ber om att få göra vissa uppgifter snarare än andra; insistera på rättigheter, frihet och nya befogenheter; kanske till och med förvänta sig att bli behandlad som våra jämlikar.”

De "enorma" moraliska riskerna med ett sådant kollektivt beslut skulle utan tvekan väga stor vikt, särskilt om AI:er blir medvetna förr snarare än senare.

"Anta att vi reagerar konservativt och avböjer att ändra lag eller policy tills det finns bred konsensus om att AI-system verkligen är meningsfullt medvetna", skrev Shevlin och Schwitzgebel. "Även om detta kan verka lämpligt försiktigt, garanterar det också att vi kommer att vara långsamma med att erkänna rättigheterna för våra AI-skapelser."

"Om AI-medvetandet anländer tidigare än de mest konservativa teoretiker förväntar sig, så skulle detta sannolikt resultera i den moraliska motsvarigheten till slaveri och mord på potentiellt miljoner eller miljarder kännande AI-system - lidande i en skala som normalt förknippas med krig eller hungersnöd," tillade de. .

Det "säkrare" alternativet till detta domedagsscenario skulle vara att ge medvetna maskiner rättigheter i förväg - men det skulle också komma med sina egna problem.

"Föreställ dig om vi inte kunde uppdatera eller ta bort en algoritm som spyr hat eller lögn för att vissa människor oroar sig för att algoritmen är medveten," sa experterna. "Eller tänk om någon låter en människa dö för att rädda en AI-vän. Om vi ​​för snabbt ger AI-system betydande rättigheter kan de mänskliga kostnaderna bli enorma."

Det enda sättet att säkerställa att inget av dessa resultat inträffar, skrev paret, skulle vara att sluta ge en AI ett samvete i första hand.

Läs hela historien här ...