Expert: AI-soldater kommer att utveckla 'moralsk kompass' och trotsa order

Wikimedia Commons
Vänligen dela denna berättelse!
image_pdfimage_print
Det har redan visats att AI-algoritmer uppvisar sina skapares fördomar, så varför inte mordiska avsikter också? Technocrats är så upptagna av sina Pollyanna-uppfinningar att de inte kan se det logiska slutet på deras existens. ⁃ TN Editor

Mordiska robotsoldater kommer att bli så avancerade att de kan utveckla sin egen moraliska kod för att våldsamt trotsa order, hävdar en AI-expert.

Tidigare cybernetikingenjör Dr Ian Pearson förutspår att vi riktar oss mot en framtid medvetna maskiner.

Men om robotar drivs till handling av militära makter varnar futurologen att de kommer att kunna framkalla sin egen ”moraliska synvinkel”.

Och om de gör det, hävdar ex-raketforskaren att de kan vända sig mot de människor som skickar dem ut i strid.

Dr Pearson, som bloggar för Futurizon, berättade för Daily Star Online: "När AI fortsätter att utvecklas och när vi går mot vägen mot medvetande - och det kommer inte att bli en nattöversikt, men vi gör gradvis datorer mer och mer mer sofistikerad - vid någon tidpunkt ger du dem tillgång till moralisk utbildning så att de kan lära sig moral själva.

”Du kan ge dem resonemang och de kan komma med en annan moralisk kod, som sätter dem på en högre piedestal än de människor som de ska tjäna.

På frågan om detta kan vara dödligt svarade han: ”Ja, naturligtvis.

”Om de har kontroll över vapen och bestämmer sig för att de är en överlägsen moralisk varelse än de människor som de ska skydda, kan de fatta beslut om att vissa människor borde dödas för att skydda den större befolkningen.

”Vem vet vilka beslut de kan ta?

"Om du har en kille på ett slagfält som berättar för soldater att skjuta detta gäng människor, oavsett anledning, men datorn tror något annat, datorn är inte övertygad av det, det kan komma att dra slutsatsen att soldaten som ger orderna är den värsta gärningsmannen än de människor han försöker döda, så det kan vända och döda honom istället.

"Det är helt möjligt, det beror på hur systemen skrivs."

Dr Pearsons varning kommer bland växande oro för helt autonoma robotar som används i krig.

Läs hela historien här ...

Gå med i vår maillista!


Prenumerera
Meddela om
gäst
6 Kommentarer
äldsta
Senaste Mest röstade
Inline feedbacks
Visa alla kommentarer
Pyra

Idiotisk. Tänker någon av dessa datordörrar någonsin på vad de säger? Jag menar tänka det förbi nässpetsen.

Ordspråket, ”att bekänna sig vara kloka, de blev dårar ...” har mycket relevans här.