Forskare: Mänskligheten förlorar redan kontrollen över konstgjord intelligens, kan stava katastrof

youtube
Vänligen dela denna berättelse!
image_pdfimage_print

Teknokrater som bygger bara för att de kan i slutändan skapa många fler problem än de löser i första hand. Ökande komplexitet resulterar alltid i "systemöverbelastning" där hela saken snurrar utan kontroll. TN Editor

Det som skiljer människor från maskiner är den hastighet som vi kan lära av våra omgivningar.

Men forskare har framgångsrikt utbildat datorer för att använda konstgjord intelligens för att lära av erfarenhet - och en dag kan de vara smartare än sina skapare.

Nu har forskare erkänt att de redan är förbryllade av de mekaniska hjärnorna som de har byggt och höjer utsikterna att vi helt och hållet kan tappa kontrollen över dem.

Datorer utför redan otroliga prestationer - som att köra bilar och förutsäga sjukdomar - men deras tillverkare säger att de inte helt kontrollerar sina skapelser.

Detta kan ha katastrofala konsekvenser för civilisationen, har tekniska experter varnat.

Ta den konstiga förarlösa bilen som dök upp på gatorna i New Jersey, USA, förra året.

Det skilde sig från Google, Tesla eller Ubers autonoma fordon, som följer de regler som teknikutvecklare har angett för att reagera på scenarier under resan.

Denna bil kunde fatta sina egna beslut efter att ha sett hur människor lärde sig att köra.

Och dess skapare, forskare på chiptillverkningsföretaget Nvidia (som förser några av de största biltillverkarna med superdatorchips), sa att de inte var 100 procent säkra på hur det gjorde det, MIT Technology Review rapporterade.

Dess mystiska sinne kan vara ett tecken på mörka tider framöver, skeptiker fruktar.

Bilens underliggande teknik, kallad ”djup inlärning”, är ett kraftfullt verktyg för att lösa problem.

Det hjälper oss att märka våra vänner på Facebook, ger hjälp på våra smartphones med Siri, Cortana eller Google.

Djupt lärande har hjälpt datorer att bli bättre på att känna igen föremål än en person.

Militären häller miljoner i tekniken så att den kan användas för att styra fartyg, kontrollera drönare och förstöra mål.

Och det finns hopp om att det kommer att kunna diagnostisera dödliga sjukdomar, göra handlare till miljarderägare genom att läsa aktiemarknaden och totalt förändra världen vi lever i.

Men om vi inte ser till att skaparna har en fullständig förståelse för hur det fungerar, är vi i djupa problem, hävdar forskare.

Om de inte kan ta reda på hur algoritmerna (formlerna som håller datorerna att utföra de uppgifter vi ber dem att utföra) fungerar, kommer de inte att kunna förutsäga när de misslyckas.

Tommi Jaakkola, professor vid MIT som arbetar med applikationer för maskininlärning varnar: "Om du hade ett mycket litet neuralt nätverk [djup inlärningsalgoritm], kanske du kan förstå det."

"Men när den väl blir väldigt stor och den har tusentals enheter per lager och kanske hundratals lager, så blir den ganska obegriplig."

Det betyder att en förarlös bil, som Nvidias, kunde sväva huvudet in i ett träd och vi skulle inte ha någon aning om varför den beslutade att göra det.

Läs hela historien här ...

Gå med i vår maillista!


Avatar
Prenumerera
Meddela om