Om du ser är tro, gör dig redo att bli lurad

Wikipedia Commons
Vänligen dela denna berättelse!
image_pdfimage_print
När ekovärlden tar händerna på 'djup falsk' AI-programvara kan de göra jordbilder som inte kan upptäckas som falska, infoga saker som inte finns och ta bort saker som finns där. Glöm att "ljuga med statistik"; Nu ligger det med bilder. ⁃ TN Editor

Steg 1: Använd AI för att göra odetekterbara ändringar av utomhusfoton. Steg 2: släpp dem i öppen källkodsvärld och njut av kaoset.

Oroar dig för djupa förfalskningar—Maskinmanipulerade videor av kändisar och världsledare som påstås säga eller göra saker som de verkligen inte gjorde - är pittoreska jämfört med ett nytt hot: diktade bilder av själva jorden.

Kina är den erkända ledaren när det gäller att använda en ny teknik som kallas generativa motsatt nätverk för att lura datorer att se föremål i landskap eller i satellitbilder som inte finns där, säger Todd Myers, automationsledare och Chief Information Officer på kontoret för teknikdirektören. på National Geospatial-Intelligence Agency.

”Kineserna ligger långt framför oss. Det här är inte klassificerad information, ”sa Myers torsdag vid det andra året Geniusmaskiner toppmötet, värd av Försvar En och Nextgov. ”Kineserna har redan designat; de gör redan det just nu och använder GAN - som är generativa motsatsnätverk - för att manipulera scener och pixlar för att skapa saker av avskämda skäl. ”

Till exempel, sade Myers, kan en motståndare lura dina datorassisterade bildanalytiker att rapportera att en bro korsar en viktig flod vid en given punkt.

”Ur ett taktiskt perspektiv eller uppdragsplanering utbildar du dina styrkor att gå en viss väg, mot en bro, men den är inte där. Då väntar en stor överraskning på dig, sa han.

Först beskrivet i 2014, GAN representerar en stor utveckling på det sätt som neurala nätverk lär sig att se och känna igen föremål och till och med upptäcka sanning från fiktion.

Anta att du ber ditt konventionella neurala nätverk att ta reda på vilka objekt som är vad i satellitfoton. Nätverket kommer att bryta bilden i flera bitar, eller pixelkluster, beräkna hur de trasiga bitarna relaterar till varandra och sedan bestämma vad den slutliga produkten är, eller om bilderna är riktiga eller doktrerade. Allt baserat på erfarenheten av att titta på massor av satellitfoton.

GAN: er vänder den processen genom att pita två nätverk mot varandra - därmed ordet "motsatser." Ett konventionellt nätverk kan säga, "Närvaron av x, y och z i dessa pixelkluster betyder att detta är en bild av en katt." Men ett GAN-nätverk kan säga, ”Detta är en bild av en katt, så x, y och z måste vara närvarande. Vad är x, y och z och hur förhåller de sig? ”Det motsatta nätverket lär sig att konstruera, eller generera, x, y och z på ett sätt som övertygar det första neurala nätverket, eller diskrimineraren, att något finns där när det kanske inte är det.

Många forskare har tyckt att GAN-värden är användbara för att upptäcka objekt och sortera giltiga bilder från falska. I 2017 använde kinesiska forskare GAN att identifiera vägar, broar och andra funktioner i satellitfoton.

Oro, som AI-teknologer berättade Kvarts förra året, är att samma teknik som kan urskilja verkliga broar från falska kan också hjälpa till att skapa falska broar som AI inte kan berätta från den verkliga saken.

Myers oroar sig för att när världen kommer att förlita sig mer och mer på bilder med öppen källkod för att förstå den fysiska terrängen, kan bara en handfull av sakkunnigt manipulerade datauppsättningar som matats in i öppen källkod leveranslinje skapa förödelse. ”Glöm [försvarsdepartementet] och [underrättelseföreningen]. Föreställ dig att Google Maps infiltreras med det medvetet? Och föreställ dig fem år från och med nu när Tesla [självkörande] semis är det ute och dirigerar saker? ”sa han.

När det gäller djupa falska filmer av människor, biometriska indikatorer som puls och tal kan besegra den falska effekten. Men förfalskat landskap är inte sårbart för samma tekniker.

Läs hela historien här ...

Prenumerera
Meddela om
gäst
1 Kommentar
äldsta
Senaste Mest röstade
Inline feedbacks
Visa alla kommentarer