Amasons ansiktsigenkänningstekniska "Supercharges" lokal polis

Vänligen dela denna berättelse!
Amazons säger att sitt AI-system för erkännande är "oskiljbart från magi" men det erbjuder det nu för nominella avgifter till brottsbekämpning på alla nivåer, från lokal polis och sheriffkontor till FBI. Det finns för närvarande inga nationella lagar som reglerar användningen av ansiktsigenkänning. ⁃ TN Editor

När arbetare vid Ace Hardware här rapporterade att en kvinna hade gått ut ur affären med en tank på 11.99 dollar svetsgas som hon inte hade betalat för i sin tote, sprang en utarbetad högteknologisk brottsbekämpning till handling.

En sheriffdetektiv i Washington County, som arbetade med byråns specialundersökningsenhet, körde butikens övervakningsfilm genom ett internt ansiktsigenkänningsprogram byggt av Amazon och avslöjade en möjlig matchning.

Kvinnans registreringsskylt flaggades och tre månader senare såg en narkotikamästare i en omärkt SUV den och sände andra patrullföreträdare för att stoppa henne. En ställföreträdare klappade ett par handfängsel runt hennes handleder och enligt arrestrapporten. Hon sa att hon hade behövt bensin för att fixa sin bil.

Deputerade i detta hörn av västra Oregon utanför Ultraliberal Portland brukade spåra brottslingar på det gammaldags sättet och faxade fångade bilder på kameran av en misstänkt runt kontoret i hopp om att någon kanske känner igen ansiktet.

I slutet av 2017 blev Sheriffkontoret i Washington den första brottsbekämpande myndigheten i landet som är känd för att använda Amazons konstgjorda intelligensverktyg Rekognition, vilket förvandlar denna skogsbukt och förorter till en offentlig testplats för en ny våg av experimentell polisövervakning. tekniker.

Nästan över natten såg ställföreträdare sina undersökningsmöjligheter överdrivna, vilket gjorde det möjligt för dem att söka efter matchningar i en misstänkt ansikte över mer än 300,000 2001 muggskott tagna i länets fängelse sedan 1,000. En kornig bild av någons ansikte - fångad av en säkerhetskamera, ett socialt media konto eller en ställföreträdares smartphone - kan snabbt bli en länk till deras identitet, inklusive deras namn, familj och adress. Mer än XNUMX ansiktsigenkänningssökningar loggades förra året, sade suppleanter, som ibland använde resultaten för att hitta en misstänktes Facebook-sida eller besöka deras hem.

Men Washington County blev också noll för en hög insatsstrid om den oreglerade tillväxten av polisarbete med algoritm. Försvarsadvokater, artificiell intelligensforskare och medborgerliga experter hävdar att tekniken kan leda till felaktigt gripande av oskyldiga människor som bara liknar en videobild. Rekognitionsnoggrannheten är också mycket omstridd, och vissa experter oroar sig för att ett fall av felaktig identitet från väpnade suppleanter kan få farliga konsekvenser, vilket hotar integriteten och människors liv.

Vissa polisbyråer har under senare år genomfört ansiktsigenkänningssökningar mot statliga eller FBI-databaser med system byggda av entreprenörer som Cognitec, IDEMIA och NEC. Men utrullningen av Amazon har markerat det kanske största steget för att göra den kontroversiella ansiktsskanningsteknologin mainstream. Rekognition är lätt att aktivera, kräver ingen större teknisk infrastruktur och erbjuds praktiskt taget vem som helst till pris för fynd. Washington County spenderade ungefär $ 700 för att ladda upp sitt första stora antal foton, och nu betalar det cirka $ 7 per månad för alla sökningar.

Det är dock omöjligt att säga hur exakt eller effektiv tekniken har varit under de första 18 månaderna av verkliga tester. Suppleanter behöver inte notera i arrestrapporter när en ansiktsigenkänningssökning användes, och det exakta antalet gånger det har resulterat i en arrestering är oklart. Sheriffens tjänstemän sa att programvaran har lett till dussintals gripanden för stöld, våld eller andra brott, men en begäran om offentliga register visade nio fallrapporter där ansiktsigenkänning nämndes.

"Precis som någon av våra undersökningstekniker berättar vi inte för människor hur vi fångar dem", säger Robert Rookhuyzen, en detektiv i byråns stora brottlag som sa att han har genomfört "flera dussin" -sökningar och tyckte att det var till nytta cirka 75% av tiden. "Vi vill att de ska fortsätta gissa."

Sheriffens tjänstemän säger att ansiktsskanning inte alltid markerar slutet på utredningen: Suppleanter måste fortfarande fastställa sannolik orsak eller hitta bevis innan de anklagar en misstänkt för ett brott. Men Sheriff's Office sätter sina egna regler för ansiktsigenkänningsanvändning och tillåter suppleanter att använda verktyget för att identifiera kroppar, omedvetna misstänkta och personer som vägrade att ge sitt namn.

Sökverktygets ofullkomliga resultat ökar risken för att en oskyldig person flaggas och arresteras, särskilt i fall där de skannade bilderna är suddiga, lågkvalitativa eller delvis dolda. Suppleanter får också köra konstskisser genom sökningen, en ovanlig användning som AI-experter sa att de oftare kunde leda till en falsk matchning.

Amazons riktlinjer för brottsbekämpning säger att tjänstemän endast ska använda Rekognitions resultat när systemet är 99% säkert i en match. Men suppleanter här visas inte som mätning av sökförtroende när de använder verktyget. Istället ges de fem möjliga matchningar för varje sökning, även om systemets säkerhet i en matchning är mycket lägre.

Efter att ha ställt frågor från The Washington Post tillade Amazon språk i dessa riktlinjer och uppgav att officerare manuellt skulle granska alla matcher innan de kvarhöll en misstänkt och att sökningen "inte bör användas som den enda avgörande för att vidta åtgärder."

Förhållandet mellan Amazon och Oregons tredje största brottsbekämpande organ är ömsesidigt fördelaktigt: Sheriff's Office hjälper till att förfina systemet, som Amazon hoppas kunna sälja över hela landet. Men Amazons press på försäljning av brottsbekämpning har skrämt vissa juridiska förespråkare som säger att systemet utgör för många risker för medborgerliga friheter. (Amazons grundare och VD Jeff Bezos äger The Post.)

"Regeringen är otroligt mäktig och de tar mycket med en enskild medborgare i ett ärende", säger Mary Bruington, chef för Washington County Public Defender's Office, som representerar tilltalade som inte har råd med en advokat. ”Parar du det med Amazon? Det är ett kraftfullt partnerskap. ”

Matt Wood, chef för artificiell intelligens för företagets molndatadivision, Amazon Web Services, sa i ett uttalande att Rekognition bara är "ytterligare en input bland många andra ledare för en 100 procent mänsklig driven utredning."

Ändå möter företaget kritik på många fronter: Topp AI-forskare, medlemmar i kongressen och medborgerliga rättighetsgrupper - liksom några av Amazons egna investerare och anställda - har uppmanat företaget att sluta tillhandahålla tekniken till brottsbekämpning och pekar på studier som har funnit att systemet är mindre exakt med mörka ansikten. Amazon har bestridit den forskningen.

Några av Amazons konkurrenter har förkastat liknande kontrakt. Microsofts president Brad Smith sa i april att företaget nyligen hade avböjt att tillhandahålla sin ansiktsigenkänningsprogramvara till en Kalifornien brottsbekämpande myndighet som ville köra en ansiktsskanning när som helst dess tjänstemän drog någon över, men att det hade godkänt en affär som satte tekniken. i ett amerikanskt fängelse. Microsoft nekade att tillhandahålla detaljer.

Amazon-investerare kommer att rösta i maj på ett förslag, med stöd av en grupp aktivistaktieägare, som skulle hindra företaget från att sälja Erkännande till myndigheter såvida inte bolagets styrelse fastställer att det inte utgör en risk för mänskliga rättigheter.

Sheriffens kontor tillät Post-journalister att tillbringa två dagar i mars i sina gruppbilar, detektivkontor och länsfängelse och observera hur suppleanter har lagt in tekniken i deras dagliga fall. De flesta av de intervjuade sa att programvaran hade sparat tid, ökat deras arresteringsnummer och hjälpt dem att bearbeta den växande glansen av visuella bevis. Hittills har ingen juridisk utmaning gjorts för att gripas med motiveringen att fotomatchen var felaktig, sa både suppleanter och offentliga försvarare.

Men advokater i Oregon sade att tekniken inte borde vara, som många ser det, ett överhängande steg framåt för polisens framtid, och de ramar in systemet inte som en teknisk milstolpe utan en moralisk: Är det okej att besöka fler skurkar om fler bra killar kan också arresteras?

"Människor älskar att alltid säga:" Hej, om det är att fånga dåliga människor, bra, vem bryr sig ", säger Joshua Crowther, en chefsförsvarare i Oregon," tills de är i andra änden. "

'Oskiljbar från magi'

När Amazon avslöjade Rekognition 2016 kallade företaget det för ett genombrott för en kraftfull stil av djupinlärning av artificiell intelligens som visade resultat ”som inte kan urskiljas från magi.” I ett blogginlägg illustrerat med ett foto av en chefs hund erbjöd företaget några allmänna idéer för hur människor kunde börja använda den, inklusive säkerhetskontroller eller skyltar för att samla in data från tittarens ansikte.

Avtäckningen fångade ögonen på Chris Adzima, en tidigare eBay-programmerare som hade anställts på Sheriffkontoret i Washington County för att arbeta med en iPhone-app som suppleanter använder för att spåra intagna beteende. Hans byrå hade hundratusentals ansiktsbilder redan online och inget riktigt sätt att analysera dem. Med Amazons AI fick han ett system igång på mindre än tre veckor.

"De hade inte riktigt en fast uppfattning om någon typ av användningsfall i den verkliga världen, men de visste att de hade ett kraftfullt verktyg som de skapade", säger Adzima, en senior informationssystemanalytiker som arbetar i ett litet skåp på sheriffens huvudkontor. "Så du vet, jag började bara använda den."

Suppleanter började genast lägga in ansiktssökningar i deras dagliga slagpolicy, och Adzima byggde en intern webbplats med bara ben som låter dem söka från sina patrullbilar. Han tappade sökförtroendeprocenten och utformade systemet för att ge fem resultat, varje gång: När systemet gav noll resultat sa han att suppleanter undrade om de hade förstört något. För att krydda det lade han också till en onödig lila "skanning" -animation när en suppleant laddade upp ett foto - en touch som han sa var inspirerad av polisprogram som "CSI."

Läs hela historien här ...

Prenumerera
Meddela om
gäst
0 Kommentarer
Inline feedbacks
Visa alla kommentarer