Biometrisk smackdown: Bakslag växer mot ansiktsigenkänning

Youtube
Vänligen dela denna berättelse!
Berättelser om motståndskraft mot biometriska system ses sällan i etablerade medier eftersom advokater från Big Tech avleder sådana berättelser genom mobbningsställen med lagliga hot. Monsanto och Big Pharma gjorde detta till en konstform. ⁃ TN Editor

En tonåring stämmer Apple för $ 1 miljarder dollar. De stämning, inlämnad på måndag, beror på den påstådda användningen av en alltmer populär - och kontroversiell - teknik: ansiktsigenkänning. Tekniken kan identifiera en individ genom att analysera deras ansiktsegenskaper i bilder, i videor eller i realtid.

Klaganden, 18-årig högskolestudent Ousmane Bah, hävdar företaget ansiktsigenkänningsverktyg ledde till att han arresterades för Apple Store-stölder han begick inte, genom att felaktigt länka sitt namn med ansiktet på den verkliga tjuven. NYPD-tjänstemän kom till Bahs hem förra hösten för att gripa honom vid 4 på morgonen, bara för att upptäcka att de tydligen hade fel kille. Bah säger att hela prövningen orsakade honom allvarlig känslomässig nöd. Samtidigt insisterar Apple på att butikerna inte använder teknik för ansiktsigenkänning.

Oavsett vad sanningen visar sig vara i det här fallet, är Bahs stämning det senaste tecknet på en eskalerande motreaktion mot ansiktsigenkänning. När tekniken implementeras på fler och fler domäner har det i allt högre grad lett till kontroverser. Ta till exempel de svarta hyresgästerna i Brooklyn som nyligen motsatte sig deras hyresvärds plan att installera tekniken i deras hyrestabiliserade byggnad. Eller resenären som klagade via Twitter det JetBlue hade kontrollerat henne in i sin flygning med ansiktsigenkänning utan hennes samtycke. (Flygbolaget förklarade att det hade använt avdelningen för hemlandsäkerhet för att göra det och ber om ursäkt.)

Det är utöver forskareförespråkaroch tusentals medlemmar av allmänhetensom har uttryckt oro över risken för ansiktsigenkänning som leder till olagliga arresteringar. De oroar sig för att vissa grupper påverkas oproportionerligt. Ansiktsigenkänningstekniker är ganska bra på att identifiera vita manliga ansikten, eftersom det är de slags ansikten det har tränats på. Men för ofta, det felidentifierar människor av färg och kvinnor. Denna förspänning kan leda till att de hålls oproportionerligt för förhör eftersom fler brottsbekämpande myndigheter använder tekniken.

Nu når vi en böjningspunkt där stora företag - inte bara Apple, utan också Amazon och Microsoft - tvingas ta sådana klagomål på allvar. Och även om de äntligen försöker telegrafa att de är känsliga för oro, kan det vara för sent att vinna tillbaka förtroende. Allmänhetens missnöje har nått en sådan feber tonhöjd att vissa, inklusive staden San Francisco, överväger nu helt förbjudna tekniker för ansiktsigenkänning.

En röst för att förbjuda Amazon att sälja Rekognition

Amazon är inte exakt känd för att spela trevligt. Det har ett rykte för kämpar föreslagna lagar som det inte gillar och för aggressivt försvara sitt arbete med polisen och regeringen. I åratal hade det råd att bete sig på det sättet. Ändå gör upproret över ansiktsigenkänning den hållningen svårare att upprätthålla.

Amazons ansiktsigenkänningsverktyg, Rekognition, har redan sålts till brottsbekämpning och slog till Immigration and Toll Enforcement. Men ledande AI-forskare argumenterade nyligen in ett öppet brev att tekniken är djupt felaktig. (Exempel: I ett test förra året, Erkännande matchade 28 medlemmar av kongressen till kriminella muggskott.) Och Amazon-aktieägarna har gnällt för en omröstning om företaget ska sluta sälja verktyget till myndigheter tills det passerar en oberoende granskning av dess inverkan på medborgerliga rättigheter.

Amazon kämpade hårt för att förhindra att rösten skulle hända, men Securities and Exchange Commission uteslutas den här månaden som företaget måste låta det gå vidare. Det kommer att äga rum den maj 22. Även om resultatet till stor del kommer att vara symboliskt - aktieägares resolutioner inte är bindande - är omröstningen att väcka Amazon uppmärksam.

Under tiden har företaget varit det försöker mjukgöra sin bild genom att till exempel ringa tillbaka några av dess aggressiva kampanjtaktiker. Kartik Hosanagar, en professor i Wharton School of Business, sade Amazon vidtar "förebyggande åtgärder" för att göra trevligt "innan en av [presidentens] kandidater gör Amazon till affischbarnet av vad de kallar problemen med Big Tech."

Microsofts blandade meddelanden om etisk användning av ansiktsigenkänning

Medan Amazon fortfarande är ett ungt företag, grundat i 1994, har Microsoft nått vuxen ålder - det har funnits sedan 1975. Den längre livslängden innebär att det har haft mer tid att göra misstag, men också mer tid att lära av dem. Kim Hart på Axios hävdar att det är därför Microsoft har för det mesta lyckats undvika motreaktionen mot big tech. "Microsoft, som trasslade igenom sin egen antitrustkamp med justitieministeriet i '90', har undvikit de misstag som gjorts av sina yngre, brasher Big Tech-bröder," skriver hon.

Ändå är Microsoft inte på något sätt helt immun mot motreaktionen. Efter att det rapporterades den här månaden att Microsoft-forskare hade producerat tre uppsatser om AI och ansiktsigenkänning med ett militärstyrt universitet i Kina, skänkte vissa amerikanska politiker företaget för att hjälpa en regim som håller kvar en miljon uiguriska muslimer i interneringsläger och övervakar miljontals mer. Senator Marco Rubio kallade det ”Djupt oroande ... en handling som gör dem delaktiga i att hjälpa kommunist kinesiska regeringens totalitära censur apparat.”

Pressen påpekade också att företaget har sålt sin programvara för ansiktsigenkänning till ett amerikanskt fängelse, och att Microsofts president Brad Smith har sagt att det skulle bli det "grym" att helt sluta sälja programvaran till myndigheter.

Dagar senare gjorde företaget hårt för att visa att det bryr sig om den etiska användningen av AI. Smith tillkännagav att den vägrade att sälja sin ansiktsigenkänningsprogramvara till en Kalifornien brottsbekämpande myndighet som ville installera den i officers bilar och karosser. Han sa att Microsoft vägrade på grund av mänskliga rättigheter, och att veta att användningen av programvaran skulle leda till att människor av färg och kvinnor hålls oproportionerligt för förhör.

Trycket för att förbjuda ansiktsigenkänningsteknologi direkt

Denna månad har klargjort att det offentliga trycket fungerar när det gäller ansiktsigenkänning. Behemoth-företag vet att de inte längre kan ignorera kritiken - eller, som de nyligen gjorde, helt enkelt säger att de skulle välkomna regleringen av denna teknik. Kritiker gör klart att det inte är tillräckligt bra - de vill se sådana företag "komma helt ur övervakningsbranschen", som American Civil Liberties Union berättade för Vox.

Läs hela historien här ...

Prenumerera
Meddela om
gäst
0 Kommentarer
Inline feedbacks
Visa alla kommentarer