Professor: Militanta liberaler politiserar artificiell intelligens

Vad gör du om beslut som förr togs av människor, med alla deras fördomar, börjar fattas av algoritmer som är matematiskt oförmögna till partiskhet? Om du är rationell bör du fira. Om du är en militant liberal känner du igen denna utveckling för det dödliga hot det är, och kämpar för att ta tillbaka kontrollen.

Du kan se detta utvecklas på AI-konferenser. Förra veckan deltog jag i 2020 års upplaga av NeurIPS, den ledande internationella maskininlärningskonferensen. Det som började som en liten sammankomst samlar nu tillräckligt många för att fylla en idrottsarena. I år, för första gången, NeurIPS krävde att de flesta artiklar inkluderade ett uttalande om "bredare effekter" och att de skulle granskas av en etiknämnd. Varje tidning som beskriver hur man till exempel kan påskynda en algoritm, måste nu ha ett avsnitt om de sociala nyttan och ondskan med detta oklara tekniska framsteg. "Oavsett vetenskaplig kvalitet eller bidrag," sade uppmaningen, "kan ett bidrag avvisas för... inklusive metoder, applikationer eller data som skapar eller förstärker orättvis partiskhet."

Detta var bara den senaste vändningen av spärrhaken. Tidigare har inkluderat att döpa om konferensen till något mer politiskt korrekt och att kräva att deltagarna uttryckligen accepterar en omfattande "uppförandekod" innan de kan registrera sig, vilket gör att konferensen kan sparka ut deltagare för att ha lagt ut något på sociala medier som tjänstemän ogillade. Allvarligare, ett helt underområde av AI har vuxit fram med det uttryckliga syftet att bland annat "debiasing" algoritmer. Det är nu i full gång.

Jag postade några tweets som väckte frågor om de senaste ändringarna - och avbrytningsmobben kom ner på mig. Förolämpningar, hån, hot — you name it. Man skulle kunna tro att forskare skulle stå över sådana beteenden, men nej. Jag påpekade att NeurIPS är en outlier när det gäller att kräva bredare konsekvensutlåtanden, och avbrytarna ändrade upprepade gånger ämne. Jag argumenterade mot politiseringen av AI, men de tog det som ett förnekande av att alla etiska överväganden är giltiga. En företagsdirektör för forskning om maskininlärning, också en Caltech-professor, publicerade på Twitter för att alla skulle kunna se en lång lista över personer att avbryta, deras enda brott var att ha följt mig eller gillat en av mina tweets. Samma skara lyckades göra min universitetsfråga till ett uttalande som avfärdade mina åsikter och bekräftade dess liberala meriter.

Varför tjafset? Data kan naturligtvis ha fördomar, liksom datavetare. Och algoritmer som är kodade av människor kan i princip göra vad vi än säger till dem. Men maskininlärningsalgoritmer, som i stort sett alla algoritmer du hittar i datavetenskapliga läroböcker, är i huvudsak bara komplexa matematiska formler som inte vet något om ras, kön eller socioekonomisk status. De kan inte vara rasistiska eller sexistiska mer än formeln y = axe + b kan.

Daniel Kahnemans bästsäljande bok, Tänkande, snabb och långsam, har ett helt kapitel om hur algoritmer är mer objektiva än människor, och därför fattar bättre beslut. För det militanta liberala sinnet är de emellertid avloppsvatten av orättfärdighet och måste saneras.

Vad som i praktiken innebär att städa upp algoritmer är att införa fördomar i dem som gynnar specifika grupper, i själva verket återupprätta i automatiserad form de sociala kontroller som den politiska vänstern är så inriktade på. "Debiasing" betyder med andra ord att lägga till partiskhet. Inte överraskande gör detta att algoritmerna presterar sämre med sin avsedda funktion. Kreditkortsvärderingsalgoritmer kan avvisa fler kvalificerade sökande för att säkerställa att samma antal kvinnor och män accepteras. Algoritmer för villkorlig samråd kan rekommendera att släppa fler farliga brottslingar fria för att få ett proportionellt antal vita och svarta frigivna. Vissa förespråkar till och med att förbjuda användningen i algoritmer av alla variabler som är korrelerade med ras eller kön, med hänvisning till att de motsvarar redlining. Detta skulle inte bara göra maskininlärning och alla dess fördelar i princip omöjliga, utan är särskilt ironiskt med tanke på att dessa variabler är precis vad vi behöver för att skilja beslut från de vi vill utesluta.

Om du ifrågasätter detta eller något annat av ett brett spektrum av liberala krav på AI, har du mycket sorg. Ju mer framträdande forskare som blir avbokad, desto bättre, eftersom det skickar det mest skrämmande budskapet till alla andra, särskilt yngre forskare. Jeff Dean, Googles legendariska chef för AI, och Yann LeCun, Facebooks främsta AI-forskare och medgrundare av djupinlärning, har båda hittade sig själva på den liberala possens missnöje.

Konservativa har hittills i stort sett varit omedvetna om progressiv politiks accelererande intrång på AI. Om AI fortfarande var ett dunkelt och omoget fält, skulle detta kanske vara OK, men tiden för det har länge passerat. Algoritmer styr allt mer våra liv, och de kan påtvinga ett militant liberalt (i verkligheten illiberalt) samhälle vid bakdörren. Varje gång du gör en webbsökning, använder sociala medier eller får rekommendationer från Amazon eller Netflix väljer algoritmer vad du ser. Algoritmer hjälper till att välja jobbkandidater, väljare att rikta in sig på i politiska kampanjer och till och med personer hittills. Både företag och lagstiftare måste se till att de inte manipuleras. Och vi måste alla vara medvetna om vad som händer, så att vi kan säga något. Jag, för en, efter att ha sett hur progressiva med glädje kommer att tilldela fördomar även till algoritmer som öppet inte kan ha några, har börjat ifrågasätta den ortodoxa synen på mänskliga fördomar. Är vi verkligen så djupt och oåterkalleligt rasistiska och sexistiska som de påstår? Jag tror inte det.

Pedro Domingos är professor emeritus i datavetenskap och teknik vid University of Washington.

Läs hela historien här ...