Grote techbedrijven zien af ​​van het verkopen van gezichtsherkenning aan de politie. Dat is vooruitgang.

Nadat IBM, Amazon en Microsoft hun gezichtsherkenningsactiviteiten hebben omgegooid, richt de aandacht zich op federale wetgevers.

Een politieagent houdt een camera vast en kijkt naar een menigte.

Het is niet precies duidelijk welke bewakingstechnologie de politie gebruikt, maar wetgevers op Capitol Hill eisen nu details.

Brett Carlsen/Getty Images

Dit verhaal maakt deel uit van een groep verhalen genaamd hercoderen

Ontdekken en uitleggen hoe onze digitale wereld verandert - en ons verandert.



Open source-logo

Microsoft-president Brad Smith bekend gemaakt op donderdag dat zijn bedrijf gezichtsherkenning niet aan de politie heeft verkocht, en dat ook niet zou doen totdat de regering de federale wetgeving heeft aangenomen die de technologie regelt. Zijn verklaring volgt op een woensdagaankondiging van Amazon waarin wordt uitgelegd dat het bedrijf een moratorium van een jaar zou instellen op het gebruik door de politie van Rekognition, de gezichtsherkenningssoftware van het bedrijf.

Die verandering komt ook na de aankondiging van IBM eerder deze week dat het bedrijf geen gezichtsherkenningsproducten meer zou aanbieden, daarbij verwijzend naar het potentieel voor misbruik of misbruik van de technologie. Naarmate het toezicht op de wetshandhaving toeneemt, lijkt het erop dat er een referendum zou kunnen komen over de bewakingsinstrumenten waartoe de politie toegang heeft, hoewel het notoir moeilijk is om te bepalen welke bewakingssystemen de politiediensten eigenlijk hebben. Wetshandhavingsinstanties en technologiebedrijven doen doorgaans geheimzinnig over deze producten, die door: geen middelen beperkt tot alleen gezichtsherkenning .

Toch is dit zeker een teken dat de naald van publieke acceptatie van gezichtsherkenning in beweging is. Jarenlang hebben belangengroepen zoals de American Civil Liberties Union (ACLU) en de digitale rechtengroep Fight for the Future alarm geslagen dat gezichtsherkenning grote zorgen over privacy en toezicht oproept. En onderzoekers zoals Joy Buolamwini, Timnit Gebru en Deborah Raji hebben aangetoond dat deze technologieën gepaard kunnen gaan met ingebouwde raciale en gendervooroordelen.

De timing van deze aankondigingen van gezichtsherkenning is belangrijk. Het recente onderzoek van de technologie komt te midden van aanhoudende demonstraties tegen politiegeweld, die de aandacht hebben gevestigd op de bewakingshulpmiddelen die grote technologiebedrijven kunnen en zullen verkopen aan wetshandhavers. Het nieuws komt ook omdat wetgevers zich hebben verdiept in de toegang van wetshandhavers tot surveillancetools en het mogelijke gebruik ervan bij protesten, wat het onderwerp was van een brief die leden van het Congres aan leiders van verschillende federale agentschappen stuurden eerder deze week . Nu, te midden van verschillende grote bedrijven die aankondigingen doen over gezichtsherkenning, is het mogelijk wetgevers zullen zijn angstiger om te reguleren dan voorheen.

Amazon's Rekognition heeft jarenlang te maken gehad met kritiek en tegenstand

Amazon's Rekognition-software, gelanceerd in 2016, maakt deel uit van de cloud computing-divisie van het bedrijf, Amazon Web Services (AWS). Op zijn bedrijf website , Amazon beweert dat zijn gezichtsherkenning zeer nauwkeurige gezichtsanalyse- en gezichtszoekmogelijkheden biedt die u kunt gebruiken om gezichten te detecteren, analyseren en vergelijken voor een breed scala aan gebruikersverificatie, mensentelling en gebruiksgevallen voor openbare veiligheid. Sinds zijn debuut heeft het bedrijf geprobeerd de technologie naar een hele reeks wetshandhavingsinstanties te pushen; het is getest door politiediensten in Oregon en Orlando , Florida.

De Rekognition-technologie van Amazon is specifiek genoemd door critici die hebben laten zien hoe het werkt kan vol zitten met raciale en gendervooroordelen . Ondanks de aanvankelijke terugtrekking van het bedrijf op het werk van Buolamwini en Raji, heroverweegt Amazon nu zijn plan voor Rekognition.

We voeren een moratorium van een jaar in op het gebruik door de politie van Amazon's gezichtsherkenningstechnologie, het bedrijf nu zegt . We hebben ervoor gepleit dat regeringen strengere regels moeten invoeren om het ethische gebruik van gezichtsherkenningstechnologie te regelen, en de afgelopen dagen lijkt het Congres klaar om deze uitdaging aan te gaan. We hopen dat dit moratorium van een jaar het Congres genoeg tijd zal geven om de juiste regels te implementeren, en we staan ​​klaar om te helpen als daarom wordt gevraagd.

Amazon heeft met name uitzonderingen gemaakt op het moratorium. Het bedrijf zei dat het organisaties die mensenhandel bestrijden en vermiste kinderen opsporen, zal blijven toestaan ​​de technologie te gebruiken. Amazon weigerde verder commentaar te geven op de redenering achter het moratorium, eventuele plannen om zijn politiepartnerschappen met Ring te beëindigen, of niet-politiewetshandhavingstoegang tot zijn technologie.

Vandaag de dag blijven de exacte details over hoe Rekognition wordt gebruikt door wetshandhavers onduidelijk. AWS-topman Andy Jassy vertelde eerder dit jaar aan de pers dat het bedrijf kent het aantal afdelingen niet die Rekognition hebben gebruikt of hoe ze het gebruiken.

De technologie en het gebruik ervan door wetshandhavers hebben veel weerstand gekregen van voorstanders en onderzoekers van burgerlijke vrijheden. Die bezorgdheid vindt zijn oorsprong in onderzoek dat in 2018 door Buolamwini en Gebru werd gepubliceerd en dat de mate benadrukt waarin gezichtsherkenningssystemen raciale en gendervooroordelen kunnen hebben, gebaseerd op eerder werk van Buolamwini. Dat onderzoek vormde de basis voor onderzoek uitgevoerd door de ACLU, waaruit bleek dat Amazon's Rekognition onjuist overeenkomend de gezichten van 28 wetgevers met de gezichten van mensen die waren gearresteerd. De organisatie riep het Congres op om een ​​moratorium in te stellen op de verkoop van de technologie aan wetshandhavers.

Dan in een vervolgrapport , Buolamwini en Raji bestudeerden vooroordelen in Rekognition en ontdekten dat het systeem van Amazon ook significante raciale en gendervooroordelen had en dat het het slechtst presteerde bij vrouwen met een donkerdere huid. Amazon publiceerde twee bedrijf Blog berichten die hun resultaten terugdringen, wat leidde tot een reactie van bijna 80 onderzoekers, die zich verzamelden om verdedigen Buolamwini en Raji's onderzoek en riepen Amazon op om te stoppen met de verkoop van de technologie aan wetshandhavers.

Andere organisaties voor burgerlijke vrijheden en rechten hebben ook geprotesteerd tegen de verkoop van het bedrijf aan wetshandhavers. Vorig jaar reisden activisten van Fight for the Future naar Capitol Hill om live gezichtsherkenning uit te voeren op regeringsvertegenwoordigers, om te demonstreren hoe invasief de Rekognition-technologie zou kunnen zijn. Amazon-medewerkers ook sprak zich uit tegen de verkoop van gezichtsherkenning door het bedrijf aan wetshandhavers – samen met de verkoop van AWS aan Palantir, dat samenwerkt met immigratie- en douanehandhaving – in 2018, hoewel het bedrijf dat niet deed ingaan op hun verzoek om te stoppen met het verkopen van Recognition aan de politie. Het is nog niet duidelijk welke rol deze Amazon-medewerkers eventueel hebben gespeeld bij deze meest recente beslissing.

Niet iedereen is blij met de manier waarop Amazon problemen met Rekognition aanpakt. Evan Greer, de adjunct-directeur van Fight for the Future, noemde de aankondiging van Amazon een public relations-stunt. Het Surveillance Technology Oversight Project, een in New York gevestigde anti-surveillance juridische organisatie, noemde de actie van het bedrijf te weinig, te laat. De directeur, Albert Fox Cahn, voegde in een verklaring per e-mail toe dat Amazon deze praktijk niet zomaar een jaar of tien jaar zou moeten beëindigen; het zou het voor altijd moeten beëindigen.

Nu zijn de ogen gericht op het Congres - en op gezichtsherkenningsbedrijven waar je nog nooit van hebt gehoord

De roep om regulering hoeft niet te verbazen. Er is momenteel geen alomvattende federale wet die gezichtsherkenning regelt, en sommige plaatsen hebben zelf de taak op zich genomen om de technologie te reguleren. Amazon heeft eerder zijn eigen aanbevelingen gedaan voor hoe het denkt dat gezichtsherkenning moet worden gereguleerd, en net als veel andere aanbieders van gezichtsherkenning wil het bedrijf ook patchwork-regulering vermijden, wat betekent dat er in verschillende staten verschillende wetten bestaan. Ondertussen hebben critici van gezichtsherkenningstechnologie gewaarschuwd dat de oproepen van bedrijven tot regulering met scepsis moeten worden beantwoord, aangezien bedrijven zwakke wetten kunnen doordrukken en uiteindelijk hun belangen kunnen verdedigen. Onthoud dat deze bedrijven bekend staan ​​om hun uitgebreide budgetten voor lobbyen.

Er is ook bezorgdheid dat naarmate grote technologiebedrijven zoals IBM, Amazon en Microsoft zich afkeren van het tijdelijk leveren van de technologie, kleinere aanbieders van gezichtsherkenning zullen ingrijpen om hun plaats in te nemen. Twee aanbieders van deze technologie, Vigilant Solutions en NEC, hadden op het moment van publicatie nog niets gehoord. Na publicatie vertelde NEC America aan Recode in een verklaring dat het het gebruik van gezichtsherkenning door openbare veiligheidsinstanties steunde.

In een verklaring die werd gedeeld met Recode, zei Hoan Ton-That, de oprichter en chief executive van Clearview AI, dat de technologie van zijn bedrijf niet bedoeld is om te worden gebruikt als een bewakingsinstrument met betrekking tot protesten of onder andere omstandigheden en dat hij uitkijkt naar samenwerken met de overheid en beleidsmakers om geschikte protocollen te ontwikkelen voor het juiste gebruik van gezichtsherkenning.

Als hercoderen heeft eerder gemeld Clearview heeft echter herhaaldelijk verschillende aspecten van zijn werk verkeerd voorgesteld, waaronder hoe goed de technologie werkt en wie zijn klanten zijn.

wie heeft zich gekwalificeerd voor het derde democratische debat?

Toch is het opmerkelijk dat drie bedrijven zo groot als Amazon, IBM en Microsoft het gebruik van deze technologie onderbreken, hoe tijdelijk ook, en dit zou een teken kunnen zijn dat de normen rond gezichtsherkenning veranderen. De ogen zullen zich nu waarschijnlijk richten op andere bedrijven die de technologie verkopen, evenals op federale wetgevers, die nu een informele deadline hebben gekregen van een van 's werelds grootste bedrijven.

Hun producten hebben het alarmerende potentieel om de privacyrechten van Amerikanen te schenden op manieren die we niet zo lang geleden ondenkbaar hadden geacht, zei senator Edward Markey (D-MA) na de aankondiging van Amazon. Het gebruik van deze technologie door wetshandhavers onderbreken is een positieve stap, maar wat Amazon echt zou moeten doen, is een complete ommezwaai en helemaal stoppen met gevaarlijk toezicht.

Dat verschilt van andere ideeën van wetgevers over wat de toekomst van de federale wetgeving op het gebied van gezichtsherkenning zou moeten zijn. Zo vertelde senator Jeff Merkley (D-OR) eerder dit jaar aan Recode dat de technologie bruikbaar zou moeten zijn wanneer wetshandhavers een bevel kunnen krijgen en leek hij een onderscheid te maken tussen gezichtsherkenning die kan worden gebruikt voor constant toezicht en gezichtsherkenning die tijdens een onderzoek zou worden gebruikt. Sommige federale wetgevers hebben eerder ook voorgesteld gezichtsherkenning te beperken in door de federale overheid ondersteunde huisvesting.

Hoe die regeling er uiteindelijk uit zal zien, blijft onduidelijk. Het feit dat Amazon in ieder geval alleen zijn gezichtsherkenningsactiviteiten pauzeert - Microsoft lijkt gewoon te wachten tot er wetgeving van kracht is alvorens verder te gaan - lijkt te impliceren dat sommige bedrijven aannemen dat een verbod op het gebruik van de technologie door de politie niet aan de orde is. tafel. Met of zonder regelgeving waarschuwen veel organisatoren nog steeds dat gezichtsherkenning gewoonweg te gevaarlijk kan zijn om te gebruiken.

Update, 11 juni, 16.00 uur ET: Dit stuk is bijgewerkt met meer context en het nieuws dat Microsoft geen gezichtsherkenning aan de politie zou aanbieden tot de federale wetgeving die gezichtsherkenning regelt.

Update, 12 juni, 10.00 uur ET: Dit stuk is bijgewerkt om een ​​verklaring van NEC America op te merken.

Open source wordt mogelijk gemaakt door Omidyar Network. Alle open source content is redactioneel onafhankelijk en geproduceerd door onze journalisten.