Hoe kunnen we gezichtsherkenning verbieden als het al overal is?

Een groeiend aantal gadgets scant je gezicht.

Een man houdt een iPhone vast met daarop het Face ID-verificatiescherm.

Apple iPhones bieden Face ID, waarmee je je telefoon en sommige apps kunt ontgrendelen met een gezichtsscan.

was Andrew Jackson een slechte president?
AFP/Getty Images

Dit verhaal maakt deel uit van een groep verhalen genaamd hercoderen

Ontdekken en uitleggen hoe onze digitale wereld verandert - en ons verandert.



Open source-logo

Gezichtsherkenning heeft een afrekening. Recente protesten tegen racisme en politiegeweld hebben een licht geworpen op de bewakingsinstrumenten waarover wetshandhavers beschikken, en grote technologiebedrijven trekken zich tijdelijk terug van gezichtsherkenning en er bij federale ambtenaren op aandringen om in te grijpen en te reguleren .

Eind vorige maand hoorden we van de eerste bekende valse arrestatie veroorzaakt door een defect gezichtsherkenningssysteem, waarbij een zwarte man in Michigan betrokken was, geïdentificeerd door software waarvan de politiechef van Detroit later toegaf dat hij een Misidentificatiepercentage van 96 procent . En een beleidsgroep van de Vereniging voor Computermachines , een computervereniging met bijna 100.000 leden, heeft opgeroepen tot de schorsing van gebruik van de technologie door bedrijven en overheden , daarbij verwijzend naar de bezorgdheid dat de ingebouwde vooroordelen mensen ernstig in gevaar zouden kunnen brengen.

Er is ook druk van het Congres. Vertegenwoordigers Pramila Jayapal en Ayanna Pressley en Sens. Jeff Merkley en Ed Markey hebben: voorgestelde nieuwe wetgeving dat zou het gebruik van gezichtsherkenning door de federale overheid verbieden en staats- en lokale overheden aanmoedigen hetzelfde te doen. Het is een van de meest ingrijpende voorstellen om de controversiële biometrische technologie in de Verenigde Staten tot nu toe te beperken en is geprezen door raciale gerechtigheid en privacy pleitbezorgers .

Dit alles volgt op een stap van verschillende grote technologiebedrijven, waaronder: IBM, Amazon en Microsoft , om de toegang van wetshandhavers tot hun eigen gezichtsherkenningsprogramma's te pauzeren of te beperken.

Maar ondanks de focus op het gebruik van gezichtsherkenning door de overheid, integreren veel bedrijven de technologie nog steeds in een breed scala aan consumentenproducten. In juni kondigde Apple aan dat het inclusief gezichtsherkenning in zijn HomeKit-accessoires en dat zijn Face ID-technologie zou worden uitgebreid om ondersteuning te bieden inloggen op sites in Safari . Te midden van de Covid-19-pandemie hebben sommige bedrijven zich gehaast om meer contactloze biometrische technologie naar voren te schuiven, zoals toegangscontrole met gezichtsherkenning .

Als we nadenken over al deze schijnbaar onschuldige manieren waarop onze beelden worden vastgelegd, moeten we niet vergeten dat we niet de wetten hebben om ons te beschermen, vertelde Mutale Nkonde, een fellow aan het Berkman Klein Center van de Harvard Law School, aan Recode. En die beelden kunnen dus tegen je gebruikt worden.

Het gemak dat velen vinden in consumentenapparaten die zijn uitgerust met gezichtsherkenningsfuncties, staat in schril contrast met de groeiende druk om het gebruik van de technologie door de overheid te reguleren en zelfs te verbieden. Dat is een teken dat ambtenaren die de technologie effectief willen reguleren, rekening moeten houden met het scala aan toepassingen, van gezichtsherkenning die een smartphone ontgrendelt tot de dystopisch klinkende databases die worden beheerd door wetshandhavers.

Immers, toen Recode eerder dit jaar aan senator Jeff Merkley vroeg wat hem inspireerde om de technologie te reguleren, wees hij erop hoe snel de Foto's-app op zijn iPhone leden van zijn familie kon identificeren. Het viel hem op hoe gemakkelijk wetshandhavers mensen met de technologie konden volgen, maar ook hoe krachtig het al was geworden op zijn eigen apparaat.

Je kunt die persoon raken, en elke foto die je hebt gemaakt met die persoon erop zal verschijnen, zei Merkley destijds. Ik ga gewoon, 'Wauw.'

Gezichtsherkenning wordt steeds meer toegepast op consumentenapparaten

Een van de meest populaire toepassingen van gezichtsherkenning is verificatie, die vaak wordt gebruikt om in te loggen op elektronische apparaten. In plaats van een toegangscode in te voeren, maakt een camera aan de voorzijde op de telefoon een foto van de gebruiker en zet vervolgens gezichtsherkenningsalgoritmen in om hun identiteit te bevestigen. Het is een handige (hoewel niet helemaal) onfeilbaar ) functie populair gemaakt toen Apple lanceerde Gezichts-ID met de iPhone X in 2017. Veel andere telefoonbedrijven, inclusief Samsung, LG en Motorola , bieden nu op gezichtsherkenning gebaseerde telefoonontgrendeling, en de technologie wordt steeds vaker gebruikt om gemakkelijker in te loggen game consoles , laptops , en allerlei soorten apps .

Maar sommige consumentgerichte toepassingen van gezichtsherkenning gaan verder dan verificatie, wat betekent dat ze niet alleen hun eigen gebruikers proberen te identificeren, maar ook andere mensen. Een vroeg voorbeeld hiervan is Facebook's op gezichtsherkenning gebaseerde fototagging, die scant door foto's die gebruikers op het platform plaatsen om bepaalde vrienden voor te stellen die ze kunnen taggen. Soortgelijke technologie is ook aan het werk in apps als Google Foto's en Apple Foto's, die beide automatisch onderwerpen in een foto kunnen identificeren en taggen.

Apple gebruikt de tagging-functie in zijn Foto's-app eigenlijk om de nieuwe gezichtsherkenningsfunctie in HomeKit-enabled aan te drijven beveiligingscamera's en slimme deurbellen . Gezichten die in de camerafeed verschijnen, kunnen worden vergeleken met de database vanuit de Foto's-app, zodat je een melding krijgt wanneer er bijvoorbeeld een specifieke vriend aan je deur klopt. Nest-camera's van Google en andere gezichtsherkenning-enabled beveiligingssystemen vergelijkbare functies bieden. Op gezicht gebaseerde identificatie duikt ook op in sommige smart-tv's die kan herkennen welk lid van een huishouden kijkt en op maat gemaakte inhoud voorstellen .

Verwant

Huurders sloegen alarm op gezichtsherkenning in hun panden. Wetgevers luisteren.

Gezichtsherkenning wordt gebruikt voor identificatie en verificatie in een groeiend aantal apparaten, maar er zullen waarschijnlijk mogelijkheden zijn voor de technologie die verder gaan dan die twee consumententoepassingen. Het bedrijf HireVue scant gezichten met kunstmatige intelligentie sollicitanten te beoordelen. Sommige auto's, zoals de Subaru Boswachter, biometrische gegevens en camera's gebruiken om bij te houden of bestuurders hun aandacht op de weg houden, en meerdere bedrijven onderzoeken software die emotie in een gezicht kan voelen, een functie die kan worden gebruikt om bestuurders te controleren. Maar dat kan ook nieuwe bias-problemen introduceren.

In het kader van zelfrijdende auto's willen ze zien of de bestuurder moe is. En het idee is dat als de bestuurder moe is, de auto het overneemt, zei Nkonde, die ook de non-profit AI voor de mensen leidt. Het probleem is dat we niet [allemaal] op dezelfde manier emote.

De vage grens tussen gezichtsherkenning voor huisbeveiliging en privébewaking voor politie

Gezichtsherkenningssystemen hebben drie primaire ingrediënten: een bronafbeelding, een database en een algoritme dat is getraind om gezichten op verschillende afbeeldingen te matchen. Deze algoritmen kunnen sterk variëren in hun nauwkeurigheid en, zoals onderzoekers zoals Joy Buolamwini van MIT hebben gedocumenteerd, is aangetoond dat ze onevenredig onnauwkeurig zijn op basis van categorieën zoals geslacht en ras. Toch kunnen gezichtsherkenningssystemen verschillen in de grootte van hun database - dat wil zeggen, hoeveel mensen een systeem kan identificeren - en ook in het aantal camera's of afbeeldingen waartoe ze toegang hebben.

Face ID is een voorbeeld van een gezichtsherkenningstechnologie die wordt gebruikt voor identiteitsverificatie. Het systeem controleert of het gezicht van een gebruiker overeenkomt met het gezicht dat het apparaat probeert te openen. Voor Face ID zijn de details van het gezicht van een individuele gebruiker eerder geregistreerd op het apparaat. Als zodanig beantwoordt het Apple-algoritme eenvoudig de vraag of de persoon de gebruiker van de telefoon is of niet. Het is niet ontworpen om een ​​groot aantal mensen te identificeren. Het gaat om de biometrische informatie van slechts één gebruiker, en belangrijker nog, Apple doet niet stuur die biometrische gegevens naar de cloud; het blijft op het apparaat van de gebruiker staan.

Als er meer dan één persoon bij betrokken is, is identiteitsverificatie op basis van gezichtsherkenning ingewikkelder. Nemen Facebook's op gezichtsherkenning gebaseerde fototagging , bijvoorbeeld. Het scant door de foto's van een gebruiker om hun vrienden te identificeren, dus het is niet alleen het identificeren van de gebruiker, wat de enige taak van Face ID is. Het probeert vrienden van de gebruiker te herkennen die zich hebben aangemeld voor de op gezichtsherkenning gebaseerde tagging-functie. Facebook zegt dat het de gezichtssjablonen van mensen met niemand deelt, maar het heeft jaren geduurd voordat het bedrijf gebruikers controle over de functie gaf. Facebook kan de toestemming van de gebruikers niet krijgen voordat de functie voor het taggen van foto's in 2010 werd geïmplementeerd; dit jaar, het bedrijf overeengekomen om $ 550 miljoen te betalen om een ​​rechtszaak te schikken over het schenden van de privacy van gebruikers. Facebook begon gebruikers niet te vragen zich aan te melden tot 2019 .

wat gebeurt er als Groot-Brittannië de eu verlaat?

De kwestie van toestemming wordt ronduit problematisch in de context van bewakingscamerabeelden. Met Google Nest Cams, Apple HomeKit-camera's en andere apparaten kunnen gebruikers albums van bekende gezichten maken, zodat ze een melding kunnen krijgen wanneer de gezichtsherkenningstechnologie van de camera een van die mensen detecteert. Volgens Apple kunnen gebruikers met de nieuwe HomeKit-gezichtsherkenningsfunctie meldingen inschakelen voor wanneer mensen die in hun Foto's-app zijn getagd, op de camera verschijnen. Hiermee kunnen ze ook waarschuwingen instellen voor mensen die vaak naar hun deur komen, zoals een hondenuitlater, maar niet in hun fotobibliotheek-app. Apple zegt dat de identificatie allemaal lokaal op de apparaten gebeurt.

Een Nest-camera wordt op een huis gemonteerd.

Google Nest-camera's bieden een videofeed via een smartphone-app en bieden tegen een klein maandelijks bedrag gezichtsherkenningsfuncties.

Smith-collectie/Gado/Getty Images

De nieuwe Apple-functie is vergelijkbaar met de herkenning van bekende gezichten functie die kan worden gebruikt met de Nest-deurbel en beveiligingscamera's van Google. Maar het gebruik van de functie, die standaard is uitgeschakeld, is enigszins duister. Google waarschuwt gebruikers dat ze, afhankelijk van de wetten waar ze wonen, mogelijk de toestemming van degenen waarvoor ze meldingen toevoegen, en sommigen kunnen het misschien helemaal niet gebruiken. Google stelt de functie bijvoorbeeld niet beschikbaar in Illinois, waar de strikte Biometrische Informatie Privacy Act van de staat expliciete toestemming vereist voor het verzamelen van biometrische gegevens. (Deze wet was in het midden van de recente Facebook-schikking van $ 550 miljoen.) Google zegt dat de gezichtsbibliotheken van zijn gebruikers worden opgeslagen in de cloud, waar het wordt versleuteld tijdens het transport en in rust, en dat gezichten niet buiten hun structuur worden gedeeld.

Dus door Google en Apple aangedreven beveiligingscamera's zijn expliciet gericht op consumenten, en de databases die door hun gezichtsherkenningsalgoritmen worden gebruikt, zijn min of meer beperkt.

De grens tussen consumententechnologie zoals deze en het potentieel voor krachtige politiesurveillancetools vervaagt echter met de beveiligingssystemen gemaakt door Ring . Ring, dat eigendom is van Amazon, werkt samen met politie afdelingen , en hoewel Ring zegt dat zijn producten momenteel geen gezichtsherkenningstechnologie gebruiken, meerdere rapporten aangeven dat het bedrijf probeerde te bouwen op gezichtsherkenning gebaseerde buurtwachtlijsten. Ring heeft ook enquêtes verspreid onder bètatesters om te zien hoe ze dat zouden doen voel over gezichtsherkenningsfuncties . De omvang van deze partnerschappen is zorgwekkend genoeg dat op donderdag Rep. Raja Krishnamoorthi, hoofd van de House Oversight Committee, om meer informatie vroeg over Mogelijke integraties van gezichtsherkenning van Ring , naast andere vragen over het al lang bestaande probleem van het product met racisme.

Het lijkt er dus op dat naarmate gezichtsherkenningssystemen ambitieuzer worden - naarmate hun databases groter worden en hun algoritmen moeilijkere taken krijgen - ze problematischer worden. Matthew Guariglia, een beleidsanalist bij de Electronic Frontier Foundation, vertelde Recode dat gezichtsherkenning moet worden beoordeeld op een glijdende schaal van schade.

Wanneer de technologie in uw telefoon wordt gebruikt, brengt deze het grootste deel van zijn tijd in uw zak door en scant hij niet door openbare ruimtes. Een Ring-camera wordt daarentegen niet alleen ingezet om naar je gezicht te kijken, zei Guariglia. Als gezichtsherkenning was ingeschakeld, zou dat zijn kijken naar de gezichten van elke voorbijganger die ze zou kunnen identificeren.

Het is dus geen verrassing dat ambtenaren het meest agressief aandringen om het gebruik van gezichtsherkenningstechnologie te beperken door wetshandhavers . Politiediensten en soortgelijke instanties hebben niet alleen toegang tot een enorme hoeveelheid camerabeelden, maar ook tot ongelooflijk grote gezichtsdatabases. In feite ontdekte het Georgetown Center on Privacy and Technology in 2016 dat: meer dan de helft van de Amerikanen staat in een gezichtsherkenningsdatabase , die mugshots of gewoon profielfoto's kunnen bevatten genomen bij de DMV .

En recentelijk is de reikwijdte van gezichtsdatabases die beschikbaar zijn voor de politie nog groter geworden. De controversiële startup Clearview AI beweert het web te hebben gedolven voor miljarden foto's online en op sociale media gepost om een ​​enorme database voor gezichtsherkenning te creëren, die het beschikbaar heeft gesteld aan wetshandhavingsinstanties. Volgens Jake Laperruque, senior counsel bij het Project on Government Oversight, vertegenwoordigt dit een angstaanjagende toekomst voor gezichtsherkenningstechnologie.

De effecten ervan, wanneer het in handen van de overheid is, kunnen erg ernstig zijn, zei Laperruque. Het kan heel ernstig zijn als het niet werkt, en je hebt valse ID's die plotseling een aanwijzing worden die de basis wordt van een hele zaak en ervoor kan zorgen dat iemand wordt aangehouden of gearresteerd.

Hij voegde eraan toe: En het kan heel ernstig zijn als het goed werkt en als het wordt gebruikt om lijsten te catalogiseren van mensen die bij protesten of een politieke bijeenkomst zijn.

Het reguleren van gezichtsherkenning zal stukje bij beetje gaan

De wet op het moratorium op gezichtsherkenning en biometrische technologie die onlangs op Capitol Hill is ingevoerd, is ingrijpend. Het zou federaal gebruik van niet alleen gezichtsherkenning, maar ook andere soorten biometrische technologieën, zoals stemherkenning en loopherkenning, verbieden totdat het Congres een andere wet aanneemt die de technologie regelt. Het wetsvoorstel volgt andere voorstellen om het gebruik van de technologie door de overheid te beperken, waaronder een voorstel dat een door de rechtbank uitgevaardigd bevel zou vereisen om gezichtsherkenning te gebruiken en een ander dat biometrische gegevens zou beperken in door de overheid ondersteunde huisvesting. Sommige lokale overheden, zoals San Francisco , hebben ook hun eigen verwerving van de technologie beperkt.

Dus hoe zit het met gezichtsherkenning wanneer deze wordt gebruikt op persoonlijke apparaten van mensen of door particuliere bedrijven? Congres heeft gesproken over het gebruik van commerciële gezichtsherkenning en kunstmatige intelligentie in het algemeen. Een wetsvoorstel genaamd de Commercial Facial Recognition Privacy Act zou de uitdrukkelijke toestemming van bedrijven vereisen biometrische informatie van mensen verzamelen , en de Algorithmic Accountability Act zou vereisen: grote bedrijven om hun kunstmatige intelligentie te controleren , inclusief gezichtsherkenningssystemen, op vooringenomenheid.

Maar het alomtegenwoordige karakter van gezichtsherkenning betekent dat het reguleren van de technologie onvermijdelijk fragmentarische wetgeving en aandacht voor detail vereist, zodat specifieke use-cases niet over het hoofd worden gezien. San Francisco, bijvoorbeeld, moest daarna zijn gezichtsherkenningsverordening wijzigen iPhones die eigendom zijn van de politie per ongeluk illegaal gemaakt . Toen Boston zijn recente gezichtsherkenningsverordening goedkeurde, creëerde het een uitsluiting voor gezichtsherkenning die werd gebruikt voor: inloggen op persoonlijke apparaten zoals laptops en telefoons.

De mechanismen voor regelgevers zijn zo verschillend, zei Brian Hofer, die hielp bij het maken van San Francisco's gezichtsherkenning verbod , eraan toevoegend dat hij nu kijkt naar het creëren van lokale wetten die zijn gemodelleerd naar de biometrische informatieprivacywet van Illinois, die zich meer op consumenten richten. De wetten zijn zo verschillend dat het waarschijnlijk onmogelijk zou zijn om een ​​schone, duidelijk begrepen wet te schrijven die zowel de consument als de overheid regelt.

Een enkele wet die gezichtsherkenningstechnologie regelt, is misschien niet genoeg. Onderzoekers van de Algorithmic Justice League, een organisatie die zich richt op rechtvaardige kunstmatige intelligentie, pleiten voor een meer alomvattende aanpak. Ze stellen dat de technologie moet worden gereguleerd en gecontroleerd door een federaal bureau. In een voorstel van mei schetsten de onderzoekers hoe de Food and Drug Administration als model zou kunnen dienen voor een nieuw agentschap dat zich zou kunnen aanpassen aan een breed scala van overheids-, bedrijfs- en privégebruik van de technologie. Dit zou een regelgevend kader kunnen bieden om consumenten te beschermen tegen wat ze kopen, inclusief apparaten met gezichtsherkenning.

Ondertussen zal de groeiende alomtegenwoordigheid van gezichtsherkenningstechnologie een vorm van toezicht normaliseren. Zoals professor Evan Selinger, professor aan het Rochester Institute of Technology, stelt: naarmate mensen zich aanpassen aan het routinematig gebruiken van elk gezichtsscansysteem en het naar de achtergrond verdwijnt als weer een ander onopvallend aspect van het hedendaagse digitaal gemedieerde leven, kunnen hun verlangens en overtuigingen opnieuw worden ontwikkeld.

En dus, zelfs als er een verbod is op wetshandhaving met gezichtsherkenning en het is tot op zekere hoogte effectief, wordt de technologie nog steeds een onderdeel van het dagelijks leven. We zullen uiteindelijk de gevolgen ervan moeten dragen.

Correctie: Een eerdere versie van dit verhaal noemde een onjuist bedrag voor de schikking van Facebook voor gebruikersprivacy. Het betaalde bedrag was $ 550 miljoen.

Open source wordt mogelijk gemaakt door Omidyar Network. Alle open source content is redactioneel onafhankelijk en geproduceerd door onze journalisten.