Maskers kunnen gezichtsherkenningssystemen voor de gek houden, maar de algoritmen leren snel

In een nieuw overheidsrapport werd beoordeeld hoe het met bijna 100 gezichtsherkenningssystemen gaat tijdens de Covid-19-pandemie.

hoe komt lululemon aan zijn naam?
Een biometrische terminal scant de gezichten van bezoekers en controleert hun temperatuur als ze het Colosseum in Rome, Italië, binnenlopen.

Een biometrische terminal scant de gezichten van bezoekers en controleert hun temperatuur als ze het Colosseum in Rome, Italië, binnenlopen.

Fillipo Monteforte/AFP via Getty Images

Dit verhaal maakt deel uit van een groep verhalen genaamd hercoderen

Ontdekken en uitleggen hoe onze digitale wereld verandert - en ons verandert.



Open source-logo

We weten dat gezichtsmaskers anderen helpen beschermen tegen Covid-19, en het lijkt erop dat ze ook enige bescherming bieden tegen gezichtsherkenningstechnologie - voorlopig. EEN voorstudie van het National Institute of Standards and Technology (NIST) analyseerde hoe goed de technologie het deed bij het identificeren van mensen die gezichtsmaskers droegen. In het algemeen hadden de gezichtsherkenningsalgoritmen die vóór de pandemie waren ontworpen, moeite om gezichten achter de maskers te herkennen.

Het nieuwe overheidsonderzoek onthult minder over hoe slecht gezichtsherkenningsalgoritmen omgaan met gezichtsmaskers dan over hoe bedrijven al hard aan het werk zijn om algoritmen te bouwen die zich kunnen aanpassen aan nieuwe situaties. De pandemie laat zien hoe de acceptatie van gezichtsmaskers de gezichtsherkenningstechnologie nog krachtiger kan maken dan voorheen.

Het goede nieuws hier is van zeer korte duur, vertelde Albert Fox Cahn, de uitvoerend directeur van het Surveillance Technology Oversight Project, aan Recode. Dit benadrukt alleen maar dat er momenteel een wereldwijde wapenwedloop is om gezichtsherkenningssoftware te ontwikkelen die mensen kan volgen, zelfs als we maskers dragen.

De fout die wordt veroorzaakt door het dragen van een masker is niet zo verrassend. Iedereen die heeft geprobeerd te ontgrendelen hun iPhone met Face ID terwijl ze een masker dragen weet dat de technologie faalt in het nieuwe scenario. Gezichtsherkenningsalgoritmen zijn over het algemeen getraind om u te identificeren op basis van aspecten van uw gezichtsgeometrie, en een gezichtsmasker verbergt een groot deel van wat het algoritme probeert te analyseren, namelijk uw neus en mond, leggen de NIST-onderzoekers uit.

De mate waarin gezichtsmaskers algoritmen kunnen laten struikelen, is ernstig genoeg geweest dat, te midden van de protesten van George Floyd, het Department of Homeland Security in mei een bericht stuurde waarin werd gewaarschuwd dat gewelddadige tegenstanders van wetshandhaving misbruik zouden kunnen maken van het dragen van maskers om te voorkomen dat je wordt opgemerkt door gezichtsherkenning. Natuurlijk waren de demonstranten zelf bezorgd over exact dezelfde bewakingstechnologieën die werden gebruikt om hun burgerlijke vrijheden te bedreigen.

Nu dient het NIST-onderzoek als bewijs dat maskers een echt struikelblok zijn voor sommige gezichtsherkenningssystemen. Het onderzoek van de niet-regulerende instantie keek naar 89 gezichtsherkenningsalgoritmen, waaronder die van Panasonic en Samsung, en analyseerde hun prestaties op afbeeldingen van 1 miljoen mensen. De studie maakte gebruik van foto's van mensen die werden verzameld bij het oversteken van de grens met de Verenigde Staten, evenals afbeeldingen die waren opgenomen in aanvragen voor immigratievoordelen. De eerste groep foto's werd vervolgens digitaal gemaskeerd, wat inhoudt dat kunstmatige vormen in verschillende kleuren die maskers nabootsten, op de afbeeldingen van gezichten werden geplaatst, waardoor de neus, mond en een deel van hun wangen werden verduisterd.

Een screenshot uit de NIST-studie laat zien hoe verschillende mensen eruit zagen toen een digitaal masker werd aangebracht.

Deze screenshot uit de NIST-studie laat zien hoe verschillende mensen eruit zagen toen een digitaal masker werd aangebracht.

NIST

Uit de NIST-studie bleek dat het dragen van maskers de nauwkeurigheid van gezichtsherkenningsalgoritmen kan verminderen, en volgens de persbericht , had de beste van de 89 geteste commerciële gezichtsherkenningsalgoritmen een foutpercentage tussen 5% en 50% bij het matchen van digitaal aangebrachte gezichtsmaskers met foto's van dezelfde persoon zonder masker. De algoritmen van sommige leveranciers presteerden beter dan andere, en de prestaties varieerden op basis van de vorm en kleur van het masker. Over het algemeen is gezichtsherkenning nauwkeuriger wanneer toegepast op mensen die ronde maskers dragen, terwijl algoritmen minder nauwkeurig zouden kunnen zijn wanneer de proefpersonen zwarte maskers droegen in vergelijking met een lichtblauw masker.

wie wint vanavond het democratische debat

Over het algemeen lijkt dit goed nieuws voor degenen die zich zorgen maken over hun privacy en geïnteresseerd zijn in het vinden van manieren om gezichtsherkenningstechnologie te vervalsen. Maar nogmaals, dit soort fouten zijn waarschijnlijk tijdelijk, aangezien bedrijven die gezichtsherkenningstechnologie produceren, racen om hun algoritmen bij te werken om zich beter aan te passen aan gezichtsbedekkingen. Zoals Recode eerder meldde, prezen bedrijven al in februari het vermogen van hun algoritmen om rekening te houden met maskers, en Panasonic gaf aan dat het het maskerprobleem zelfs eerder had opgelost. Sinds het begin van de pandemie hebben een hele reeks gezichtsherkenningsbedrijven, waaronder in het VK gevestigd Facewatch , gevestigd in Californië zintuiglijk , en de in China gevestigde bedrijven Hanwang en SenseTime , zijn allemaal begonnen hun vermogen om mensen te herkennen die maskers dragen, aan te prijzen.

Ik denk dat dit een oplosbaar probleem is en dat er voortdurende onderzoeks- en ontwikkelingsinspanningen nodig zijn om de nauwkeurigheidskloof te dichten, zei Shaun Moore, de CEO van TrueFace, wiens technologie werd geëvalueerd in de NIST-studie, in een e-mail. Hoe meer (masker)data we onze algoritmen kunnen trainen, hoe beter de prestaties zullen zijn.

Fox Cahn, van het Surveillance Technology Oversight Project, bood een meer dystopische interpretatie van wat komen gaat. Hij verwierp het idee dat concepten als anti-gezichtsherkenning overhemden en verzinnen zou in de toekomst gezichtsherkenningstechnologie voor de gek kunnen houden. We komen op het punt waarop de camera's zo productief zijn - en de technologie is zo krachtig, zei hij, dat alles wat minder is dan een volledig bodysuit, traceerbaar zal zijn.

NIST liet ook doorschemeren dat de problemen van de technologie die het heeft beoordeeld van korte duur zijn. Een van de auteurs van het NIST-rapport, computerwetenschapper Mei Ngan, zei dat de onderzoekers verwachten dat de technologie zal blijven verbeteren bij het identificeren van maskerdragende onderwerpen. Dienovereenkomstig is NIST van plan om meer algoritmen te overwegen die zijn bijgewerkt om mensen die maskers dragen te herkennen in de volgende onderzoeksronde. Ondertussen gebruiken onafhankelijke onderzoekers foto's van mensen die maskers dragen die online zijn gepost om databases met afbeeldingen op te bouwen die bedoeld zijn om hun gezichtsherkenningsalgoritmen te helpen verbeteren, zoals CNET gemeld in mei .

Maskers zijn niet de eerste keer dat gezichtsherkenning wordt opgemerkt vanwege onnauwkeurigheden. Jarenlang zijn gezichtsherkenningssystemen gemarkeerd omdat ze onevenredig onnauwkeurig zijn voor vrouwen, mensen van kleur en vooral vrouwen met een donkerdere huid. Lauren Sarkesian, senior beleidsadviseur bij de denktank New America's Open Technology Institute, vertelde Recode dat de kwestie van maskers en gezichtsherkenning ons eraan herinnert dat de technologie in de Verenigde Staten grotendeels ongereguleerd blijft, en we weten het vaak niet eens. wanneer het in gebruik is. Hoewel sommige plaatsen wetten hebben aangenomen die het gebruik van de technologie door de overheid reguleren of verbieden, is er nog steeds geen nationale wet die gezichtsherkenning regelt, hoewel er verschillende voorstellen zijn.

Deze technologie is gevaarlijk - zowel wanneer het werkt als wanneer het niet werkt, zei Sarkesian, omdat naarmate deze nauwkeurigheidsproblemen in de algoritmen worden opgelost, de bewakingskracht van de gezichtsherkenningstechnologie groeit.

Open source wordt mogelijk gemaakt door Omidyar Network. Alle open source content is redactioneel onafhankelijk en geproduceerd door onze journalisten.

zpu-4 luchtafweergeschut uitvoering