Illinois zegt dat je moet weten of AI je online sollicitatiegesprekken beoordeelt

Een unieke wet geeft sollicitanten misschien meer inzicht in de algoritmen die hun sollicitatiegesprekken analyseren, maar ze hoeven niet te verwachten dat er veel zal veranderen.

Een afbeelding van de HireVue app in een digitale App Store.

HireVue is te downloaden als online app.

Shutterstock

Dit verhaal maakt deel uit van een groep verhalen genaamd hercoderen

Ontdekken en uitleggen hoe onze digitale wereld verandert - en ons verandert.



Kunstmatige intelligentie speelt in toenemende mate een rol bij de aanwervingsbeslissingen van bedrijven. Algoritmen helpen bij het targeten van advertenties over nieuwe functies, het sorteren van cv's en zelfs het analyseren van de gezichtsuitdrukkingen van sollicitanten tijdens video-sollicitatiegesprekken. Maar deze systemen zijn: ondoorzichtig , en we hebben vaak geen idee hoe op kunstmatige intelligentie gebaseerde systemen onze applicaties sorteren, scoren en rangschikken.

Het is niet alleen dat we niet weten hoe deze systemen werken. Kunstmatige intelligentie kan ook vooringenomenheid en onnauwkeurigheid in het sollicitatieproces introduceren, en omdat deze algoritmen grotendeels in een zwarte doos werken, is het niet echt mogelijk om een ​​bedrijf dat een problematische of oneerlijke tool gebruikt ter verantwoording te roepen.

Een nieuwe wet in Illinois - een van de eerste in zijn soort in de VS - zou sollicitanten een beetje meer inzicht moeten geven in hoe deze ongereguleerde tools daadwerkelijk werken. Maar het is onwaarschijnlijk dat de wetgeving veel zal veranderen voor aanvragers. Dat komt omdat het alleen van toepassing is op een beperkt type AI, en het vraagt ​​niet veel van de bedrijven die het inzetten.

De kunstmatige intelligentie-video-interviewwet van de staat, die op 1 januari 2020 van kracht wordt, heeft drie primaire vereisten . Ten eerste moeten bedrijven sollicitanten informeren dat kunstmatige intelligentie zal worden gebruikt om de geschiktheid van sollicitanten voor een functie te beoordelen. Die bedrijven moeten ook uitleggen hoe hun AI werkt en met welke algemene kenmerken rekening wordt gehouden bij het beoordelen van kandidaten. Naast het vereisen van toestemming van sollicitanten om AI te gebruiken, bevat de wet ook twee bepalingen die bedoeld zijn om hun privacy te beschermen: Het beperkt wie het opgenomen video-interview van een sollicitant kan bekijken tot degenen wiens expertise of technologie nodig is en vereist dat bedrijven alle video's verwijderen die een aanvrager dient binnen een maand na zijn verzoek in.

Zoals Aaron Rieke, de algemeen directeur van Upturn, de non-profitorganisatie voor technologierechten, tegen Recode zei over de wet: Dit is een vrij lichte opmerking over een klein deel van het wervingsproces. Om te beginnen dekt de wet alleen kunstmatige intelligentie die wordt gebruikt in video's, wat een klein deel uitmaakt van de AI-tools die kunnen worden gebruikt om sollicitanten te beoordelen. En de wet garandeert niet dat u zich kunt afmelden voor een op AI gebaseerde beoordeling van uw aanvraag en toch in aanmerking kunt komen voor een rol (de wet zegt alleen dat een bedrijf uw toestemming moet krijgen voordat het AI gebruikt; vereisen dat personeelsmanagers u een alternatieve methode geven).

Het is moeilijk om te voelen dat die toestemming super zinvol zal zijn als het alternatief is dat je helemaal geen kans krijgt op de baan, zei Rieke. Hij voegde eraan toe dat er geen garantie is dat de toestemming en uitleg die de wet vereist, nuttig zal zijn; de uitleg kan bijvoorbeeld zo breed en hoogstaand zijn dat het niet nuttig is.

Als ik advocaat was voor een van deze leveranciers, zou ik zoiets zeggen als: 'Kijk, we gebruiken de video, inclusief de audiotaal en visuele inhoud, om je prestaties voor deze functie te voorspellen met behulp van tienduizenden factoren', zei Rieke . Als ik me echt conservatief zou voelen, zou ik een paar algemene competentiecategorieën kunnen noemen. (Hij wijst er ook op dat de wet kunstmatige intelligentie niet definieert, wat betekent dat het moeilijk is om te zeggen op welke bedrijven en op welke soorten systemen de wet van toepassing is).

wie is sienna mae gomez aan het daten?

Omdat de wet beperkt is tot AI die wordt gebruikt in video-interviews, is het bedrijf waarop het het duidelijkst van toepassing is HireVue uit Utah, een populair platform voor sollicitatiegesprekken dat werkgevers een op algoritmen gebaseerde analyse van opgenomen video-interviews biedt. Zo werkt het: u beantwoordt vooraf geselecteerde vragen via de camera van uw computer of telefoon. Vervolgens analyseert een door HireVue ontwikkeld algoritme hoe u de vragen hebt beantwoord, en soms zelfs uw gezichtsuitdrukkingen, om voorspellingen te doen over uw geschiktheid voor een bepaalde positie.

HireVue zegt dat het al ongeveer 100 klanten heeft die deze op kunstmatige intelligentie gebaseerde functie gebruiken, waaronder grote bedrijven zoals Unilever en Hilton.

Sommige kandidaten die het systeem van HireVue hebben gebruikt, klagen dat het proces onhandig en onpersoonlijk is. Maar dat is niet het enige probleem. Algoritmen zijn niet inherent objectief, en ze weerspiegelen de gegevens die zijn gebruikt om ze te trainen en de mensen die ze ontwerpen . Dat betekent dat ze maatschappelijke vooroordelen kunnen erven en zelfs versterken, waaronder: racisme en seksisme. En zelfs als een algoritme expliciet wordt geïnstrueerd om geen rekening te houden met factoren zoals de naam van een persoon, kan het nog steeds proxy's leren voor beschermde identiteiten (een algoritme kan bijvoorbeeld leer mensen te discrimineren die naar een vrouwenuniversiteit zijn gegaan ).

Vooral gezichtsherkenningstechnologie heeft kritiek gekregen omdat het moeite heeft met het identificeren en karakteriseren van de gezichten van mensen met donkerdere huid , vrouwen , en trans en niet-binaire mensen , onder andere minderheidsgroepen. Dat zeggen critici ook emotie (of affect) herkenningstechnologie in het bijzonder, die beweert te oordelen over de emoties van een persoon op basis van hun gezichtsuitdrukkingen, is wetenschappelijk gebrekkig . Dat is de reden waarom een ​​non-profitorganisatie, het AI Now Institute, genaamd voor het verbod op dergelijke technologie bij besluitvorming met hoge belangen, inclusief het doorlichten van sollicitanten.

Terwijl je wordt geïnterviewd, is er een camera die je opneemt, en het neemt al je micro-gelaatsuitdrukkingen op en alle gebaren die je gebruikt, de intonatie van je stem en vervolgens het patroon dat overeenkomt met die dingen die ze kunnen detecteren met hun best presterende, vertelde mede-oprichter van AI Now Institute Kate Crawford eerder dit jaar aan Kara Swisher van Recode. [Het] klinkt misschien als een goed idee, maar denk eens na over hoe je eigenlijk gewoon mensen aanneemt die lijken op de mensen die je al hebt.

Zelfs leden van het Congres maken zich zorgen over die technologie. In 2018 schreven de Amerikaanse senator Kamala Harris, Elizabeth Warren en Patty Murray aan de Equal Employment Opportunity Commission, de federale instantie die belast is met het onderzoeken van discriminatie op het werk, met de vraag of dergelijke gezichtsanalysetechnologie in strijd zou kunnen zijn met antidiscriminatiewetten.

Ondanks dat het een van de eerste wetten is die deze tools reguleert, gaat de wet van Illinois niet in op zorgen over vooringenomenheid. Geen enkele federale wetgeving regelt expliciet deze op AI gebaseerde wervingssystemen. In plaats daarvan zeggen arbeidsrechtadvocaten dat dergelijke AI-tools over het algemeen onderworpen zijn aan de Uniforme Richtlijnen, arbeidsdiscriminatienormen die in 1978 door verschillende federale agentschappen zijn opgesteld (u kunt daar meer over lezen hier ).

Het EEOC heeft niet gereageerd op de meerdere verzoeken van Recode om commentaar.

hoe lang duurt het om de stofwisseling te versnellen?

Ondertussen is het niet duidelijk hoe, onder de nieuwe wet van Illinois, bedrijven zoals HireVue de kenmerken van aanvragers zullen uitleggen die de AI in overweging neemt, aangezien het bedrijf beweert dat zijn algoritmen tot wel tienduizenden factoren (er staat dat het factoren verwijdert die niet voorspellend zijn voor werksucces).

De wet legt ook niet uit waar een aanvrager recht op heeft als een bedrijf een van de bepalingen ervan overtreedt. Advocatenkantoren die cliënten adviseren over compliance hebben ook: dat is genoteerd dat het niet duidelijk is of de wet uitsluitend van toepassing is op bedrijven die een functie in Illinois vervullen, of alleen op interviews die in de staat plaatsvinden. Noch Illinois State Sen. Iris Martinez noch Illinois Rep. Jaime M. Andrade, wetgevers die aan de wet hebben gewerkt, reageerden op het moment van publicatie op een verzoek om commentaar.

HireVue's CEO Kevin Parker zei in een: blogpost dat de wet weinig of geen verandering met zich meebrengt omdat het platform al voldoet aan AVG' s principes van transparantie, privacy en het recht om vergeten te worden. [W]e zijn van mening dat elk sollicitatiegesprek eerlijk en objectief moet zijn en dat kandidaten moeten begrijpen hoe ze worden beoordeeld. Dit is eerlijk spel, en het is goed voor zowel kandidaten als bedrijven, schreef hij in augustus.

Een woordvoerder van HireVue zei dat de beslissing om een ​​alternatief te bieden voor een op AI gebaseerde analyse aan het bedrijf is dat iemand aanneemt, maar voerde aan dat die alternatieven voor kandidaten meer tijd in beslag kunnen nemen. Als een kandidaat van mening is dat een systeem bevooroordeeld is, zei de woordvoerder dat de verhaalmogelijkheden dezelfde zijn als wanneer een kandidaat van mening is dat een deel van het wervingsproces, of een individuele interviewer, onterecht bevooroordeeld was tegen hen.

Volgens de nieuwe wet in Illinois kun je, als je deelneemt aan een video-interview dat gebruikmaakt van AI-technologie, vragen om je beeldmateriaal achteraf te verwijderen. Maar het is vermeldenswaard dat de wet het bedrijf nog steeds voldoende tijd lijkt te geven om zijn model te trainen op de resultaten van uw sollicitatiegesprek, zelfs als u denkt dat de uiteindelijke beslissing problematisch was.

Dit geeft deze AI-inhuurbedrijven de ruimte om te blijven leren, zegt Rieke. Ze gaan de onderliggende video verwijderen, maar alle lessen of verbeteringen aan hun systemen mogen ze behouden.


Open source wordt mogelijk gemaakt door Omidyar Network. Alle open source content is redactioneel onafhankelijk en geproduceerd door onze journalisten.