Popup-Niks-missen-2.png

NIEUWS

Student Robin Pocornie en Hans de Zwart van het Racism and Technology Center
Studenten 15 juli 2022 reacties 2

Student beschuldigt VU van werken met discriminerende antispieksoftware

Eén bèta-student van de VU zegt dat ze tijdens haar tentamens werd benadeeld door de antispieksoftware Proctorio. De software zou haar minder goed herkennen omdat ze zwart is. Na meerdere stappen te hebben ondernomen, dient ze nu een klacht in bij het College voor de Rechten van de Mens.

“De software herkent me niet als mens, en de universiteit erkent mijn ervaring niet”, vertelt masterstudent Bioinformatics Robin Pocornie aan de Volkskrant. Ze probeerde het eerst op eigen houtje aan te kaarten bij de VU, schakelde vervolgens het Racism and Technology Center in voor hulp en dient vandaag een klacht in bij het College voor de Rechten van de Mens.

De slechte ervaringen van Pocornie met de antispieksoftware begonnen twee jaar terug in september. Het inlogproces voor haar tentamen werd belemmerd doordat ze niet werd herkend, terwijl ze in een goed verlichte kamer zou zitten. Na zestien minuten lukte het haar eindelijk om in te loggen door een lamp direct in haar gezicht te laten schijnen.

Ze heeft nog vier andere keren problemen gehad met het inloggen. Dit zou haar prestaties in de weg kunnen staan, hoewel ze alle tentamens heeft gehaald. Pocornie stuitte op internationale berichtgeving over het fenomeen dat zwarte mensen minder goed worden herkend door software. Er zijn al meerdere onderzoeken die dat beweren.

Pocornie probeerde het probleem eerst zelf aan te kaarten bij de VU en schakelde vervolgens de hulp in van het Racism and Technology Center. Ze wil dat de VU direct stopt met het gebruik van de software en dat er maatregelen komen om herhaling te voorkomen. Ook verwacht ze een publiekelijke verontschuldiging van de universiteit tegenover alle studenten die net als zij met de software worstelden tijdens hun tentamens.

Omdat de VU daar volgens Pocornie nog niet aan voldoet, wordt er vandaag een klacht ingediend bij het College voor de Rechten van de Mens. Ze hoopt dat haar klacht ertoe leidt dat alle publieke instellingen zullen waken voor het gebruik van technologie met discriminerende effecten.

Pleidooi voor openboektentamens

VU-medewerker Ivo van Stokkum laat weten dat hij het heel slechte publiciteit vindt voor de VU. “Als docent en programmadirecteur Physics and Astronomy zou ik in plaats van proctoring willen pleiten voor (indien mogelijk) openboektentamens in combinatie met de belofte van academic honesty, en bij twijfel over de authenticiteit van ingeleverd werk een kritisch gesprek achteraf. Maar dat is helaas alleen uitvoerbaar bij kleinschalig onderwijs met maximaal 150 studenten.”

De VU zelf heeft zojuist een statement gepubliceerd: “Het raakt ons zeer dat de studente zich zo benadeeld heeft gevoeld”. De faculteit zou echter geen aanwijzing hebben gevonden dat de software discrimineert. Een aanvullend extern onderzoek wordt overwogen.

Nour Khamis
BEELD: CC BY-ND 4.0 Racism and Technology Center

{ Lees de 2 reacties}

Door Raymond van Ierland op 15 juli 2022
Vervelend dat deze studente dat zo ervaart. Ik kan me echter voorstellen dat niet alle gezichten herkend worden door de software. Ik zou de ontwikkelaar van het systeem aanraden het systeem te testen en hierdoor werkbaar te maken met een breder spectrum van gezichtsvormen. Ook gezichten die bijvoorbeeld van vorm afwijken door een aandoening. Het lijkt me evenzo vervelend als iemand datzelfde moet ervaren.
Door Jasper op 17 juli 2022
Het is een bekend gegeven dat bestaande implementaties voor gezichtsherkenning niet voor alle demografieën even goed werken (o.a. NIST deed er al in 2019 onderzoek naar). VU lijkt van niets te weten, suggereert dat het een "gevoelen" betreft van de betrokken student, en vindt het voldoende als de leverancier e.e.a. ontkent op basis van onderzoek dat deze zelf uitgevoerd heeft. Beschamend voor een universiteit.

Reageren?

Houd je bij het onderwerp, en toon respect: commerciële uitingen, smaad, schelden en discrimineren zijn niet toegestaan. De redactie gaat niet in discussie over verwijderde reacties.

Deze vraag is om te controleren dat u een mens bent, om geautomatiseerde invoer (spam) te voorkomen.