Californië komt met “verbod” gezichtsherkenning voor politie

De berichtgeving rond gezichtsherkenning lijkt de laatste maanden in een stroomversnelling te zijn geraakt. Het extensieve gebruik ervan in het Chinese social credit-systeem en de verschillende MIT-onderzoeken over bevooroordeelde algoritmes waren groot nieuws. In een eerdere blog ben ik ingegaan op het feit dat zelfs vanuit de industrie de roep opgaat om het ontwikkelen en gebruik van gezichtsherkenning door middel van regelgeving aan banden te leggen.

Al deze media-aandacht lijkt nu zijn eerste vruchten af te werpen. In verschillende Amerikaanse steden staan de eerste wetgevingsinitiatieven voor gezichtsherkenning op poten. Zo kwam een aantal weken geleden San Francisco met een verordening die overheidsgebruik van gezichtsherkenning stevig aan banden legt. In meer steden in de regio, zoals Oakland en Berkeley, liggen vergelijkbare voorstellen klaar. In Australië heeft de Identity Matching Services Bill 2018, die een juridisch kader schept waarin onder meer overheidsgebruik van gezichtsherkenning expliciet is toegestaan, het niet vóór de verkiezingen van mei 2019 gehaald. Er zal door de nieuwe regering opnieuw gestemd moeten worden en het is in het licht van de recente ontwikkelingen zeer de vraag of zo'n nieuw voorstel voldoende steun zal krijgen.

Wereldwijd lijken wetgevingsinstanties dus wakker te zijn geschud. Over het algemeen is er meer bewustzijn omtrent de maatschappelijke impact van overheidsgebruik van gezichtsherkenning, zonder meer een goede zaak. Toch zitten er haken en ogen aan al die media-aandacht. Wetgeving is vaak niet erg genuanceerd. Zo staat de verordening van San Francisco bijvoorbeeld erg vijandig tegen elke vorm van gezichtsherkenning, getuige sectie 1, algemene bevindingen van de Stop Secret Surveillance Ordinance:

(d) The propensity for facial recognition technology to endanger civil rights and civil liberties substantially outweighs its purported benefits, and the technology will exacerbate racial injustice and threaten our ability to live free of continuous government monitoring.

Hier wordt niet alleen de belangenafweging tussen voor- en nadelen aan de kant geveegd, men vraagt zich openlijk af óf er wel voordelen zijn. Bovendien wordt er hier zonder meer van uitgegaan dat het gezichtsherkenning 'raciaal onrecht' zal versterken. Gezichtsherkenning kan, mits goed functionerend, in ieder geval op de gebieden van veiligheid en economisch belang enorme winst opleveren. Het is alleen zaak die voordelen goed af te wegen tegen de impact op privacy en eventuele andere (grond)rechten en dat te doen in verschillende situaties. Gezien de open houding ten opzichte van regulering van een industry leader als Microsoft is de toon van de aanhef van de verordening nodeloos vijandig.

Is de nieuwe regulering dan alleen maar slecht? Nee, zeker niet. De voorstellen bieden stuk voor stuk de mogelijkheid om gezichtsherkenning in te zetten onder bepaalde bijzondere omstandigheden (exigent circumstances), bijvoorbeeld wanneer er dreiging is van dood of ernstig letsel:

...an emergency involving imminent danger of death or serious physical injury to any person that requires the immediate use of Surveillance Technology or the information it provides.

De verordening van Oakland voegt daar bovendien in artikel 9.64.035 lid 1 grootschalige evenementen (large-scale events) als uitzonderingscategorie aan toe. Maar daarmee komen we gelijk bij een ander probleem uit. Regulering van gezichtsherkenning blijft vooralsnog bij lagere wetgeving die per stad afwijkt. Dat terwijl de terwijl de roep vanuit de industrie juist is om zoveel mogelijk één standaard af te spreken.

Een goed punt van beide verordeningen is dan weer dat ze voldoende ruimte laten voor nieuwe identificatiemethoden door een niet-limitatieve opsomming van surveillancemiddelen te gebruiken in de definitielijst van hoofdstuk 19B:

“Surveillance Technology” includes but is not limited to the following: (...)

Er wordt duidelijk rekening gehouden met snelle ontwikkelingen van AI-systemen om mensen te kunnen identificeren. De wetgeving is daarmee op de toekomst gericht. De nadruk ligt bovendien op documentatie en openheid van zaken wanneer een instantie wél gezichtsherkenning gebruikt. Op die manier kan de maatschappelijke impact goed in de gaten gehouden worden. Dat is ook meer de kant die we op moeten. Geen algeheel verbod, maar een systeem van wetten dat weloverwogen gebruik van goed functionerende algoritmen mogelijk maakt.

Toch blijft er één probleem: zolang er geen onafhankelijke kwaliteitscontrole plaatsvindt op het moment dat gezichtsherkenning op de markt wordt gebracht, is het onmogelijk de impact van het gebruik objectief te meten. Een belangenafweging blijft nu gebaseerd op een ruwe schatting van effectiviteit. Het is te hopen dat ook hier snel verandering in komt.