Clearview AI: is anoniem over straat lopen verleden tijd?

Net zoals voor veel technologieën geldt, kan gezichtsherkenning heel nuttig zijn, maar deze technologie kan tegelijkertijd ook grote gevaren met zich meebrengen. In The New York Times is een artikel gepubliceerd over Clearview AI (hierna: Clearview), een tot dan nog onbekende start-up. In het artikel wordt geschreven dat de tool van Clearview “een einde zou kunnen maken aan de mogelijkheid om anoniem over straat te lopen”. Voor alsnog lijkt Clearview alleen in de VS te opereren, maar dat een dergelijke technologie ook zijn weg naar Europa zou kunnen vinden, lijkt mij niet ondenkbaar. In deze blog zal ik ingaan op de tool van Clearview en wat dit kan betekenen voor onze privacy.

Controversieel

De app werkt door een foto te vergelijken met een enorme database van meer dan 3 miljard foto’s die door middel van scraping van Facebook, Twitter, Youtube en vele andere websites zijn gehaald. Social media platformen hebben vaak in de algemene voorwaarden staan dat het is verboden afbeeldingen van gebruikers te scrapen. Clearview houdt zich hier dus niet aan. Vervolgens wordt de gezichtsgeometrie gescand en laat de app binnen enkele seconden matches zien, samen met links naar de sites waar die databasefoto's oorspronkelijk zijn verschenen. Door de grote database kunnen ook foto’s gebruikt worden die onscherp zijn of waarop iemands gezicht maar deels te zien in. Een naam is dan ook snel gevonden en van daaruit kan andere informatie online worden opgegraven. De tool vindt in 75 procent van de gevallen een match. Het is echter onduidelijk hoe vaak de tool valse matches levert, omdat het niet door een onafhankelijke partij is getest.

Volgens Clearview zijn meer dan 600 wetshandhavingsinstanties in de VS in het afgelopen jaar begonnen met het gebruik van de app. Clearviews database is namelijk veel groter dan de databases van deze instanties. Ter vergelijking: de database van de FBI omvat meer dan 641 miljoen paspoort- en rijbewijsfoto’s van Amerikaanse burgers.

De software die aan de app ten grondslag ligt kan ook gekoppeld worden aan augmented reality-brillen, wat tot gevolg heeft dat gebruikers in staat zouden zijn om elke voorbijganger te identificeren. Dit klinkt alsof het uit een futuristische film komt en zou natuurlijk funest zijn voor de privacy.

Inmiddels hebben Twitter, YouTube, Facebook en betalingsplatform Venmo geëist dat Clearview stop met het verzamelen van foto’s op de platformen.

Biometrische gegevens

Gezichtsafbeeldingen zijn biometrische persoonsgegevens. Op grond van deze unieke gegevens kan men geïdentificeerd en geauthenticeerd worden. Omdat biometrische gegevens zijn te herleiden tot één individu, is het waarborgen van de privacy hierbij van groot belang. Daarbij komt dat biometrische gegevens ook meer informatie bevatten dan strikt noodzakelijk is voor het doel. Iemands ras is bijvoorbeeld af te leiden uit een gezichtsafbeelding.

Uit de AVG volgt dat de verwerking van biometrische gegevens een verwerking van bijzondere persoonsgegevens is. Verwerking hiervan met het oog op de unieke identificatie van een persoon is in beginsel verboden. In de UAVG is opgenomen dat het verbod op het verwerken van biometrische gegevens in Nederland niet van toepassing is als de verwerking noodzakelijk is voor authenticatie of beveiligingsdoeleinden.

In de VS bestaat daarentegen geen enkele, alomvattende federale wet die het verzamelen en het gebruik van biometrische gegevens regelt. Er is alleen een lappendeken van staatswetten die mogelijk bescherming zouden kunnen bieden. Waar wij dus de AVG zouden hebben om op terug te vallen, is het voor Amerikanen niet vanzelfsprekend om in het geval van gezichtsherkenning terug te kunnen vallen op wet- of regelgeving.

Europese Commissie

Onlangs meldde persbureau Reuters dat de Europese Commissie overweegt om door kunstmatige intelligentie gedreven gezichtsherkenning in openbare ruimten te verbieden voor een periode van drie à vijf jaar. Tijdens dit verbod kan beleid worden uitgewerkt ter voorkoming van misbruik van gezichtsherkenning in de toekomst. Zo zou het kunnen dat strengere privacyregels nodig zijn om de privacy van burgers te waarborgen. Volgende maand wordt een definitief voorstel verwacht.

In de VS zijn eerder deze maand richtlijnen voor het reguleren van het gebruik van kunstmatige intelligentie openbaargemaakt. Bizar genoeg vragen deze richtlijnen om zo weinig mogelijk overheidsbemoeienis en bieden slechts een brede leidraad voor de federale instanties. Deze richtlijnen zouden de regulering van AI juist kunnen afschrikken in een tijd waarin velen denken dat het steeds meer nodig is. Europa wordt door de VS aangespoord om ook weinig bemoeienis te tonen bij de regulering van kunstmatige intelligentie.

Het (voorlopige) plan van de Europese Commissie mag misschien uit oogpunt van innovatie minder gunstig zijn, voor de privacy van burgers is het toch een stuk beter dan de richtlijnen van de VS. Misschien moet Europa de VS maar aansporen om zich sterker te maken voor de privacy van hun burgers.