• Cynthia Jansen

Het gebruik van gezichtsherkenningstechnologie in Oekraïne

Uit een recent bericht van Reuters blijkt dat het Oekraïense ministerie van Defensie gebruik maakt van gezichtsherkenningstechnologie van het Amerikaanse bedrijf Clearview.[1] Het gebruik van techniek met gezichtsherkenning is een omstreden thema dat al vaker de revue heeft gepasseerd op dit blog en in de mediaberichten omtrent het recht op privacy. De ontwikkelingen omtrent de oorlog in Oekraïne hebben deze techniek echter in een nieuw daglicht gezet en de vraag doen rijzen of het gebruik van deze technologie geoorloofd is.


Clearview is al sinds 2020 veel in het nieuws gekomen en is meerdere keren aangeklaagd in een aantal Europese landen door gegevensbeschermings- en mensenrechtenorganisaties. De campagne van ReclaimYourFace is binnen Europa een beweging van verschillende organisaties die proberen om het grootschalig gebruik van gezichtsherkenningstechnologie te verbieden.[2]


De technologie achter Clearview AI

De technologie van Clearview maakt gebruik van artificiële intelligentie (AI) om personen te identificeren. Oekraïne mag zonder kosten toegang krijgen tot deze technologie van Clearview. Deze technologie zou dan gebruikt kunnen worden om vijandelijke en overleden personen te identificeren. De technologie van Clearview is gebaseerd op een AI die gezichten kan identificeren. Clearview maakt hierbij gebruik van een zeer grote database – naar verluid meer dan 3 biljoen foto’s – met een grote hoeveelheid foto’s van bestaande personen. Het gebruik van gezichtsherkenningstechnologie is overigens niet voorbehouden aan grote organisaties of bedrijven. Internetgebruikers kunnen op basis van Open Source Intelligence (OSINT) met een enkele foto van een persoon aanvullende informatie vinden die publiek toegankelijk is, zoals bestaande profielen op online platformen.[3]


Het grootschalig gebruik van gezichtsherkenning is een risicovolle technologie omdat er gevoelige persoonsgegevens worden verwerkt, namelijk de gezichten van mensen. Dit zijn zogenaamde biometrische gegevens en worden als bijzondere persoonsgegevens aangemerkt in de AVG. Eén belangrijk risico is dat er fouten kunnen optreden bij de herkenning van mensen. De verkeerde persoon kan herkend worden door de software, waardoor deze persoon ook onterecht eventuele nadelige gevolgen moet ondergaan. Daarnaast is de kans op fouten bij gezichtsherkenning oneerlijk verdeeld, waardoor fouten eerder voorkomen bij personen met een bepaalde etniciteit of geslacht. Een ander belangrijk risico is dat er bij een datalek de biometrische informatie van personen in principe volledig op straat staan. Daarnaast zijn er vanuit privacy oogpunt grote zorgen over het feit dat mensenlevens massaal gesurveilleerd kunnen worden.


Clearview heeft de software die zij aanbieden aan Oekraïne gebaseerd op een database met miljoenen afbeeldingen afkomstig van VKontakte, een social mediaplatform (vergelijkbaar met Facebook) dat populair is onder Russen en Oekraïners. Het is nog onbekend hoe de informatie van dit platform precies gebruikt zal worden. Er kan daarom nog niet veel gezegd worden over de accuraatheid en functionaliteit van de software. Uit eerdere berichtgeving omtrent AI-gezichtsherkenning blijkt echter dat de geclaimde accuratesse van meer dan 97 procent alleen behaald kan worden bij het analyseren van mannen met een lichte huidskleur.[4] Er is geen garantie op het volledig foutloos herkennen van personen en er zijn ook verschillen in accuratesse onder verschillende groepen mensen. Vanuit bedrijven zoals Clearview wordt wel een schijn van vrijwel volledige accuratesse gepresenteerd in het aanbieden van de technologie. Dit maakt deze technologie risicovol, omdat eventuele fouten kunnen leiden tot grote nadelige gevolgen voor het individu.


Gezichtsherkenningstechnologie en privacy

Clearview is niet uniek in het aanbieden van gezichtsherkenningstechnologie, maar zij zijn wel een stap verder gegaan dan concurrenten door sociale media op te gaan en een grote database te maken met foto’s en daarbij behorende namen van personen. Clearview vult haar database aan door foto’s en afbeeldingen te ‘scrapen’ van vele websites, onder andere van platformen als Instagram, Twitter en Facebook. Het opmaken van deze grote datasets heeft geleid tot kritiek, omdat het de privacy schendt van de personen die zij hebben opgenomen in hun database. De CEO van Clearview heeft zich hierover eerder verweerd door zich te beroepen op het eerste amendement van de Amerikaanse grondwet en te stellen dat zij gebruik maken van het recht op informatie.[5] Clearview zou volgens de CEO uitsluitend publieke informatie verzamelen. Vanuit Clearview wordt hierin de vergelijking getrokken met een zoekmachine als Google, die ook data vanuit elke hoek van het internet haalt. Een vertegenwoordiger van Google heeft daartegen opgemerkt dat webmasters de controle hebben om de data van hun site uit te sluiten in zoekresultaten, in tegenstelling tot hoe Clearview aan haar data komt.


Dit roept de vraag op of er binnen de EU ruimte is voor dit soort gezichtsherkenningstechnologie. Door de Italiaanse toezichthouder GPDP is eerder deze maand al een fikse boete opgelegd aan Clearview wegens oneigenlijke dataverzameling van gezichtsscans.[6] Volgens de uitspraak is de Algemene Verordening Gegevensbescherming van toepassing omdat Clearview de software gebruikt om het gedrag van mensen in Italië te monitoren. Het feit dat het hier gaat om een Amerikaans bedrijf dat geen diensten aanbiedt in de EU, doet hier niets aan af. Het is volgens de Italiaanse toezichthouder illegaal om beelden te verzamelen voor een biometrische zoekmachine. De Franse autoriteit op het gebied van persoonsgegevensbescherming had eenzelfde soort besluit gegeven in december 2021. De European Data Protection Board heeft eerder al opgeroepen tot een absoluut verbod op gezichtsherkenning.[7] Vanuit het Nederlandse kabinet is destijds gereageerd dat de zorgen van de Europese privacy waakhond omtrent het verwerken van biometrische gegevens gedeeld worden, maar dat zij nog wel de mogelijkheid willen behouden om deze techniek in te zetten bij ‘zwaarwegende belangen’. De Europese Commissie moet zich nog buigen over een definitieve richtlijn voor de regulering van AI. Het ziet er naar uit dat gezichtsherkenningstechnologie zoals die door Clearview wordt gebruikt op forse kritiek kan rekenen. Het is echter niet ondenkbaar dat dezelfde technologie in de toekomst door andere (Europese) partijen mogelijk legaal gebruikt kan worden.


[1] https://www.reuters.com/technology/exclusive-ukraine-has-started-using-clearview-ais-facial-recognition-during-war-2022-03-13/

[2] https://reclaimyourface.eu/

[3] https://www.wired.com/story/facial-recognition-identify-russian-soldiers/

[4] https://www.agconnect.nl/artikel/forse-fouten-gevonden-ai-gezichtsherkenning

[5] https://www.biometricupdate.com/202002/clearview-ai-ceo-claims-first-amendment-protects-scraping-of-public-biometric-data

[6] https://noyb.eu/nl/20-miljoen-euro-boete-voor-clearview-ai-italie

[7] https://tweakers.net/nieuws/187794/europees-parlement-wil-verbod-op-gezichtsherkenning-in-publieke-ruimte.html