Toezicht door de ACM op algoritmische toepassingen

De Autoriteit Consument en Markt (ACM) vormt een onmisbare schakel binnen onze economie, omdat zij zorgt voor een goed functionerende markt met gezonde concurrentie en zonder oneerlijke handelspraktijken. De laatste jaren is de adoptie van Artificial Intelligence (AI) enorm toegenomen. Omdat de toepassing van AI in veel gevallen een direct effect heeft op consumenten of andere marktpartijen, heeft de opkomst ervan dit marktevenwicht in sommige gevallen verstoord. Onlangs verscheen er een position paper van de ACM over onderzoek naar algoritmische toepassingen. Vanuit dit vertrekpunt wil de ACM het toezicht op algoritmische toepassingen verder ontwikkelen.

Algoritmische toepassingen

Een voorbeeld van een algoritmische toepassing die we allemaal dagelijks tegenkomen is het gebruik van een zoekmachine. De informatie die uit een zoekopdracht rolt wordt namelijk getoond op een bepaalde volgorde. Die volgorde wordt bepaald door AI. Ook nummers uit onze wekelijkse Release Radar-lijst op Spotify is een creatie van AI.

Belangrijk om te beseffen is dat algoritmische toepassingen een effect hebben op marktspelers. Het beïnvloedt in belangrijke mate welke content we bekijken, de producten die we aanschaffen en de manier waarop we onze informatie vergaren. Ik denk dat het grootste effect op de markt de keuzes zijn die we daarom niet meer maken. Denk aan het nieuwsartikel dat we niet aanklikken omdat die lager in de resultaten staat. Muziek die we nooit zullen luisteren omdat we blind varen op de lijsten die ons worden toegediend. Maar denk ook aan content die we nooit zullen zien, omdat deze door AI, terecht of onterecht, wordt geblokkeerd.[1]

De voordelen van algoritmische toepassingen, zoals efficiëntie, snelheid, schaalbaarheid en aanpasbaarheid, komen in het gedrang door risico's. Deze kunnen variëren van manipulatie en privacyschendingen, tot sociale discriminatie, misbruik van marktmacht of onnauwkeurige en oneerlijke beslissingen. Toezicht op algoritmische toepassingen zal mee moeten groeien met de mate waarin ze een direct effect hebben op de markt. Degene die hiermee belast is, is de ACM.

Position paper ACM

De ACM kan onderzoek doen naar de inzet van algoritmische toepassingen door marktpartijen, met als doel om informatie of bewijs te vergaren over een mogelijke overtreding. De position paper gaat over algemene handvatten voor deze onderzoeken. De ACM heeft drie bevoegdheden om onderzoek te verrichten:

• Het betreden van plaatsen (bedrijfsbezoeken) (Artikel 5:15 Awb)

• Het vorderen van inlichtingen (Artikel 5:16 Awb)

• Het vorderen van inzage in zakelijke gegevens en bescheiden (Artikel 5:17 Awb)[2]

Ongeacht de bevoegdheid, kan de ACM uitgaan van verschillende onderzoeksvragen. Het kan gaan over procedurele transparantie (wat is de rol van het algoritme en welke processen zijn hierbij gevolgd?), uitlegbaarheid (wat is het gedrag van het algoritme?) en technische transparantie (wat is de werking van het algoritme?).

Volgens de position paper zijn er een aantal uitdagingen bij het doen van onderzoek naar algoritmes. Ten eerste is er, voornamelijk bij zelflerende algoritmes, sprake van vluchtigheid. Zelflerende AI verandert namelijk naarmate tijd verstrijkt. Hierdoor is het moeilijk te voorspellen hoe hij zich in de toekomst gaat gedragen, maar andersom geldt hetzelfde. Het is onmogelijk om terug te rekenen op basis waarvan een AI drie maanden terug een bepaalde beslissing gemaakt heeft, en waarom. Een tweede knelpunt is dat de ACM in sommige onderzoeken zal worden aangemerkt als verwerkingsverantwoordelijke, waardoor zij onder de AVG aan bepaalde regels moet voldoen. AI verwerkt namelijk in sommige gevallen persoonsgegevens. De ACM zal in dat geval ook over deze gegevens moeten beschikken om het onderzoek te kunnen afronden. De ACM moet in dat geval maatregelen treffen om op een rechtmatige wijze, met voldoende waarborgen, persoonsgegevens te verwerken.[3]

Conclusie

De position paper is een handig document, samengesteld door de ACM, voor het uitvoeren van onderzoek naar algoritmische toepassingen. Ook bedrijven die algoritmische toepassingen gebruiken hebben hier veel aan. Zij moeten immers verantwoording afleggen aan de ACM en weten op deze manier waar zij aan toe zijn. Bedrijven kunnen zich ook beter voorbereiden en voorkomen dat ze met een mond vol tanden komen te staan. Ze moeten namelijk in kunnen gaan op de procedurele transparantie, de uitlegbaarheid en technische transparantie van het algoritme. Vooral onderzoek naar zelflerende algoritmen zal in de praktijk moeilijk blijken, zowel voor de ACM als bedrijven waar onderzoek naar wordt verricht.

[1] Zie dit artikel voor een kort overzicht van verschillende algoritmische toepassingen (tabel 1).

[2] Bij de uitvoering van deze bevoegdheid neemt de ACM Werkwijze voor onderzoek in digitale gegevens 2014 in acht.

[3] Natuurlijk zijn er meer uitdagingen, maar omwille van het aantal woorden van deze blog heb ik er twee uitgelicht.