• Cynthia Jansen

Een algoritme waakhond in Nederland?

Het regeerakkoord van Rutte IV heeft een aantal ambities op digitaal gebied. In het akkoord is een speciaal hoofdstuk gewijd aan digitalisering waarin vermeld staat dat de fundamentele burgerrechten online worden erkend. Eén van de plannen uit het akkoord is om een toezichthouder aan te stellen op het gebied van algoritmes.[1] Deze algoritmetoezichthouder zou ingebed worden in de Autoriteit Persoonsgegevens. Dit roept de vraag op in hoeverre dit nodig is en op welke manier deze doelstelling gerealiseerd kan worden.

Wat zijn algoritmes?

Algoritmes zijn in principe niet meer dan recepten of stappenplannen. Met behulp van een algoritme kan een bepaalde output volgen, zonder tussenkomst van een mens. De toepassing van algoritmes is op zichzelf niet nieuw, maar de inzet van algoritmes vindt wel in toenemende mate plaats. Daarbij heeft het wetenschapsgebied artificiële intelligentie (AI) of kunstmatige intelligentie de laatste tien jaar een enorme ontwikkeling doorgemaakt, met name op het gebied van machine learning en deep learning. Bij machine learning wordt een computer getraind om een bepaalde taak uit te voeren, op basis van algoritmes en grote hoeveelheden data. Machine learning systemen kunnen zelfstandig ‘leren’ door zelf verbanden te leggen. Algoritmes kunnen dus eenvoudig zijn, maar er zijn ook complexere zelflerende algoritmes die onder de definitie van AI vallen.

Algoritme waakhond

De roep om een “algoritme waakhond” komt niet uit de lucht vallen. Al in 2018 stelde D66 voor om een algoritme-waakhond in te zetten om algoritmes en hun datasets van overheden te controleren.[2] In 2018 is er tevens door de Universiteit Utrecht in opdracht van het Ministerie van BZK onderzoek gedaan naar wat voor uitdagingen algoritmes opleveren voor grondrechten.[3] Met de toeslagenaffaire is het gebruik van algoritmes door de overheid (terecht) onder grotere aandacht gekomen.


De Algemene Rekenkamer publiceerde in 2021 het rapport ‘Aandacht voor algoritmes’, naar aanleiding van een onderzoek dat zij vanaf 2020 is gestart.[4] Hierin werd onderzoek gedaan naar wat algoritmes precies doen en hoe de rijksoverheid kan voorkomen dat er vooroordelen in algoritmes sluipen. De conclusie van de Algemene Rekenkamer was in dit rapport dat er binnen de rijksoverheid met name relatief eenvoudige algoritmes worden ingezet. De algoritmes worden vooral ingezet voor administratieve taken en er is altijd een mens betrokken bij het leren door het algoritme. Toch is er nog ruimte voor verbetering, omdat het gebruik van algoritmes in de toekomst zal toenemen en de nieuwere algoritmes zelflerend zullen worden. Zelflerende algoritmes zijn complexer en kunnen overgaan tot snellere en meer objectieve besluitvorming dan bijvoorbeeld door een ambtenaar. De toekomstvisie zou dan zijn dat uiteindelijk het zelflerend algoritme de (meeste) taken van de ambtenaar overneemt. Er zullen dan echter wel meer eisen gesteld moeten worden aan de kwaliteit van de algoritmes. Eén van de bevindingen uit het rapport was dat er nog geen concrete instrumenten zijn om algoritmes te toetsen. De Algemene Rekenkamer is daarom met een toetsingskader gekomen.[5]

De regulering van algoritmes en AI

Er zijn op dit moment geen wetten die toepassing van AI in het algemeen reguleren. Dat komt deels omdat AI een breed begrip is en omdat AI zit in producten, diensten en processen waar al regulering voor bestaat. Afhankelijk van waar AI wordt toegepast, is er (mogelijk) een toepasselijk kader. Zo is er bijvoorbeeld het Agentschap Telecom dat toezicht houdt op de telecomsector waar AI-toepassingen al in gebruik zijn.[6] De Autoriteit Persoonsgegevens houdt bijvoorbeeld weer toezicht op algoritmes waarin persoonsgegevens worden verwerkt.[7]


Door de Europese Commissie is er een voorstel ingediend voor een ‘Wet Artificiële Intelligentie (AI)’.[8] Deze concept-verordening biedt regels voor kunstmatige intelligentie (ook wel Artificiële Intelligentie of AI) die binnen alle industrieën van toepassing zouden zijn. Binnen dit concept wordt de definitie van een artificiële-intelligentie systeem gedefinieerd als software die een output kan genereren, zoals bijvoorbeeld aanbevelingen en beslissingen, die van invloed zijn op de omgeving waarmee het interactie heeft. Hoewel niet alle algoritmes voldoen aan deze definitie om als kunstmatige intelligentie te worden aangemerkt, zijn er complexere, zelflerende algoritmes die gedefinieerd kunnen worden als kunstmatige intelligentie. Met een oog op de voortschrijdende technologie is het vooruitzicht dat de nieuwere generaties algoritmes steeds complexer zullen worden en op meerdere plaatsen ingezet kunnen worden.


Er is echter ook kritiek op het plan om een toezichthouder voor algoritmes in het leven te roepen. Er komen namelijk nog meer taken te liggen bij de Autoriteit Persoonsgegevens, terwijl zij juist al overladen is met werk.[9] Daarnaast is het zo dat de AP in eerste instantie toezicht houdt op gegevensverwerkingen die een impact hebben op het privacyrecht van burgers. Bij algoritmes hoeft er niet per se altijd sprake te zijn van persoonsgegevens.


De WRR publiceerde in november 2021 een rapport waarin het grote belang benadrukt wordt om te anticiperen op nieuwe technologieën met betrekking tot AI.[10] De WRR stelt echter ook dat het te vroeg is om al een specifieke toezichthouder voor AI te bepleiten, omdat er nog geen regels die specifiek toezien op het gebruik van AI. De regulering die er momenteel is, is versplinterd over verschillende sectoren. De ‘Wet AI’ is nog een concept en zal eerst door de wetgevingsprocedures moeten van de EU voordat het werking krijgt. Volgens het rapport van de WRR zou een coördinatiecentrum voor AI een betere optie zijn. Ook zou een algoritmeregister een logischere eerste stap kunnen zijn, zodat er openheid gegeven kan worden over het gebruik van AI en het gebruik ervan gecontroleerd kan worden door de journalistiek en wetenschap.[11] De gemeente Amsterdam heeft hier inmiddels al een register voor geopend.[12]


[1] https://www.rijksoverheid.nl/onderwerpen/rijksoverheid/documenten/publicaties/2022/01/10/coalitieakkoord-omzien-naar-elkaar-vooruitkijken-naar-de-toekomst

[2] https://www.binnenlandsbestuur.nl/digitaal/d66-wil-algoritme-waakhond

[3] https://www.uu.nl/nieuws/boek-algoritmes-en-grondrechten

[4] https://www.rekenkamer.nl/publicaties/rapporten/2021/01/26/aandacht-voor-algoritmes

[5] https://www.rekenkamer.nl/onderwerpen/algoritmes/algoritmes-toetsingskader/

[6] https://www.agentschaptelecom.nl/onderwerpen/kunstmatige-intelligentie/regelgeving-kunstmatige-intelligentie-ai

[7] https://autoriteitpersoonsgegevens.nl/nl/nieuws/toezicht-op-algoritmes

[8] https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=CELEX:52021PC0206&from=EN

[9] https://www.nu.nl/tech/6181913/privacywaakhond-gaat-ook-algoritmes-controleren-maar-verzuipt-nu-al-in-t-werk.html

[10] https://www.wrr.nl/publicaties/rapporten/2021/11/11/opgave-ai-de-nieuwe-systeemtechnologie

[11] https://publiekecontrole.com/

[12] https://algoritmeregister.amsterdam.nl/