De Europese Commissie wil vastleggen wat wel en niet mag met kunstmatige intelligentie

Op woensdag 21 april 2021 heeft de Europese Commissie (EC) nieuwe strikte regels omtrent kunstmatige intelligentie (KI) gepresenteerd. Door de nieuwe wetgeving zal het gebruik van KI veilig zijn, zal de economie groeien en is het gebruik van KI in overeenstemming met de grondrechten. Op deze manier wordt het in sommige gevallen lastig of onmogelijk gemaakt om KI uit te breiden. Dit roept de vraag op waarom het gebruik van KI toch gereguleerd dient te worden.

Op wie zijn de regels van toepassing?

De nieuwe regels omtrent KI zijn van toepassing op publieke en private actoren binnen en buiten de Europese Unie (EU). Deze actoren brengen een KI-systeem op de Europese markt of gebruiken een KI-systeem dat impact heeft op personen in de EU. Hierbij kan worden gedacht aan ontwikkelaars, distributeurs en gebruikers van KI-systemen.

Waarom moet KI gereguleerd worden?

De voordelen van KI variëren bijvoorbeeld van betere gezondheidszorg tot beter onderwijs. Het invoeren van KI-systemen biedt dus maatschappelijke voordelen. Daarnaast creëert het ook een economische groei en versterkt het de innovatie en het mondiale concurrentievermogen van de EU.

Hoewel de meeste KI-systemen weinig tot geen risico’s tot gevolg hebben, moeten risico’s van bepaalde systemen toch worden aangepakt wanneer de veiligheid of de grondrechten van personen in het geding zijn. Bijvoorbeeld bij inzet van biometrische identificatie worden persoonsgegevens achterhaald op basis van specifieke technische verwerking van fysieke, fysiologische of gedragsgerelateerde kenmerken van een persoon. Door de unieke lichaamskenmerken wordt vastgesteld wie de specifieke persoon is. Ook is het mogelijk om uit bepaalde lichaamskenmerken van personen af te leiden wat hun ras of gezondheidstoestand is. Dit bevat dus meer informatie dan noodzakelijk voor het identificeren van een persoon. Het gebruik is dan bijvoorbeeld risicovol voor het grondrecht van de menselijke waardigheid.

Wetgeving kan door middel van een adequate aanpak waarborg bieden voor goed functionerende KI op de markt. Het KI-voorstel van de EC heeft tot doel om de grondrechten en de veiligheid van gebruikers te beschermen, maar ook om het vertrouwen in de ontwikkeling en het gebruik van KI te realiseren. De EC wil dus KI-systemen of toepassingen die een bedreiging vormen voor de veiligheid, bestaansmiddelen en grondrechten verbieden. Een voorbeeld is het verbieden van KI-systemen die het gedrag van personen manipuleren waardoor hun vrije wil wordt beïnvloed. Een ander voorbeeld is het verbieden van speelgoed dat gevaarlijk gedrag bij kinderen influistert. De Eurocommissaris Margrethe Vestager zegt: “Hoe hoger het risico, hoe strenger de regels”. Het KI-voorstel van de EC onderscheidt de KI-systemen dus in verschillende soorten risicocategorieën.

De risicocategorieën

Het voorstel van de EC bestaat uit: i) onaanvaardbaar risico, ii) hoog risico, iii) beperkt risico en iv) minimaal risico. Nu het grootste deel van het voorstel zich op KI-systemen met een hoog risico richt, zal in dit blog de focus op deze systemen liggen. Luchtvaartapparatuur, speelgoed en medische apparaten vallen onder de categorie KI-systemen met een hoog risico. Voor gebruik in de EU moeten de KI-systemen met een hoog risico aan bepaalde voorwaarden voldoen. Een beoordeling door een derde partij is bijvoorbeeld vereist in het geval dat KI-systemen als veiligheidscomponenten onder sectorale wetgeving of als biometrische identificatie worden ingezet (conformiteitsbeoordeling). De bindende eisen voor risicovolle KI-systemen om vertrouwen en bescherming van veiligheid en grondrechten te waarborgen zijn: “de kwaliteit van de gebruikte datasets; documentatie en gegevensregistratie; transparantie en informatieverstrekking aan gebruikers; menselijk toezicht; en robuustheid, nauwkeurigheid en cyberbeveiliging.” Op gebruikers rust de verplichting om het gebruik van KI-systemen te monitoren en bij te houden welke data gebruikt wordt. Daarnaast zijn zij verplicht systemen te gebruiken volgens de instructies van de provider en de doelen van het systeem.

Tot slot

Het is nog maar de vraag of het voorstel van de EC wordt aangenomen. Dit voorstel moet namelijk nog door het Europees Parlement en de Raad van de EU worden beoordeeld. De verwachting is dat de nieuwe wetgeving over een paar jaar in werking zal treden.

Naar mijn mening is deze nieuwe wetgeving enerzijds ingrijpend maar anderzijds tevredenstellend. In verhouding tot de Verenigde Staten en China loopt Europa achter op het gebied van KI. De nieuwe strenge regels kunnen tot gevolg hebben dat de Europese KI-industrie verhinderd wordt waardoor Europa nog meer zal achterlopen. Aan de andere kant kan door de nieuwe wetgeving gevaarlijke technologie worden voorkomen.