Internetfora: kattenplaatjes en school shooters

Het internet is een plek waar groepjes snel zijn gevormd. Dit geldt niet alleen voor mensen die hun favoriete kattenplaatjes met elkaar willen delen, maar ook voor mensen die extremistisch gedachtegoed met elkaar willen uitwisselen. Het anonieme internetforum 8chan is zo’n plek. Op dit beruchte forum komen aanslagplegers, racisten en andere sympathisanten van radicale denkbeelden samen om idealen en manifesten met elkaar te delen. Gebruikers jutten elkaar op om aanslagen te plegen en de “highscore”, het aantal doden bij een aanslag, te verbreken.

Grens overschreden

Het internetforum 8chan is het afgelopen jaar veel in opspraak geweest. Zo was de dader van de aanslag in Christchurch actief op dit forum en publiceerde hij een racistisch manifest vlak voor het plegen van de aanslag. Ruim vier maanden later werd opnieuw een aanslag aangekondigd op het forum, dit keer door een schutter in El Paso. Mogelijk heeft deze schutter zich laten inspireren door de content op 8chan. Voor het internet performance bedrijf Cloudflare, dat services aanbod aan 8chan, was de maat vol. Op 5 augustus 2019 beëindigde Cloudflare het contract met 8chan. Een duidelijk signaal werd hiermee afgegeven: de grens is overschreden. Maar wat vinden we er eigenlijk van dat een bedrijf als verkeersregelaar op het internet optreedt bepaalt waar de grens van de vrijheid van meningsuiting ligt?

Vrijheid van meningsuiting

In Amerika is de vrijheid van meningsuiting een groot goed. Een uiting wordt niet snel als onrechtmatig aangemerkt en tussenpersonen zoals beheerders van internetfora zijn beschermd tegen aansprakelijkheid voor hetgeen hun gebruikers plaatsen.¹ Auteursrechtinbreuk is hierop uitgezonderd: wanneer een forumgebruiker een auteursrechtinbreuk begaat, moet de beheerder de inbreuk beëindigen. 8chan ontleent zijn bestaan aan ongereguleerde content, zij vinden dat alles mag en moet kunnen op dit forum. De beheerder van een platform als 8chan heeft geen zorgplicht.

In Europa ontwikkelen wetten zich steeds verder om de verantwoordelijkheid van onrechtmatig gedrag op platforms wèl bij platforms neer te leggen. Zo is er al een “notice-and-take-down”-systeem. Dit houdt in dat wanneer de dienstverlener op de hoogte is van onmiskenbaar onrechtmatig gedrag op het platform, deze content zo spoedig mogelijk moet worden verwijderd, ondanks hun positie als tussenpersoon.

Cloudflare op de stoel van de platforms

Bij een platform als Facebook of Twitter lijkt het misschien een logische keuze om die verantwoordelijkheid bij het platform neer te leggen. Bij een relatief onbekend, aan de achterkant opererend beveiligingsbedrijf als Cloudflare dat zich opwerpt als een regulerend platform ligt dat anders. De afweging van wat wel of niet door de beugel kan, dient wat mij betreft niet gemaakt te worden door een privaat bedrijf. Dit kan namelijk leiden tot inperking van de vrijheid van meningsuiting en tot willekeur. Een derde probleem is dat het in strijd is met het beginsel van netneutraliteit.

Onze vrijheid van meningsuiting gaat best ver: die vrijheid hebben we vooral om ideeën en denkbeelden mogelijk te maken die kunnen schokken, kwetsen of verontrusten, zo vindt het Europees Hof voor de Rechten van de Mens. Maar nodeloos kwetsen of iemand schaden mag dan weer niet. De grens tussen een belediging of nodeloos kwetsen is vaag. Een bedrijf als Cloudflare is niet opgericht om hierover een oordeel te vellen, zij bieden enkel een technische service aan - ze zijn geen platform. Bovendien ligt willekeur zeer voor de hand: een concurrent van Cloudflare zou bijvoorbeeld iets onrechtmatig kunnen vinden, omdat daar een werknemer rondloopt met een sterke maag, terwijl het bij Cloudflare wel door de beugel kan. Of het is denkbaar dat Cloudflare bij de ene klant coulanter is in het oordeel dan bij het andere, omdat het ene platform bijvoorbeeld een grotere klant is.

Het probleem van willekeur brengt ons bij het beginsel van netneutraliteit. Dit beginsel houdt in dat internetaanbieders niet de toegang tot internetdiensten mogen blokkeren, onnodig beperken of een apart tarief vragen voor het gebruik van bepaalde internetdiensten. Het doel van netneutraliteit is dat er een vrij en open toegang tot het internet bestaat. ICT-jurist Arnoud Engelfriet stelt dat “bedrijven als Cloudflare websites niet mogen afsluiten vanwege extremistische uitingen of negatieve beeldvorming rond de aanbieder. Ook niet als in de Algemene Voorwaarden staat dat dergelijk gedrag onaanvaardbaar is.” In de wet is bepaald dat de reden voor blokkeren vanwege netneutraliteit moet zijn gelegen in: congestie bestrijden, veiligheid van het netwerk, spam tegengaan of een gerechtelijk vonnis. Hij stelt verder dat “het afsluiten van die consument evenmin zomaar mag. Dan moet er sprake zijn van wanbetaling, bedrog, gerechtelijk vonnis, overmacht en onvoorziene omstandigheden.”

Zorgplicht voor forumbeheerders

Het is duidelijk dat het onwenselijk is dat servicebedrijven als Cloudflare bepalen wat wel en niet op fora gezegd mag worden. Het is tevens onwenselijk een soort internetpolitie op te tuigen die fora rondstruint op zoek naar racistische uitingen, ook is het vanwege de anonimiteit op fora ondoenlijk om leden elkaar te laten reguleren. Daarom is de meest pragmatische oplossing het hanteren van een zekere zorgplicht voor forumbeheerders. Dat betekent dat je mag – en soms zelfs moet – ingrijpen in berichten als deelnemers op jouw forum te ver gaan. Een beheerder kan dan berichten verwijderen of aanpassen, of zelfs de plaatser van die berichten verwijderen (‘verbannen’) van de site.

Veel grotere forums hebben een vast aantal ‘moderators’ in dienst die discussies in de gaten houden en voorkomen dat deze ontsporen. Door de anonimiteit van het toetsenbord is er eigenlijk geen forum meer dat normaal kan functioneren zonder moderators. Het beruchte 8chan heeft zich aantoonbaar onverschillig opgesteld. Hoewel het platform zegt dat er wel moderators werken - dit blijkt ook onder andere uit het feit dat het El Paso manifest enkele minuten na de schietpartij werd weggehaald - vindt er nauwelijks actieve controle plaats. In Nederland zou 8chan op basis van de zorgplicht aansprakelijk kunnen worden gesteld. Amerika loopt op het ontwikkelen van nieuwe wetgeving hieromtrent nog ver achter. Cloudflare achtte de nood te hoog om te wachten op wetgeving en besloot zelf in te grijpen - zich volledig bewust zijnde van de onwenselijkheid hiervan.

¹ Zie voor meer informatie over dit onderwerp het boek ‘De wet op internet’ van A. Engelfriet (2017).