• Zeger van Ingen

Youtube als nutsvoorziening? - Hatespeech Deel 2

In mijn vorige blog ben ik al kort ingegaan op YouTube's meest recente policy change om hatespeech te bestrijden. De daarvoor gebruikte methoden zijn kort aangestipt, maar verdienen verdere bespreking. Omdat hatespeech in de Verenigde Staten geen wettelijke definitie heeft – hatespeech is immers beschermd onder de vrijheid van meningsuiting van het First Amendment – zijn socialmediabedrijven aangewezen op hun eigen definities. Het de vraag of die definities correct worden toegepast en of dat leidt tot onbevooroordeelde detectie-algoritmen.


Youtube heeft voor haar hatespeechbestrijding de hulp ingeschakeld van de Anti Defamation League (ADL), maar de ADL is bepaald geen neutrale partij. De organisatie, die oorspronkelijk is opgericht om antisemitisme te bestrijden en gelijkheid voor iedereen te bewerkstelligen, is in de loop van tijd steeds meer kritiekloos pro-Israël geworden. Zo karakteriseert de organisatie nu onder meer als hatespeech: het vergelijken van het Israëlisch beleid met de Apartheid. Ook noemt het geuite kritiek op de Israëlische regering antisemitisch, zelfs wanneer die kritiek afkomstig is van Joodse organisaties als Jewish Voice for Peace. De methodologie van de ADL op het gebied van hatespeech vereist op basis hiervan op zijn minst wat kritische aandacht.


Volgens haar site hanteert de ADL voor hatespeech de definitie van de Encyclopedia of Political Communication die wordt gezien als de academische standaard op dit gebied. Als dataset worden comments gebruikt van de sociale nieuwsaggregatiewebsite Reddit. Die comments worden handmatig gelabeld door een team van mensen. In het team van labelers is gelet op diversiteit van afkomst, religieuze overtuiging, seksuele geaardheid en andere factoren. Aan de hand van die labeling wordt een machine learning-systeem gebouwd, dat vervolgens wordt ingezet om Youtube-content te filteren. Hoewel een goede definitie en een divers team hoopgevend zijn, blijft een systeem als dit gebaseerd op een meerderheidsbeslissing. Als 51% van de teamleden een uitspraak hatespeech vindt, is het de vraag of je daaraan zo'n belangrijk label kunt hangen. Ook is het in dit geval de vraag of de gebruikte dataset ruim genoeg is. Zo is de verzameling subreddits waarin werd gezocht op hatespeech-comments voornamelijk rechts tot extreem-rechts politiek gekleurd. Dit kan tot gevolg hebben dat hatespeech van andere bronnen niet correct geïdentificeerd wordt door het algoritme. Zoals ik in een eerdere blog heb besproken, zijn onbevooroordeelde datasets namelijk cruciaal voor adequaat functionerende algoritmen.


Is regulering van Youtube als nutsbedrijf dan een oplossing voor het hatespeechprobleem? In dat geval kan er van overheidswege op worden toegezien hoe hatespeech gedefinieerd en opgespoord dient te worden. De meningen over het als nutsbedrijf reguleren van social media en Google zijn al jaren sterk verdeeld. Voorstanders zien de websites als onmisbare bestanddelen van het moderne leven, en regulering als nutsbedrijf als belangrijke waarborg voor de vrijheid van meningsuiting en de bescherming tegen deplatforming. Zij wijzen op het netwerkeffect dat ervoor zorgt dat de grote platformen bijna geen concurrentie meer ervaren waardoor marktregulering niet meer werkt.


Tegenstanders maken de vergelijking met de huidige nutsbedrijven explicieter. Als Google search tijdelijk wegvalt, gaan mensen al snel naar Yahoo of een andere zoekmachine, iets wat niet mogelijk is bij een stroomstoring. De vergelijking met een nutsvoorziening gaat dan mank. Ook zetten ze vraagtekens bij de monopolieposities van de grote bedrijven, daarbij wijzend op MySpace, waarvan gedacht werd dat het nooit concurrentie van Facebook zou ondervinden. Als tegenargument kan worden aangevoerd dat veel van de papers op dit gebied zijn verschenen begin jaren '10, een tijd waarin de markt veel minder verzadigd was en de netwerkeffecten kleiner waren. De monopoliepositie van Facebook op de westerse markt is inmiddels niet meer echt omstreden (zie mijn eerdere blog). Dan blijft over de vraag hoe Youtube zich verhoudt tot een website als Google. Ik vind het nu nog verdedigbaar dat een zoekmachine onmisbaarder is dan een video sharing website, maar misschien is ook dat slechts een kwestie van tijd.


#hate speech #hatespeech #youtube #facebook #social media #nutsbedrijf