Help, mijn stem is gestolen!

Steeds vaker worden creaties op het gebied van kunst en letterkunde door AI-systemen ontworpen. Zo hebben kunstwerken, composities en gedichten die zijn gecreëerd door deep learning-computers, reeds een hoge mate aan bekendheid. Het is dus inmiddels niet meer verbazingwekkend als computers naast de “gewone” logica ook creatief begaafd zijn. Echter, er heeft zich onlangs iets voorgedaan, waardoor zelfs ik als IE-fanate uit het lood werd geslagen: stemmen van zangers die worden gedeepfaked, en waarmee vervolgens nieuwe liedjes worden geproduceerd. Deepfake komt van deep learning - de wijze waarop kunstmatige intelligentie leert - en “fake”. Het is dus een creatie die nep is, geschapen door kunstmatige intelligentie (ook AI genoemd). De AI heeft dus zelf geleerd iets te creëren dat verwarring tussen echt en nep sticht. De vraag die het eerst in me opkwam was: wat kun je daar als zanger tegen doen? Immers fungeert de stem vaak als merk van de zanger. In de situatie waarin een stem gedeepfaked wordt en voor een nieuw lied wordt gebruikt, lijkt het dus op het eerste gezicht alsof de stem van de zanger is gestolen. Maar kun je een stem überhaupt stelen? Moet de stem daarvoor niet “eigendom” van de zanger zijn?

Heb jij de (intellectuele) eigendom van je stem?

Nieuwe technologische ontwikkelingen zoals deepfake vergen een nieuwe wijze van interpretatie van het bestaande recht. Het zou in het algemeen handig zijn als men kon spreken van eigendom, aangezien diefstal strafbaar is gesteld in het Wetboek van Strafrecht en daarnaast ook een beroep op onrechtmatige daad wegens inbreuk op het eigendomsrecht mogelijk is. Terwijl men spontaan ertoe zou neigen om te zeggen dat de stem - in een geval als het onderhavige - gestolen kan worden geacht, lijken er meer twijfels te bestaan ten aanzien van de vraag of je stem je eigendom is. Eigendom is een zakelijk recht en heeft dus altijd betrekking op een zaak. Daarnaast is eigendom overdraagbaar; een stem kan echter niet worden verkocht of uitgeleend, zoals bijvoorbeeld een boek. Het lijkt dus erop alsof je niet de eigendom van je stem hebt.

Dat maakt het ingewikkeld: hoe kan iets gestolen zijn, als het nooit van jou was? Of moet je in plaats van je goederenrechtelijke eigendom misschien eerder een beroep doen op je intellectuele eigendom? Dit lijkt echter ook niet voor de hand liggend, aangezien je alleen je stem openbaar “ter beschikking hebt gesteld” en de technologie er gezang van heeft gemaakt. Je zou ook nooit zeggen dat iemand die een camera uitleent aan een fotograaf, zomaar het auteursrecht op de daarmee gemaakte foto’s heeft. Als je zelf een lied hebt gezongen, valt jouw gezang onder naburige rechten, maar in het onderhavige geval heb jij dat liedje zelf niet gezongen. Heb jij dan nog recht op vergoeding? Ook dit is een lastige vraag. Immers kun je al lang met allerlei applicaties instrumenten spelen, zonder dat je er een hoeft te kopen. Je klikt gewoon op je toetsenbord en er ontstaat een liedje. Een producent van een piano zal er niet tegen optreden dat jij met je mobiel een piano zat te imiteren. Als je deze redenering toepast op het deepfaken van een stem, zou je dus kunnen beweren dat het gebruiken van een stem voor het creëren van een nieuw liedje - net zoals bij een piano - gewoon mag. Aan de andere kant heeft deze redenering iets oneerlijks, aangezien een stem veel persoonlijker is en elke stem anders klinkt, terwijl veel producenten piano's verkopen die precies hetzelfde klinken.

De stem is herkenbaar en uniek en verdient dus bescherming?

De genoemde situatie valt niet onder de reikwijdte van het eigendomsrecht of de intellectuele eigendom. Het is eerder vergelijkbaar met het portretrecht: hier kun je een beroep op doen als je bent afgebeeld op een identificeerbare wijze zonder dat je daarvoor toestemming hebt verleend. De vraag rijst dan of het gebruik van een stem(imitatie) onder het portretrecht valt. Immers gaat het hierbij niet om een afbeelding, maar om een audiofragment. In de jurisprudentie is deze vraag herhaaldelijk negatief beantwoord: het portretrecht noopt niet tot bescherming van de stem.[1] Ook het portretrecht biedt dus niet de gewenste oplossing voor het probleem.

Aangezien we al hebben geconstateerd dat de stem iets persoonlijks en unieks is, zou men zich kunnen afvragen of de stem onder persoonsgegeven valt. Immers wordt hierdoor de desbetreffende persoon identificeerbaar. Een verzoek tot verwijdering op grond van het recht op vergetelheid zou dus voor de hand liggen. Het probleem is echter dat dit onder de noemer “artistieke uitdrukkingsvorm” kan vallen, hetgeen is uitgezonderd van het recht op vergetelheid. Dit levert dus eveneens weer complicaties op. Echter zijn er in het kader van imagoschade ook andere opties dan genoemde verwijderingsverzoeken.

Wat gebeurt er in het geval van (reputatie)schade?

Bij professionele zangers wordt vaak gezegd dat de stem als merk fungeert (ook al zou je je stem niet kunnen inschrijven als merk). De stem maakt de zanger beroemd en levert hem veel geld op. De vraag rijst dan ook of er sprake zou kunnen zijn van een ongerechtvaardigde verrijking. Immers kan door het gebruik/de imitatie van iemands stem geld worden verdiend en heeft de zanger het gevoel verarmd te zijn. Dit lijkt echter niet de bedoeling van de wetgever te zijn geweest. Overigens verdient een artificiële intelligentie ook geen geld en is er daadwerkelijk ook niets weggenomen, maar slechts geïmiteerd. Ondanks het feit dat de zanger het gevoel heeft verarmd te zijn, is dit dus niet het geval. Ook zangers doen wel eens imitaties van andere zangers - dit zou dan ook niet mogen.

Daarnaast kan sprake zijn van een schending van je recht op eer en goede naam. Indien er geen wettelijke beperkingen zijn en hiermee conflicterende grondrechten niet zwaarder wegen, kun je een beroep doen op dit recht en eventueel schadevergoeding en/of een verbod op verspreiding van het liedje vorderen. In hoeverre een dergelijke vordering succesvol zou zijn, kan echter niet bij voorbaat worden gezegd.

Wie is verantwoordelijk?

De vraag is dan echter tegen wie je de vordering zou moeten instellen. Immers heeft een algoritme geen rechtssubjectiviteit, dus wordt de kunstmatige intelligentie ook niet als drager van rechten en plichten aangemerkt. In principe kun je dan ook geen vordering tegen een kunstmatige intelligentie instellen. Zou het wenselijk zijn om rechtssubjectiviteit toe te kennen? Of moeten we houders/makers van AI - net zoals bijvoorbeeld houders van dieren - aansprakelijk stellen voor de “gedragingen” van de AI? Deze vragen zijn tot nu toe onbeantwoord.

Conclusie

Het blijft lastig: hoe moeten we in de huidige wereld werken, gemaakt door kunstmatige intelligentie, kwalificeren en hoe kun je optreden tegen een inbreuk op jouw rechten als je wederpartij geen mens is? Het recht lijkt wat dat betreft (nog) te ver achter te lopen op technologische ontwikkelingen. Naar mijn mening is het tijd voor vernieuwing van de genoemde juridische grondslagen en moet er langzamerhand worden overgegaan tot toekenning van rechtssubjectiviteit aan artificiële intelligentie. Anders zullen er vergaande consequenties komen en zullen computers zelfstandig buiten de wet om kunnen handelen. Het is onwenselijk dat je feitelijk niet kunt optreden tegen de échte boef: de AI.

[1] Rb. Midden-Nederland 9 januari 2020,ECLI:NL:RBMNE:2020:24. Dit is ook in lijn met eerdere uitspraken. Zie hiervoor Rechtbank Amsterdam 18 januari 2012 (Beck tegen TomTom).