LISA Groningen

Blogs

Categorieën

Auteurs

Redactiecommissie

Regulatie van ‘Dark Patterns’ in videogames door de AI-verordening

9 feb. 2024 20:00:00
Platforms
8 minuten (1513 woorden)

Een dringende pop-up met een felgroene knop die de speler aandringt een uniek wapen te kopen, velen die ooit een game hebben aangeraakt herkennen dit beeld meteen. Computerwetenschapper Zagal constateert in de videogame-industrie een praktijk die sindsdien bekend staat onder de noemer 'Dark Game Design Patterns’. Dit is een patroon doelbewust ingezet door een videogame-ontwikkelaar om negatieve ervaringen te geven aan spelers wat tegen hun belang gaat en hoogstwaarschijnlijk gebeurt zonder hun instemming.[1]

Dark Patterns zijn veelvuldig geanalyseerd in de sociologie. In de sociologie zijn in het kader van gamedesign drie specifieke types Dark Patterns geconstateerd, te weten ‘Temporal’, ‘Monetary’ en ‘Social Capital-Based’ Dark Patterns.[2] Allereerst temporal Dark Patterns. Deze zijn gericht op het negatief beïnvloeden van het tijdsbewustzijn van spelers.[3] Ten tweede monetary Dark Patterns. Deze zijn gericht op het negatief beïnvloeden van de financiële discipline van spelers. Dark Patterns die geregeld voorkomen en onderdeel uitmaken van deze categorie zijn ‘Monetized Rivalries’.[4] Deze vormen een patroon dat een speler aanmoedigt geld uit te geven om een hogere status te krijgen in het spel.[5] Ten slotte Social Capital-based Dark Patterns. Deze beïnvloeden het spelersbewustzijn negatief met betrekking tot hun motieven om het spel te (blijven) spelen. Een voorbeeld is ‘Impersonation’[6]. Met Impersonation wordt gedoeld op videogames die de hoedanigheid van spelers gebruiken, vaak zonder expliciete toestemming, om naar de sociale contacten van de persoon wiens hoedanigheid is gestolen te communiceren.[7]

De meest voor de hand liggende vorm van technologiespecifieke regulering die mijns inziens goed aansluit bij deze drie categorieën van Dark Patterns is te vinden in het AI-wetsvoorstel van de Europese Unie. Dark Patterns in videogames hebben namelijk de potentie het gedrag van spelers buiten videogames om negatief te beïnvloeden.[8]Dit is van belang omdat artikel 5 eerste lid van het AI-wetsvoorstel twee typen Dark Patterns verbiedt via onderdeel a en b, indien deze (waarschijnlijk) leiden tot fysieke dan wel psychologische schade.[9] Wij beginnen met deze twee verbodsvarianten en vervolgens bespreken wij in de daaropvolgende paragraaf het aanvullende vereiste van het bestaan van schade. Ten slotte wordt gekeken naar een uitzondering die potentieel de regulering van veel videogame Dark Patterns via de AI-verordening blokkeert.

In het bijzonder lijkt onderdeel b van artikel 5 lid 1 interessant. Deze is gericht op Dark Patterns die kwetsbaarheden van een specifieke groep personen als gevolg van hun leeftijd, fysieke of geestelijke handicap exploiteren. De literatuur observeert de tendens dat videogames in toenemende mate gebruik maken van ontwikkelingen in de psychologie en gedragseconomie,[10] met als gevolg dat Dark Patterns in toenemende mate kwetsbaarheden van specifieke groepen gaan exploiteren. Dit is reeds het geval bij vele Dark Patterns in videogames, aangezien zij doorgaans een bijzonder sterke impact hebben op jonge spelers. Jongeren hebben vaak bijvoorbeeld moeite met het bepalen van hoeveel tijd een videogame kan vereisen, waardoor temporal Dark Patterns snel onder de reikwijdte van dit wetsartikel vallen.[11] Ook wordt gekapitaliseerd op bijvoorbeeld ongeduldigheid, competitiviteit en sociale contacten.[12]

Indien geen sprake is van exploitatie van kwetsbaarheden van specifieke groepen, fungeert onderdeel a van het eerste lid van artikel 5 als vangnet voor subliminale technieken. Met andere woorden, Dark Patterns die manipuleren buiten het bewustzijn van spelers om.[13] Dit is doorgaans het geval voor Dark Patterns in videogames. Zo zijn temporal en monetary Dark Patterns bewust ontwikkeld om het bewustzijn van respectievelijk tijd en geld te omzeilen, terwijl ‘Impersonation’ als Social Capital-based Dark Pattern buiten het bewustzijn van spelers gaat door sociale contacten te benaderen van spelers zonder dat de sociale contacten of de spelers zelf ervan bewust zijn dat een videogame achter deze communicatie zit.[14] Kortom, aan het eerste vereiste van artikel 5 is in beginsel al snel voldaan.

Daarnaast geeft artikel 5 ons het aanvullende vereiste van een dusdanige verstoring van het gedrag van spelers dat (mogelijk) leidt tot fysieke en/of psychologische schade. Videogames zijn virtueel, en het risico van lichamelijke schade is daarom klein. Wij beperken ons voor dit artikel daarom tot psychologische schade. Het AI-wetsvoorstel is op het moment van schrijven nog niet gehandhaafd. Artikel 5 biedt ons daarom geen concreet antwoord op de vraag wat verstaan moet worden onder ‘psychologische schade’.[15] Vanuit de literatuur bestaat zelfs de opvatting dat ditvereiste moeilijk te bewijzen en makkelijk te omzeilen is, waardoor de praktische toepasbaarheid van dit artikel verwaarloosbaar zou zijn.[16] Desalniettemin gaan wij pogen om vanuit de drie categorieën van Dark Patterns te analyseren of de schade die zij (waarschijnlijk) veroorzaken onder deze kwalificatie valt. Ons naar analogie redenerende oog valt op een vergelijkbare term uit het Nederlands recht: geestelijk letsel dat in aanmerking komt voor smartengeld.[17] Beiden trachten slachtoffers te beschermen tegen geestelijk letsel.

In de Nederlandse rechtspraak komt geestelijk letsel pas in aanmerking voor smartengeld, en dus juridische bescherming, indien het slachtoffer voldoende concrete gegevens heeft waaruit volgt dat geestelijk letsel is ontstaan. Dit moet naar objectieve maatstaven vastgesteld kunnen worden.[18] Een psychiatrisch erkend ziektebeeld is niet vereist, maar er moeten wel concrete omstandigheden bestaan die wijzen op geestelijk letsel.[19] Zo leiden veel Dark Patterns in videogames tot schade in de vorm van ergernis en gederfd genot. Temporele Dark Patterns zijn bijvoorbeeld gericht op het manipuleren van tijdsbewustzijn, met de meest waarschijnlijke vorm van schade gederfd genot door onnodige tijdsverspilling wat doorgaans bewust wordt veroorzaakt door ‘Grinding’. Echter wordt gederfd genot niet aangemerkt als geestelijke letsel dat in aanmerking komt voor schadevergoeding.[20] Daarnaast vallen ergernis en frustratie, twee waarschijnlijke symptomen van videogame Dark Patterns, niet onder geestelijk letsel.[21]Er zal dus van meer sprake moeten zijn dan enkel gederfd genot en frustratie.

Indien Dark Patterns dusdanig agressief worden ingezet dat deze werkelijk leiden tot objectief en concreet geestelijk letsel, bijvoorbeeld in het geval van psychiatrische diagnoses, wordt wel aan dit vereiste voldaan. Gameverslaving wordt erkend onder het classificatiesysteem van DSM-5,[22] waardoor dit te objectiveren is als geestelijk letsel.[23]Indien dus aangetoond kan worden dat Dark Patterns een rol hebben gespeeld in het veroorzaken van gameverslaving, wordt conform het Nederlands recht gesproken van geestelijk letsel dat in aanmerking komt voor bescherming. Wel moet als kanttekening gegeven worden dat de Europese rechtsorde autonoom is, en dus dat definitief uitsluitsel niet kan worden gegeven met enkel nationaal recht.[24] Als laatste struikelblok komt de bewijslast om de hoek kijken; het zal vallen op de spelers om te bewijzen dat er psychologische schade is ontstaan en de literatuur verwacht dat de drempel voor het bewijzen hoog ligt.[25]

Overweging 16 van de AI-verordening legt nog een andere beperking op voor spelersbescherming tegen bepaalde Dark Patterns. Wanneer de schade kort gezegd ontstaat door gebruikers die te maken krijgen met dergelijke Dark Patterns zonder dat de ontwikkelaars hiervan invloed op hebben, worden deze Dark Patterns uitgezonderd van het verbod.[26]

In het bijzonder kunnen Social-Capital en Monetary Dark Patterns onder de reikwijdte van deze uitzondering vallen. Deze moedigen spelers immers aan om respectievelijk gebruik te maken van sociale contacten en om wegens een competitieve drang met andere spelers geld uit te geven.[27] Het argument kan worden gemaakt dat gameontwikkelaars geen invloed hebben op de drang van spelers om te winnen tegen andere spelers, en dat spelers sociale contacten exploiteren en vernietigen met alle gevolgen en schade van dien.

Maar gezien de toename in het gebruik van psychologische inzichten,[28] lijkt mij geen andere conclusie mogelijk dan dat gameontwikkelaars op de hoogte zijn van de gevolgen en schade die Dark Patterns hebben op spelers en deze desalniettemin doelbewust inzetten. Gameontwikkelaars hebben dus wel degelijk invloed, waardoor de uitzondering van overweging 16 mijns inziens niet snel soelaas biedt aan gameontwikkelaars.

Namens de Carrièrecommissie,

Chris Truong

[1] Zagal, Björk & Lewis 2013 par. 4.

[2] Idem.

[3] Karagoel & Nathan-Roberts 2021, p. 754.

[4] Idem.

[5] Zagal, Björk & Lewis 2013 par. 4.2.3.

[6] Karagoel & Nathan-Roberts 2021, p. 754.

[7] Zagal, Björk & Lewis 2013 par. 4.3.2.

[8] Karagoel & Nathan-Roberts 2021, p. 754.

[9] Gellert 2023, p. 734.

[10] Zagal, Björk & Lewis 2013, par. 5.2.