Veroordeeld door algoritmen

Avatar Sweetie lokt pedofielen in de val, maar niet in Nederland

Het virtuele lokmeisje Sweetie

Mag je pedofielen oppakken na ze met een virtuele avatar te hebben verleid? Jurist Bart Schermer zocht het uit. ‘Het hebben van een fantasie is natuurlijk niet strafbaar.’

Door Vincent Bongers ‘Elke dag zit ik voor de webcam en moet ik met mannen praten. Ze vragen of ik mijn kleren uittrek. Ze trekken zelf ook hun kleren uit, en spelen met zichzelf. En ze vragen mij om met mijzelf te spelen. Maar wat ze niet weten is dat ik niet echt ben...’
Aldus “Sweetie”, een meisje van tien uit de Filipijnen.

Ze is een virtuele avatar, ontwikkeld door kinderrechtenorganisatie Terre des Hommes. ‘Ze is zeer succesvol in het ontmaskeren van pedofielen die betalen om haar seksuele handelingen te laten verrichten voor de camera’, zegt universitair hoofddocent Bart Schermer die onderzoek doet naar privacywetgeving, internetregulering en cybercrime.

In een paar maanden tijd lukte het om via sociale netwerken achter de gegevens van duizenden ontuchtplegers te komen. De inzet van de chattende avatar heeft al geleid tot de veroordeling van vijf mannen, aldus Terre des Hommes. Maar niet in Nederland.

Schermer: ‘Achter Sweetie 1.0, om haar zo maar even te omschrijven, gaan mensen schuil. En deze personen kunnen natuurlijk maar een beperkt aantal chats afhandelen met types die webcamseks willen. Terwijl het probleem echt massaal is, het gaat om honderdduizenden gevallen. Er is simpelweg niet genoeg mankracht om dat op te vangen. De oplossing is om een computer de gesprekken te laten voeren. Chatbots zijn verfijnd genoeg om te reageren op een persoon die webcamseks wil. Sweetie 2.0 is dus helemaal virtueel.’

Maar wat zijn de juridische implicaties hiervan? Terre des Homme vroeg daarom juristen uit Leiden en Tilburg om dat voor een flink aantal landen uit te zoeken.

‘Het blijkt dat in de Nederlandse wetgeving de inzet van Sweetie problematisch is’, zegt Schermer. ‘Ons strafrecht is sterk daadgericht. Een verdachte moet alle elementen die in de delictsomschrijving staan ook daadwerkelijk hebben uitgevoerd. In ons strafrecht draait het in zedenzaken om ontuchtige handelingen met personen van onder de achttien.

'En daar kom je met Sweetie in de knel. Zij is namelijk geen echt persoon. Het is onduidelijk of het hebben van webcamseks met een virtueel mens eigenlijk wel strafbaar is in Nederland. In andere landen is er meer ruimte om iemand te bestraffen voor de intentie om iets te gaan doen. In Canada en Australië is het bijvoorbeeld voldoende als de dader denkt dat hij chat met een echt kind.'

Een ander belangrijk punt is uitlokking. ‘In Nederland mag je personen niet verleiden tot strafbare handelingen. De inzet van lokpubers om pedofielen te vangen, is ook nog niet toegestaan. Er is wel een wetsvoorstel ingediend waarin dit wel mogelijk wordt. Maar het gaat dan om agenten die zich voordoen als puber en niet om computers die de gesprekken voeren. Als de wetswijziging wordt doorgevoerd los je het probleem rond Sweetie 1.0 op, maar rond versie 2.0 niet.’

Kortom: om Sweetie in Nederland te kunnen inzetten is een aanpassing van de zedenwetgeving nodig. ‘Maar daar kleeft wel het gevaar aan dat iemand vervolgd wordt die een andere intentie had dan politie en justitie vermoeden. Het hebben van een gedachte, of een fantasie is op zichzelf natuurlijk niet strafbaar. Maar ik heb chats van Sweetie met pedofielen gezien, en als je die leest, dan is het duidelijk dat het om ontuchtige handelingen met een “kind” gaat. Maar er zijn scenario’s te bedenken waarin dat veel minder helder is.’

Criminaliteit bestrijden met informatietechnologie brengt vaker problemen met zich mee, zegt Schermer. ‘In bepaalde staten in Amerika wordt COMPAS gebruikt. Dat is een programma waarin de kans op recidive bij een crimineel wordt berekend. Daders vullen een vragenlijst in, daaruit rolt een risico-inschatting die de rechter meeneemt in zijn oordeel. De rechtsspraak is dus deels gebaseerd op algoritmen. Een van de kwalijke zaken hiervan is dat het bedrijf dat COMPAS maakt niet wil zeggen hoe hun algoritme werkt, want dat is bedrijfsgeheim. Er is dus geen controle op de informatie.’

Maar dat is niet het enige probleem. ‘Het blijkt dat zwarte daders door de software een hogere risico-score krijgen toegewezen. Het algoritme is racistisch. Dat is natuurlijk eng. Etnisch profileren is al een probleem, maar dat manifesteert zich dan ook nog in zo’n programma. En mensen hebben de neiging om te de denken: “De computer maakt geen fouten.” Maar die computer wordt gevoed door mensen.’

Jagend klikvee en de privacy-paradox

Er is veel aandacht voor de gevaren die kleven aan het nalaten van digitale sporen op het internet en het delen van informatie op sociale netwerken. Schermer gaf er onlangs college over bij de Universiteit van Nederland dat door de NTR op televisie is uitgezonden.

‘Het is wat ik de privacy-paradox noem. Als je het mensen vraagt, vinden ze privacy best belangrijk. Maar ze willen maar al te graag gebruik maken van al die leuke sites. Dat laatste vinden ze toch belangrijker.

‘Ik ben overigens zeker geen activist die zich verzet tegen sociale netwerken een dergelijke. Ik ben ook partner bij het juridisch adviesbureau Considerati. En Facebook is een van onze klanten. Ik zit op Twitter en gebruik Facebook. Maar ik let wel op welke informatie ik deel. Ik vermeld bijvoorbeeld niet mijn geboortedatum op mijn Facebookprofiel. Zodat mijn verjaardag niet gekoppeld kan worden aan bepaalde andere data.

‘Het is ook helemaal niet zo erg dat bedrijven jouw gegevens gebruiken om gepersonaliseerde advertenties op je af te vuren. We willen zo graag gebruik willen maken van die leuke diensten zonder ervoor te betalen. Dan staat daar natuurlijk iets tegenover. Er bestaat niet zoiets als een gratis lunch.

‘Ik maak me meer zorgen over hoe overheden met gevoelige informatie omgaan. Met betrekking bijvoorbeeld tot belastingen en gezondheidszorg.

‘In mijn proefschrift uit 2007 was een van de stellingen dat privacy binnen twintig jaar niet meer bestaat. En als je nu je privacy wilt beschermen, dan moet je van het internet af. Dat is niet reëel. Het is dus vooral belangrijk om in de gaten te houden welk spoor je achterlaat en wat je deelt.’

De pogingen die nu gedaan zijn door de overheid om privacy te beschermen zijn totaal mislukt. ‘Ik heb me altijd fel verzet tegen de inmiddels geflopte cookiewet. Voornamelijk omdat deze niet werkt. Maar geluisterd werd er niet door de politiek. Als iemand die mooie rode sportschoenen op de Zalando-site wil dan laat die zich echt niet weerhouden door een cookiewaarschuwing. Je bent een jager en met enige ergernis klik je het scherm weg en koopt toch die sneakers.’

Maar wat werkt dan wel? ‘Je kunt denken aan software waarin je zelf vastlegt welke informatie gevoelig is en die je niet wilt delen. Dan krijg je niet bij elke site een vervelende pop-up maar alleen een waarschuwing als er naar iets gevraagd wordt dat in conflict is met jouw database.

‘Mensen zijn klikvee, zo heb ik het met enige hyperbool wel eens omschreven. Niemand leest privacy-statements van Yahoo, Nu.nl of van de software die ze downloaden. Daar kan gerust in staan dat je je ziel aan de duivel verkoopt. Dat probleem is lastig op te lossen.’

Deel dit bericht:

Voorpagina

Waar is ons geld?

Het was de grote belofte bij het afschaffen van de basisbeurs: de opbrengst zou …

Achtergrond

Minder pluizig

Studentenvereniging SSR Leiden viert haar 115e verjaardag, met het festival Herrie op de …

Wetenschap

Nieuws

Rubrieken

English page