De EU wil al onze digitale communicatie afluisteren, dus alle e-mails, chats, gedeelde foto’s en video’s, echt alles en van ons allemaal.
Dit is onacceptabel en daarom organiseren wij op 1 oktober een demonstratie op de Dam in Amsterdam:
Wat is er aan de hand?
De Europese Commissie heeft een nieuw wetsvoorstel ingediend om bepaalde vormen van criminaliteit tegen te gaan, door alle digitale berichten van alle burgers in de EU te scannen. De voorgestelde wet is slecht. De wet vereist dat alle berichten op online communicatiediensten in de EU worden gecontroleerd, zonder enige grond van verdenking, zonder rechtelijk bevel.
Wat betekent dit concreet? Concreet betekent dit dat al je e-mails, al je berichtjes, en al je video- en spraakoproepen automatisch gescand zullen worden om te kijken of er eventueel iets illegaals in voorkomt.
De wet zal vrijwel alle digitale communicatiediensten die we in Nederland gebruiken treffen. Bijvoorbeeld:
- berichtendiensten zoals Whatsapp, Snapchat, Telegram of Twitter
- je internetprovider, zoals KPN of Ziggo
- sociale media zoals Instagram, TikTok of Facebook
- berichten in spelletjes zoals FIFA, Minecraft, GTA, en Call of Duty
- videobellen, zoals op Zoom, Skype, of Facetime
Al jouw berichten zullen worden gescand. Alle gebruikers van publieke communicatiediensten worden bij voorbaat al verdacht van crimineel gedrag.
De scan vindt direct op je eigen computer, mobieltje of tablet plaats, nog voordat je bericht (eventueel versleuteld) verzonden wordt. Je apparaat wordt een afluistermachine voor de Europese overheid.
Wat kunnen de gevolgen zijn?
- Je kunt ten onrechte worden aangegeven en onderzocht. Het is bekend dat algoritmen voor berichten- en chatcontrole volledig legale vakantiefoto’s van bijvoorbeeld kinderen op het strand markeren als kinderporno. Volgens de Zwitserse politie blijkt 86% van alle door machines gegenereerde rapporten ongegrond te zijn.
- Bij je volgende reis naar het buitenland kun je grote problemen verwachten. Machinaal gegenereerde rapporten over je communicatie zijn mogelijk doorgegeven aan andere landen, zoals de VS, waar geen gegevensprivacy bestaat.
- Inlichtingendiensten en kwaadwillende hackers kunnen mogelijk je privéchats en e-mails bespioneren. De deur staat open voor iedereen met de technische middelen om je berichten te lezen als encryptie wordt omzeild.
Willen wij dit?
Nee, een publieke consultatie door de Commissie liet zien dat een meerderheid van maar liefst 80% van de respondenten tegen deze verplichting tot chatcontrole is.
Ook de Tweede Kamer heeft zich in een motie uitgesproken tegen cliënt-side scanning, maar de (demissionaire) regering weigert deze uit te voeren.
Het zonder verdenking scannen van alle digitale communicatie is bovendien een grove inbreuk op onze grondrechten. Hieronder valt het recht op de bescherming van het privé- en gezinsleven, inclusief de vertrouwelijkheid van communicatie (het briefgeheim); het recht op bescherming van persoonsgegevens; en de vrijheid van meningsuiting en informatie.
Wat nu?
De internationale Piratenpartij-vertegenwoordigers in het Europees parlement en een groot aantal burgerrechtenorganisaties verzetten zich tegen dit voorstel, maar er is meer nodig en daarom is er op 1 oktober, van 13.00 tot 16.00 uur een demonstratie op de Dam in Amsterdam tegen deze Orwelliaanse plannen.
Tijd voor actie: KOMT ALLEN!
Meer info:
- Het wetsvoorstel
- Petitie
- Chatcontrole schaadt vrije software
- Wat is client-side scanning
Ik hoop alleen dat het dan mooi weer is zodat meer mensen zich erbij aansluiten. Want bij zware regenval vrees ik dat veel mensen lekker binnen blijven en het op Internet volgen, en dan bedroefd zijn omdat de opkomst zo laag is…
Kan er niet iemand gratis ontbijtkoek of zo aanleveren voor de demonstranten? 🙂
Zoals ik het lees gaat het vooral om online seksueel misbruik van kinderen.
Dat betekent dat iedereen dus feitelijk gezien wordt als pedofiel?
Nee, kindermisbruikers kunnen gewoon encryptie blijven gebruiken. Een pedofiel kan zelfs KP op een ansichkaart met encryptie versturen en buiten beeld blijven.
Met deze wet worden alleen onschuldige burgers afgeluisterd en eerst alleen voor KP, en later ook als je bijv. Informatie over covid zoekt en de rentestanden in december 2019.
Dus ik kan gewoon het boek van Anne Frank blijven voorlezen…..
Opvallend is dat deze EU ambtenaren te weinig verstand lijken te hebben van (de gevaren van) dergelijke techniek. Client-Side-Scanning is in werkelijkheid een fatale verzwakking die, vroeger of later, uitgebuit zal worden. Vervolgens wordt de bestaande beveiliging en privacy (versleuteling) voor EU burgers nutteloos, terwijl misdadigers toevlucht nemen:
Het grootste probleem is namelijk dat kindermisbruikers, of andere misdadigers, gewoon kunnen overstappen naar andere apps met end-to-end encryptie (E2EE). Als namelijk de E2EE van populaire chat apps zoals WhatsApp, Signal en iMessage ondermijnd wordt, zullen misdadigers simpelweg overstappen naar andere apps. Zulke alternatieve (open source) apps kunnen werken op basis van ‘onion routing’, dus zonder gecentraliseerd beheer, en laten derhalve geen digitale sporen (metadata) achter. Dergelijke apps bestaan namelijk al. Daarnaast kunnen professionele criminele organisaties altijd een groep programmeurs of ontwikkelaars inhuren om zelfstandig ’n krachtig beveiligd E2EE systeem te laten bouwen. Waarom? Omdat cryptografie in feite wiskunde is; men kan wiskunde niet uitbannen!
Kortom, deze EU functionarissen werken aan ’n rampzalig plan dat de rechtmatige beveiliging en privacy van miljoenen EU burgers zal opofferen in de hoop een relatief (zeer) klein aantal kindermisbruikers te ontdekken. De kindermisbruikers die überhaupt nog gebruikmaakten van WhatsApp of Signal zullen daarom al gauw overstappen naar alternatieve, vrijwel ontraceerbare apps die buiten EU rechtsmacht kunnen bestaan. Deze mensen zullen zichzelf dus nog dieper verbergen en desnoods de meest clandestiene software benutten om onopgemerkt te blijven.
Kindermisbruik is absoluut ’n verschrikkelijk probleem, maar zal toch op slimmere manieren aangepakt moeten worden. Het zijn namelijk (geesteszieke) mensen – ze maken dus ook menselijke fouten of misvattingen en laten onbewust allerlei herkenbare sporen achter. Deze mensen zijn daarom op te sporen, zonder de digitale beveiliging en privacy van alle EU burgers te hoeven vernietigen.
Het maakt me niet uit hoe goed het doel is waarin ze het voorstel verpakken. Zelfs als het in eerste instantie ook echt de beste bedoelingen heeft, geschiedenis wijst uit dat het vroeg of laat voor andere doeleinden gebruikt gaat worden. Al dan niet stiekem. Onlangs kwam nog naar boven komt dat Journalisten al in de gaten gehouden werden door beveiligingsdiensten, dus dan verwacht ik eerder vroeg dan laat. Ik als burger vertrouw dit niet en wil dit niet. Meestal hou ik er niet van om zware vergelijkingen te gebruiken, maar dit begint toch vrij letterlijk op digitale Stasi te lijken: alles wat we zeggen wordt gescand en eventueel doorgestuurd. Letterlijker kan haast niet. Dat kan gewoon echt niet. Hoe verzinnen ze het. Zelfs bij 100% goede bedoelingen: moeten wij dan maar vertrouwen dat een stukje door de overheid bedachte software ook complexe zaken als context uit berichten kan begrijpen? Kan ik straks een in privésferen vertelde foute mop proberen uit te leggen aan een doodserieuze rechter? En zoals eerder benoemd: als ik zeer gevoelige informatie verstuur, vangt dit onbetrouwbare stukje software dat ook op en god mag weten waar het terecht komt en hoe makkelijk dat te hacken is (het is overheid, dus ik verwacht niet al te moeilijk). Hoe meer ik er bij stil sta hoe krankzinniger ik dit hele wanidee vind. Ik zie het nu ook aan m’n eigen omgeving, waar mensen aan de top denken dat alle probleempjes wel even op te lossen zijn met b.v. AI. Zeker bij de overheid zijn de mensen aan de top gevaarlijk incompetent als het op techniek aankomt. Daarom is het gewoon noodzaak dat de Piratenpartij op z’n minst één zetel krijgt. Pieter, Caroline en Silvana hebben al laten zien hoeveel effect één stem kan hebben.
Te zot voor woorden dat dit onzalige voorstel niet al lang geleden in de prullenbak is verdwenen. Er wordt door een stel digibeten een beslissing genomen die ontzettend ver strekkende gevolgen gaat hebben, vrijwel uitsluitend negatieve.
De zieke geesten die kinderporno maken en verspreiden, gaan dat echt niet doen via een medium waarvan bekend is dat oom agent meekijkt hoor. Die verhuizen naar een platform waar de overheid geen grip op heeft, denk aan een eigen Matrix-server die in Verweggistan draait.
Vervolgens moet er een gigantische hoeveelheid data worden verwerkt, doorzocht en beoordeeld. Wie gaat dat doen? AI kan een eerste alarm genereren, maar uiteindelijk zal er daadwerkelijk een mens naar moeten gaan kijken. Al is het maar een rechter en een paar advocaten. Oh wacht, die waren al zwaar overbelast…
We zijn het erover eens dat kinderporno kei- en keihard bestreden moet worden, maar dit voorstel gaat noch die kinderen, noch onze maatschappij helpen. En de daders ontspringen deze dans echt wel.
Het gaat echt niet om kinderporno. Wordt in dit verband als dekmantel gebruikt. Het is vele malen slechter dan wij kunnen bedenken. We leven dan echt in een totalitaire staat, waar je ieder moment kan worden opgepakt op verdenking van…???? Noem maar op. Is dat een wereld waar we in moeten leven? Zijn dit de laatste stuiptrekkingen van een ineenstorting van de WEF? Een kat in het nauw doet rare sprongen en in dit geval is hij heel gevaarlijk.
Dit voorstel staat volledig los van de realiteit. Ik zet graag even op een rij wat er allemaal mis is met dit voorstel.
1. Privacyschendingen.
Deze demonstratie staat in het teken van de privacyschendingen die bij de geplande verordening horen. Ik kan niet anders dan deze zorgen erkennen. De EU probeert in haar voorstel deze gigantische schendingen te verbloemen door te spreken van een “zorgvuldig proces” voordat client-side-scanning zou worden toegepast. Echter wordt dit “zorgvuldige proces” totaal niet onderbouwd. Er zijn geen duidelijke criteria geformuleerd waaraan een aanbieder moet voldoen om géén CSS toe te hoeven passen. Hierdoor lonken mazen waarbij het voorgenomen EU-centrum in iedere gelegenheid CSS kan verplichten. Want: wanneer heeft een platform dan voldoende maatregelen genomen? Als er helemaal geen kindermisbruik meer is? Of als ze zelf alle privacy opheffen?
2. Er lijkt sprake te zijn van een enorme commerciële lobby dat zelfs riekt naar corruptie.
BalkanInsight, Le Monde en journalisten van andere nieuwsplatformen hebben een follow-the-money onderzoek gedaan naar dit voorstel. Wat blijkt? De vrouw achter dit hele plan, Ylva Johansson, heeft bijzonder nauwe banden met de aanbieders van dezelfde technologie die ze aan online platformen wil gaan verplichten. Dit betreft dus de technologie om kinderporno en grooming automatisch te detecteren.
Zie voor meer info: https://balkaninsight.com/2023/09/25/who-benefits-inside-the-eus-fight-over-scanning-for-child-sex-content/
In het Nederlands: https://www.groene.nl/artikel/wie-heeft-hier-baat-bij-niet-de-kinderen
3. De effectiviteit
Een belangrijk element die ik nauwelijks voorbij hoor komen in de hele discussie omtrent dit voorstel is de effectiviteit. Gaat dit daadwerkelijk bijdragen aan een vermindering van online kindermisbruik? Natuurlijk niet. En wel om de volgende redenen:
a) Er zullen altijd platformen blijven bestaan die niet onder deze wetgeving zullen vallen. Kindermisbruikers schakelen gewoon naar die platformen.
b) De traceerbaarheid van daders is bijzonder lastig. Een degelijke VPN, een aangepaste router en een niet-persoonlijk mailadres zijn in veel gevallen genoeg om bijna onherleidbaar te zijn. Tuurlijk kan dit allemaal worden gekraakt, maar de autorisaties hiervoor liggen zo gevoelig dat in de meeste gevallen hier geen toestemming voor zal worden gegeven.
4) Capaciteit
De (zeden)politie en rechterlijke macht in zowel Nederland als andere EU-landen kampen met ongekende tekorten. Ze worden nu al compleet overspoeld door meldingen, zowel online als offline, en kunnen dit amper bijbenen. Deze verordening zou zo’n stortvloed van meldingen veroorzaken dat de plankzaken tot in meerdere jaren zullen oplopen. Want geloof me, op dagelijkse basis is er sprake van zoveel kinderporno en/of grooming dat de meldingen de spuigaten uit zouden lopen.
Neem hierbij dat het % false-positives schrikbarend hoog ligt: ca. 10% voor grooming en zelfs ca. 85% voor kinderporno. Dit zijn allemaal meldingen die wel door het EU-centrum dienen te worden onderzocht en waar dus veel tijd in gaat zitten.
4. De toetsing van het EU-centrum
Een belangrijke rol voor het te oprichten EU-centrum is het beoordelen van alle meldingen die binnenkomen. Ik vraag me echter bijzonder sterk af of zij deze rol wel degelijk kunnen vervullen. Waarom? In de EU-verordening wordt deze rol als volgt beschreven:
Het inschatten of meldingen “kennelijk ongegrond zijn, d.w.z. wanneer het zonder enige inhoudelijke juridische of feitelijke analyse onmiddellijk duidelijk is dat de gemelde activiteiten geen online seksueel misbruik van kinderen vormen”
Dit betekend dat het EU-centrum een melding alleen als ongegrond mag verklaren op het moment dat 100% duidelijk is dat er geen sprake is van kinderporno of grooming, en hierbij mag geen gebruik worden gemaakt van een juridische analyse. Deze juridische analyse is echter noodzakelijk om te kunnen beoordelen of er wel of geen sprake is van grooming. In de wet is grooming namelijk geformuleerd als
1) het benaderen van kinderen met een seksueel doeleinde;
2) het voorstellen van een ontmoeting om seksuele handelingen te verrichten;
3) het daadwerkelijk concretiseren van de ontmoeting door een handeling daartoe uit te voeren (bijv. afspreken datum en plek, kopen treinkaartje etc.).
Aan alle drie de criteria moet worden voldaan om van grooming te spreken. Als medewerkers van het EU-centrum meldingen niet langs een juridisch kader mogen leggen, kan ik je garanderen dat ook ‘slechts’ seksueel getinte gesprekken zonder oogmerk voor ontmoeting (die NIET onder de verordening vallen omdat er in diverse EU landen nog helemaal geen wetgeving voor is) worden doorgestuurd naar de politie. De consequenties hiervan zijn gigantisch voor de dader als na politie-onderzoek blijkt dat er geen strafbaar feit is (hoe laakbaar de handeling ook mag zijn). En, om weer even terug te refereren naar capaciteit: de politie moet deze meldingen dan dus weer onderzoeken, om vervolgens tot de conclusie te komen dat er geen strafbaar feit is – weer onnodig veel capaciteit dus.
Kortom: hoe kan het EU-centrum haar inschattingen m.b.t. grooming en kinderporno maken als er niet eens een juridisch kader naastgelegd mag worden?
5. Menselijke controle door platformen
Volgens het voorstel dient een platform signalen van kindermisbruik eerst menselijk te beoordelen. Dan kom ik weer terug op mijn punt bij 4. Je gaat dan van moderatoren van platformen, die in de basis geen enkele juridische opleiding hebben gevolgd, vragen om in te schatten of een handeling strafbaar is. Dit is wederom vragen om false-positives omdat zij mogelijk óók sexchatting als grooming zullen aanmelden, of een vakantiefoto voor kinderporno. Kun je zo’n grote verantwoordelijkheid wel bij die mensen leggen?
5. Met terugwerkende kracht?
Wat ik niet uit het voorstel kan halen maar waar ik wel benieuwd naar ben, is of het ook met terugwerkende kracht gaat werken. Kortom: stel dat een platform in 2020 iemand heeft verbannen voor mogelijke grooming, moet dat platform dat dan met ingang van de nieuwe verordening alsnog gaan melden?
Dan hoop ik namelijk dat ze bij dat EU-centrum behoorlijk wat FTE hebben rondlopen, want die mogen de borst natmaken. In NL is grooming in 2010 strafbaar gesteld. Zouden platformen dan elke mogelijke situatie van kinderporno, ook als de betreffende content is verwijderd en/of de gebruiker is geblokkeerd, nog moeten melden? Dan kun je rekenen op, EU-breed, tienduizenden dan wel niet honderdduizenden meldingen. Als je weet waar je op moet zoeken kun je alleen al op X.com binnen vijf minuten makkelijk 10x kinderporno tegenkomen. Zou X.com dat dan allemaal, ook met terugwerkende kracht, moeten melden? Dan ontstaat er een wachtlijst die zo de spuigaten uitloopt, dat bijv. een groomer al lang en breed zijn slachtoffer iets aan heeft kunnen doen voordat de betreffende melding een keer door het EU-centrum wordt behandeld.
Mocht iemand het antwoord hierop weten hoor ik het graag, maar u hoort het al: ik ben kritisch op het met terugwerkende kracht laten ingaan van de meldplicht.
5. Preventie i.p.v. repressie
De nadruk in deze verordening ligt duidelijk op repressie, en ook dat is in mijn ogen het verkeerd plaatsen van de aandacht. Natuurlijk is repressie belangrijk, maar voorkomen is beter dan genezen. Een winkelier voorkomt ook liever een overval i.p.v. dat hij weet hoe te handelen als het gebeurd.
Ik denk dat er veel meer ruimte ligt voor preventie, met name d.m.v. voorlichting. Zorg er bijvoorbeeld voor dat een gebruiker van een platform, als hij/zij een privéchat opent met een andere gebruiker, eerst een verplichte pop-up krijgt. In deze pop-up kan dan een hele simpele boodschap staan. Bijvoorbeeld: stelt deze persoon vragen over seks aan je? Stop dan het gesprek en meld de situatie bij onze moderatoren.
Heel simpele voorlichting die ook voor een kind te begrijpen is.
Investeer daarnaast ook in voorlichting op scholen, voor ouders etc. Zorg dat ouders weten hoe ze het onderwerp laagdrempelig kunnen maken voor hun kinderen, zorg dat kinderen weten hoe ze het kunnen herkennen en stopzetten.
7. Tot slot
Ik lever in deze reactie bijzonder veel kritiek op deze verordening, daar ben ik me van bewust. Dat betekend natuurlijk niet dat ik fel tegen wetgeving ben of dat ik vind dat er niks gedaan moet worden tegen (online) kindermisbruik. Ik denk echter dat het van belang is om oog te houden voor 1) privacy, 2) capaciteit en 3) preventie i.p.v. repressie. Mijns inziens is daar momenteel te weinig sprake van en biedt de verordening te weinig onderbouwing voor de verregaande maatregelen die het wil treffen.
Mijn voorstel zou in ieder geval zijn:
– schrap de verplichtingen omtrent melden van grooming
– vervang dit voor verplichtingen van degelijke voorlichting
– schrap überhaupt de CSS-verplichtingen en andere privacyschendingen
– maak de verordening hoe dan ook niet met terugwerkende kracht, want dan gaan dat centrum EN de politie compleet overspoeld worden met meldingen – waarvan een groot deel false-positives.
Ik hoop dat de beslissers oog houden voor de rechten van de mens, en mijns inziens is er – ondanks de noodzaak van een strenge aanpak van pedofielen – te weinig gegronde reden om zoveel rechten zo structureel te verbreken. En ik hoop dat het artikel m.b.t. commerciële inmenging ook de beslissers bereikt, want dergelijke corruptie mag nóóit resulteren in wetgeving – en zeker niet wetgeving die zoveel impact heeft.