Fatale falende filters: waarom we de schoonmaak van het internet niet aan algoritmen kunnen toevertrouwen

Blog van Europarlementariër Julia Reda: When filters fail: These cases show we can’t trust algorithms to clean up the internet, oorspronkelijk gepubliceerd op 28 september 2017. Vertaling door Henk Meijer.

Op 28 september 2017 kondigde de Europese Commissie haar wondermiddel aan tegen illegale content online: automatische uploadfilters!

De Commissie heeft al eerder op dergelijke filters aangedrongen om te proberen inbreuk op het auteursrecht te voorkomen — in haar mededeling over ‘het aanpakken van illegale content online’ gaat zij nog een stap verder.

De Europese Commissie moedigt nu officieel “onlineplatforms sterk aan om […] meer te investeren in en gebruik te maken van automatische opsporingstechnologieën”. Ze wil dat platforms beslissingen nemen over de rechtmatigheid van de content die door de gebruikers wordt geüpload, zonder dat er een gerechtelijk bevel of zelfs maar enige menselijke tussenkomst nodig is: “online platforms moeten ook snel beslissingen kunnen nemen […] zonder dat ze daartoe verplicht zijn door een gerechtelijk bevel of een administratief besluit”.

De invoering van een censuur-infrastructuur die toezicht houdt op alles wat mensen uploaden en algoritmen laten beoordelen wat we wel en niet online kunnen zeggen, is een aanval op onze fundamentele grondrechten.

Op 28 september 2017 kondigde de Europese Commissie haar wondermiddel aan tegen illegale content online: automatische uploadfilters! De invoering van een censuur-infrastructuur is een aanval op onze fundamentele grondrechten. Tweet dit!

Maar er is nog een andere belangrijke vraag: wérkt dit eigenlijk wel? De Commissie beweert dat het vrijwillig gebruik van dergelijke filters — zoals “Content ID” van YouTube — “goede resultaten heeft opgeleverd”.

Oh, echt waar? Hier zijn voorbeelden waar filters het vreselijk mis hebben, uiteenlopend van hilarisch tot zeer verontrustend:

1. De kat die een platencontract snorde

De filters van YouTube beweerden dat een opname van 12 seconden van een spinnende kat auteursrechtelijk beschermd werk van EMI Music bevatte. Wie had gedacht dat zij contracten afsloten met dat soort snorrtiesten!

Moraal: Het feit dat zo’n belachelijke fout wordt gemaakt na jaren van investeren in filtertechnologieën toont aan dat het buitengewoon moeilijk is om deze technologie goed te laten werken — voor zover het überhaupt mogelijk is.

De filters van YouTube beweerden dat een opname van 12 seconden van een spinnende kat auteursrechtelijk beschermd werk van EMI Music bevatte… De kat die een platencontract snorde. Tweet dit!

2. Copyright-lesuur valt uit

De opname van een college over het auteursrecht aan de Harvard Law School werd verwijderd door het copyrightfilter van YouTube — omdat de professor een aantal punten aanschouwelijk maakte met korte fragmenten van popliedjes. Natuurlijk was dit onderwijskundig gebruik volkomen legaal. Had het filter nu maar de video gescand op onderricht in auteursrecht, in plaats van alleen maar op geluidsgolven onder auteursrecht!

Moraal: Uitzonderingen op en beperkingen van het auteursrecht zijn essentieel voor ons om de mensenrechten op vrijheid van meningsuiting en deelname aan het culturele leven te kunnen waarborgen. Ze stellen ons in staat om uit werken te citeren, om parodieën te maken en te gebruiken in het onderwijs. Filters kunnen niet opmaken of een gebruik onder een uitzondering valt — en daarmee worden onze fundamentele grondrechten ondermijnd.

Een les over het auteursrecht aan de Harvard Law School werd verwijderd door copyrightfilters van YouTube. Filters kunnen niet opmaken of een gebruik onder een uitzondering valt — en ondermijnen daarmee onze fundamentele grondrechten. Tweet dit!

3. COPYRIGHT CLAIMS van Mars

Een opname van een marslanding van NASA werd aangemerkt als een inbreuk op het auteursrecht — ondanks het feit dat zij die zelf hebben gemaakt, en als onderdeel van de Amerikaanse overheid is alles wat zij produceren in het publieke domein.

Hadden cameraschuwe buitenaardse wezens een verwijderingsverzoek ingediend? Nee, het was de fout van een filter: NASA leverde de video aan televisiezenders. Sommige van deze tv-zenders meldden automatisch alles wat ze uitzenden aan het filtersysteem van YouTube. Dit leidde ertoe dat NASA’s eigen upload werd verdacht van inbreuk op de rechten van tv-zenders.

Moraal: Content in het publieke domein wordt bedreigd door filters die alleen zijn ontworpen met auteursrechtelijke content in gedachten en waar mensen op geen enkel moment zijn betrokken in het proces.

Een eigen opname van een marslanding van NASA werd aangemerkt als een inbreuk op het auteursrecht. Het was de fout van een filter, tv-zenders meldden automatisch alles wat ze uitzenden aan het filtersysteem van YouTube. Tweet dit!

4. Snaaien, graaien, naar de haaien

Toen de televisieserie Family Guy een clip nodig had van een oud computerspel, hebben ze dat gewoon gepakt van iemands YouTube-kanaal. Kun je al raden wat er vervolgens gebeurde? De originele YouTube-video werd verwijderd, omdat deze werd gedetecteerd als veronderstelde inbreuk op het auteursrecht van de nieuwe Family Guy aflevering.

Moraal: Automatische filters geven grote bedrijven alle macht. Individuele gebruikers worden gezien als schuldig totdat hun onschuld wordt bewezen: Terwijl een verwijdering automatisch plaatsvindt, vergt het ongedaan maken van een onrechtmatige verwijdering een moeizaam gevecht.

Televisieserie Family Guy pakte gewoon een clip van een oud computerspel van iemands YouTube-kanaal. De originele YouTube-video werd verwijderd door de copyrightfilters. Tweet dit!

5. Geheugengaten in het Syrië-archief

Een ander soort filter dat op YouTube wordt gebruikt en door de Europese Commissie wordt onderschreven, is bedoeld om “extremistisch materiaal” te verwijderen. Het probeert verdachte content zoals vlaggen van Islamitische Staat op te sporen. Echter wat het ook vond en verwijderde: tienduizenden video’s waarin wreedheden in Syrië worden gedocumenteerd — in feite heeft het de pogingen om oorlogsmisdaden aan het licht te brengen tot zwijgen gebracht.

Moraal: Filters kunnen de context van een video niet voldoende begrijpen om te bepalen of deze verwijderd zou moeten worden.

Automatische filters op YouTube verwijderden documentaires over wreedheden in Syrië — in feite zijn pogingen om oorlogsmisdaden aan het licht te brengen tot zwijgen gebracht. Tweet dit!

6. Politieke meningsuiting verwijderd

Mijn collega Marietje Schaake heeft beelden van een debat in het Europees Parlement over marteling op YouTube gezet. Haar bijdrage werd verwijderd op grond dat zij in strijd was met de communautaire richtlijnen. Zo werd de burgers in Europa de toegang tot een debat van hun gekozen volksvertegenwoordigers ontzegd. Google gaf later de schuld aan een verkeerd werkend spamfilter.

Moraal: Er zijn geen voorzorgsmaatregelen getroffen om ervoor te zorgen dat zelfs de meest overduidelijk onschuldige politieke meningsuiting niet blijft steken in automatische filters.

Politieke meningsuiting van gekozen volksvertegenwoordigers werd verwijderd. Automatische filters van YouTube verwijderden een video van een debat in het Europees Parlement. Tweet dit!

7. Gemarginaliseerde stemmen overstemd

Sommige soorten filters worden niet gebruikt om content te verwijderen, maar om te classificeren of het acceptabel is voor adverteerders en daardoor in aanmerking komt om er geld mee te verdienen, of geschikt is voor minderjarigen.

Onlangs kwamen queer YouTubers erachter dat hun video’s massaal werden uitgesloten van de mogelijkheid er geld mee te verdienen, of ze werden verstopt in een zogenaamd kindvriendelijke “beperkte modus” — dit wekt de indruk dat het filter op de een of andere manier tot het oordeel is gekomen dat LGBT-onderwerpen het niet waard zijn om een breed publiek te bereiken.

Moraal: Reeds gemarginaliseerde gemeenschappen hebben wellicht de grootste kans dat hun uitingen worden weggefilterd.

Automatische filters drukken gemarginaliseerde groepen nog verder in de marge. Tweet dit!

8. Wanneer filters zich tegen artiesten keren

De muzikant Miracle of Sound is een van de velen wiens werk door filters is verwijderd… “namens zichzelf”! Artiesten sluiten deals met platenlabels, platenlabels sluiten deals met bedrijven die filters voeden — en deze filters kunnen dan het verschil niet zien tussen het account van de originele artiest en dat van een inbreukmaker.

Moraal: Rechtmatige, volledig gelicentieerde uploads blijven ook regelmatig steken in filters.

Wanneer filters zich tegen artiesten keren. Filters verwijderen werk van artiest… “namens zichzelf”! Rechtmatige, volledig gelicentieerde uploads zijn niet veilig voor filters. Tweet dit!

9. De risico’s van de wedloop met filters

Geautomatiseerde systemen die weghaal-waarschuwingen versturen zijn in wezen prototypes van filters: ze zijn net als filters op zoek naar inbreuken, maar kunnen niet direct actie ondernemen. Echter, de letterlijk miljoenen klachten die zij veroorzaken worden op hun beurt opgevolgd door systemen die ook geautomatiseerd zijn. Daardoor gaan zij op vergelijkbare manieren in de fout.

In één bijzonder gênant geval melde Warner Bros. Pictures verschillende van zijn eigen websites aan bij Google als inbreuk makend op het auteursrecht, alsook webwinkels die rechtmatig hun films verkopen. Foutje, bedankt!

Moraal: Zelfs degenen die dergelijke filters hanteren, hebben hun algoritmen niet onder controle.

In één bijzonder gênant geval melde Warner Bros. Pictures verschillende van zijn eigen websites aan bij Google als inbreuk makend op het auteursrecht. Tweet dit!

* * *

Deze gevallen zouden moeten dienen als waarschuwing aan de Europese Commissie en andere overijverige wetgevers:

We mogen automatische filters niet scheidsrechtertje laten spelen in content-geschillen op het internet. Tweet dit!

We kunnen de rechtbanken, een eerlijke rechtsgang of zelfs menselijke tussenkomst niet helemaal uit het proces halen zonder ernstige gevolgen voor de vrijheid van meningsuiting — gevolgen die we niet kunnen accepteren.

Voor zover toegestaan bij wet, heeft de maker afstand gedaan van alle auteursrechten en verwante of naburige rechten op dit werk.