Chat Control: hoe Europa je prive-berichten wil scannen

De Europese Commissie werkt aan wetgeving die berichten-apps zou verplichten om alle prive-berichten te scannen op illegale inhoud. Het voorstel, officieel de "Verordening ter voorkoming en bestrijding van seksueel misbruik van kinderen" maar beter bekend als "Chat Control", zou een fundamentele verandering betekenen voor digitale privacy in Europa. Als het wordt aangenomen, zou het de facto het einde betekenen van end-to-end encryptie zoals we die kennen.

1. Wat is Chat Control?

Chat Control is een wetgevingsvoorstel van de Europese Commissie dat berichtendiensten (WhatsApp, Signal, Telegram, iMessage en anderen) zou verplichten om berichten te scannen op materiaal dat verband houdt met seksueel misbruik van kinderen (CSAM). Het voorstel omvat zowel bekende als onbekende beelden, maar ook het detecteren van "grooming" in tekstberichten.

Het controversiele aspect is dat dit scanning ook zou gelden voor end-to-end versleutelde berichten. Aangezien de server versleutelde berichten niet kan lezen, zou de scanning moeten plaatsvinden op het apparaat van de gebruiker, voor of na de encryptie. Dit wordt client-side scanning genoemd.

2. Achtergrond en motivatie

De motivatie achter Chat Control is onbetwistbaar legitiem: de bescherming van kinderen tegen seksueel misbruik. Online verspreiding van CSAM is een reeel en groeiend probleem. Opsporingsdiensten melden elk jaar een stijging van het aantal meldingen, en versleutelde communicatie maakt detectie moeilijker.

De vraag is niet of dit probleem moet worden aangepakt. De vraag is of het scannen van alle prive-berichten van alle Europese burgers een proportionele en effectieve oplossing is, en of het technisch mogelijk is zonder de fundamentele beveiliging van versleutelde communicatie te ondermijnen.

Het Europees Parlement heeft eerder een gematigder standpunt ingenomen, waarbij versleutelde berichten zouden worden uitgesloten van de scanverplichting. Maar de Europese Commissie en een aantal lidstaten blijven aandringen op een versie die ook versleutelde communicatie omvat.

3. Client-side scanning uitgelegd

Client-side scanning (CSS) is de technische methode die Chat Control zou vereisen voor versleutelde berichten. In plaats van berichten op de server te scannen (wat onmogelijk is bij E2E-encryptie), wordt het bericht gescand op het apparaat van de gebruiker voordat het wordt versleuteld en verzonden.

In de praktijk zou dit betekenen dat je telefoon elk bericht dat je typt en elke afbeelding die je verstuurt, eerst vergelijkt met een database van bekende illegale inhoud of door een AI-model stuurt dat verdachte inhoud detecteert. Als het systeem een "match" vindt, wordt het bericht gemarkeerd en naar een centraal meldpunt gestuurd voor menselijke beoordeling.

Dit is fundamenteel anders dan de huidige situatie, waarin berichten na versleuteling alleen leesbaar zijn voor verzender en ontvanger. Met client-side scanning wordt er een derde partij geintroduceerd die elk bericht kan "zien" voordat het wordt versleuteld.

4. Waarom dit encryptie breekt

Voorstanders van Chat Control beweren dat client-side scanning de encryptie niet "breekt" omdat het bericht nog steeds versleuteld wordt verzonden. Technisch klopt dat in de engste zin. Maar in de praktijk is het onderscheid betekenisloos.

End-to-end encryptie belooft dat alleen de verzender en ontvanger het bericht kunnen lezen. Client-side scanning schendt deze belofte door een systeem toe te voegen dat het bericht leest voordat het wordt versleuteld. Het is vergelijkbaar met iemand die over je schouder meekijkt terwijl je een brief schrijft, en dan beweert dat de envelop nog steeds verzegeld is.

Bovendien creert client-side scanning een infrastructuur die kan worden uitgebreid. Vandaag scant het systeem op CSAM. Maar zodra de technologie bestaat, kan de scanlijst worden uitgebreid naar terrorisme, auteursrechtinbreuk, politieke oppositie of welke inhoud een overheid ook wil detecteren. Historische precedenten in autoritaire regimes tonen aan dat surveillance-instrumenten altijd worden uitgebreid voorbij hun oorspronkelijke doel.

5. Het probleem van valse positieven

Geen enkel detectiesysteem is perfect. Zelfs met een nauwkeurigheid van 99% zou een systeem dat miljarden berichten per dag scant, miljoenen valse positieven genereren. Dit betekent dat miljoenen onschuldige berichten, waaronder familifoto's van kinderen in bad, medische beelden en artistieke fotografie, zouden worden gemarkeerd en door menselijke beoordelaars bekeken.

Onderzoek van onderzoekers aan de ETH Zurich toonde aan dat zelfs geavanceerde hash-matching systemen aanzienlijke aantallen valse positieven opleveren. AI-gebaseerde detectie van "onbekend" CSAM en grooming is nog onnauwkeuriger. Het risico op onterechte beschuldigingen is reeel en potentieel verwoestend voor de betrokken individuen.

Apple introduceerde in 2021 een client-side scanning systeem voor iCloud-foto's, maar trok het in 2022 terug na massale kritiek van privacyexperts en beveiligingsonderzoekers. Apple concludeerde dat het niet mogelijk was om een dergelijk systeem te bouwen zonder onaanvaardbare risico's voor privacy en beveiliging.

6. Kritiek van experts

De kritiek op Chat Control is breed en komt van diverse gezaghebbende bronnen:

• Cryptografen: Meer dan 300 wetenschappers en onderzoekers ondertekenden een open brief waarin ze waarschuwden dat client-side scanning fundamenteel onverenigbaar is met end-to-end encryptie.
• Berichten-apps: Signal, WhatsApp, Threema en andere berichten-apps hebben aangegeven dat ze liever de Europese markt verlaten dan achterdeuren in hun encryptie in te bouwen. Signal-president Meredith Whittaker noemde Chat Control "een existentiele bedreiging voor digitale privacy".
• De Europese Toezichthouder voor Gegevensbescherming: De EDPS heeft het voorstel bekritiseerd als disproportioneel en een bedreiging voor fundamentele rechten.
• Kinderrechtenorganisaties: Zelfs sommige organisaties die zich inzetten voor kinderbescherming hebben kritiek geuit op de effectiviteit van de voorgestelde aanpak, waarbij ze erop wijzen dat massasurveillance criminelen niet stopt maar wel de privacy van alle burgers schendt.

7. Het Europese debat

Het Chat Control-voorstel heeft binnen de EU geleid tot diepgaande verdeeldheid. Het Europees Parlement nam in november 2023 een gematigder positie in, waarbij versleutelde communicatie zou worden uitgesloten van de scanverplichting. Maar de Europese Raad (de lidstaten) blijft verdeeld, met landen als Spanje, Ierland en Belgie die voorstander zijn van uitgebreide scanning, en landen als Duitsland, Oostenrijk en Nederland die bezwaren uiten.

De Nederlandse overheid heeft zich kritisch uitgelaten over het voorstel, met name wat betreft de gevolgen voor end-to-end encryptie. Het Ministerie van Economische Zaken benadrukte het belang van sterke encryptie voor de digitale economie en de veiligheid van burgers.

De uiteindelijke wetgeving zal het resultaat zijn van onderhandelingen tussen het Europees Parlement, de Raad en de Commissie. Het is nog onzeker hoe het definitieve voorstel eruitziet, maar de druk om versleutelde communicatie op te nemen blijft sterk.

8. Gevolgen voor gebruikers

Als Chat Control in zijn huidige vorm wordt aangenomen, heeft dit directe gevolgen voor elke Europese burger die een berichten-app gebruikt:

• Elk bericht wordt gescand: Elke tekst, foto en video die je verstuurt, wordt geanalyseerd door een geautomatiseerd systeem.
• Valse positieven: Onschuldige berichten kunnen worden gemarkeerd en door onbekende beoordelaars worden bekeken.
• Uitbreiding: De scanning-infrastructuur kan in de toekomst worden uitgebreid naar andere inhoudscategorieen.
• Minder keuze: Berichten-apps die weigeren scanning te implementeren, kunnen de Europese markt verlaten.
• Vals gevoel van veiligheid: Criminelen zullen overstappen op niet-gereguleerde communicatiemiddelen, terwijl gewone burgers worden gescand.

9. Conclusie

Chat Control stelt een fundamentele vraag: zijn we bereid om de privacy van alle prive-berichten op te offeren in de hoop een specifiek misdrijf te bestrijden? De technische realiteit is dat je niet een "beetje" end-to-end encryptie kunt hebben. Of alle berichten zijn beschermd tegen inzage door derden, of geen enkel bericht is dat. Er is geen tussenweg.

De bescherming van kinderen is een doel dat iedereen deelt. Maar effectieve bescherming vereist gerichte opsporingsmethoden, meer middelen voor politie en justitie, betere rapportagesystemen en internationale samenwerking. Massasurveillance van alle digitale communicatie is niet alleen disproportioneel, het is ook ineffectief, omdat criminelen eenvoudig zullen overstappen op niet-gereguleerde alternatieven.

Voor Europese burgers is het belangrijk om dit debat te volgen en je stem te laten horen. De keuze die Europa maakt over Chat Control zal bepalen of end-to-end encryptie een recht blijft of een reliek wordt.