Bits of Freedom, EDRI & Amnesty vrezen dat AI-wet deur openzet voor meer massasurveillance
Digitale burgerrechtenbeweging Bits of Freedom, Europese burgerrechtenbeweging EDRi en Amnesty International vrezen dat de Europese AI-wet de deur openzet voor nog meer massasurveillance door de overheid en ‘dystopische digitale surveillance’ in de Europese Unie. Dat laten de organisaties weten in een reactie op het vorige week gesloten voorlopige akkoord. De Artificial Intelligence Act stelt regels aan het gebruik van kunstmatige intelligentie. Eén van de onderdelen betreft het gebruik van live gezichtsherkenning door justitie. Het Europees Parlement had zich in eerste instantie nog uitgesproken voor een volledig verbod op biometrische identificatie, zonder enige uitzonderingen. De EU-lidstaten wilden echter dat justitie de technologie wel kan inzetten. Het eindresultaat is dat justitie real-time gezichtsherkenning toch mag inzetten op basis van verschillende uitzonderingen.
“Het is teleurstellend dat er geen algeheel verbod op biometrische identificatie is aangenomen. We vrezen dat dit de deur open zet voor nog meer discriminatie en massasurveillance door de overheid”, zegt Nadia Benaissa, beleidsadviseur van Bits of Freedom. “We hebben de Europese organen en Nederlandse bewindspersonen opgeroepen niet te zwichten voor de Big Tech lobby. Ook deze week hebben we nog opgeroepen onze rechten niet in te ruilen voor een ‘deal’. Belangrijk, zeker ook binnen de Nederlandse context. Van discriminerende fraudeopsporingsalgoritmen door gemeenten en DUO tot het racistisch inzetten van AI voor visumaanvragen. Nederland kent vele slechte voorbeelden, met als dieptepunt: de toeslagenaffaire. Deze AI-verordening is dus hard nodig”, merkt Bits of Freedom op. Ella Jakubowska, beleidsadviseur van eDRI, stelt dat het lastig is om blij te zijn met een wet die voor het eerst stappen heeft gezet om live gezichtsherkenning in de hele EU te legaliseren en spreekt van een schim van de wet die Europa echt nodig heeft. Bron.
Yesilgoz wil identiteitscontroles bij vreedzame demonstraties niet verbieden
Demissionair minister Yesilgoz van Justitie en Veiligheid is niet van plan om identiteitscontroles bij vreedzame demonstraties te verbieden, zoals mensenrechtenorganisatie Amnesty International had aangeraden. Dat schrijft de minister in een brief aan de Tweede Kamer. Amnesty International toetste de werkwijze rondom identiteitscontroles aan de mensenrechten en verwerkte de analyse in het rapport Ongecontroleerde Macht. Bij het instellen van de Wet op de identificatieplicht in 2003 stelde de overheid dat de wet niet afschrikwekkend zou werken. Identiteitscontroles waren alleen toegestaan als dat strikt noodzakelijk was voor de politietaak. “Maar de in dit rapport onderzochte politiepraktijken druisen rechtstreeks in tegen wat er als wenselijk of toelaatbaar wordt gezien in de wet. Zo vraagt de politie vreedzame demonstranten geregeld om hun ID. Dit schendt niet alleen het recht op privacy, maar heeft wel degelijk ook een afschrikwekkend effect en kan mensen ervan weerhouden te gaan demonstreren”, aldus Amnesty. Elke identiteitscontrole staat minstens vijf jaar geregistreerd in de databases van politie. Bron.
Big Brother Award; Yesilgöz, Van Rij en Marechaussee genomineerd
Demissionair minister Yesilgoz van Justitie en Veiligheid, staatssecretaris Van Rij van Financiën, de Koninklijke Marechaussee, Meta, X en Telegram zijn genomineerd voor de Big Brother Awards 2023, de jaarlijkse prijs voor de grootste privacyschender van Nederland. De prijs, een initiatief van digitale burgerrechtenbeweging Bits of Freedom, wordt op maandag 15 januari volgend jaar in Amsterdam uitgereikt.
Yesilgoz is genomineerd omdat zij mensen die onterecht op een terreurlijst staan aan hun lot overlaat, aldus Bits of Freedom. Bits of Freedom vindt dat de minister moet zorgen voor veiliger beleid bij de politie over wanneer mensen op de terreurlijst terecht kunnen komen, wanneer er een signalering naar Interpol uitgaat en een plan voor hoe mensen daar bij een onterechte registratie meteen vanaf worden gehaald. Marnix van Rij is genomineerd, vanwege het stelselmatig overtreden van wet- en regelgeving door de Belastingdienst, waaronder de Europese privacywet. “Er is te weinig grip op de gegevens die de Belastingdienst van de burger gebruikt. Er is geen beleid om foutieve persoonsgegevens te herkennen en te corrigeren, en verouderde gegevens worden niet op tijd gearchiveerd en vernietigd. Ook zijn gegevens onvoldoende beveiligd.” De Koninklijke Marechaussee dankt de nominatie aan de surveillance van demonstranten, waarbij onder meer gebrekkige technologie voor gezichtsherkenning is gebruikt. De marechaussee lijkt de foto’s te hebben gematcht met de gezichten in CATCH, de massale gezichtendatabank van de politie”, aldus BoF.
Het publiek kan tot 8 januari een stem voor de publieksprijs uitbrengen. Bron.
Het ministerie van Binnenlandse Zaken laat onderzoek doen naar de dreiging van social media voor de democratie, waarbij de rol van anonimiteit expliciet wordt meegenomen. Dat heeft demissionair minister Dijkgraaf van Onderwijs laten weten op vragen van GroenLinks. “Vindt u het, met oog op de groeiende onveiligheid voor lhbti+’ers online, essentieel om hun privacy en onherleidbaarheid zo goed mogelijk te borgen? Hoe weegt dit op tegen de anonimiteit van mensen die online haat en bedreigingen rondsturen?”, vroegen Kamerleden Westerveld en Bouchallikh. Dijkgraaf stelt dat het ministerie van Binnenlandse Zaken op dit moment een literatuurstudie laat uitvoeren naar welke aspecten van sociale media bijdragen aan de risico’s voor de democratie. “De rol van anonimiteit wordt daarin expliciet meegenomen.” Daarnaast vinden er sessies plaats waarbij wordt gekeken naar technologische hulpmiddelen die een rol spelen in ‘de spanning tussen anonimiteit en zichtbaarheid’ op het internet, gaat de minister verder. “Gedurende deze sessies vindt er een dialoog plaats tussen wetenschappers, vertegenwoordigers van maatschappelijke organisaties en burgers, waarbij het ethische vraagstuk met betrekking tot het gebruik van technologie of technieken die anonimiteit of pseudonimiteit waarborgen en de effecten ervan op online discriminatie en haat zaaien wordt besproken”, aldus Dijkgraaf. De resultaten van het onderzoek worden begin volgend jaar verwacht. Bron.
Kuipers: digitale gegevensuitwisseling helpt zorg betaalbaar te houden
Digitale gegevensuitwisseling helpt om de zorg toegankelijk en betaalbaar te houden, nu en in de toekomst, zo stelt demissionair minister Kuipers van Volksgezondheid. De bewindsman stuurde een brief naar de Tweede Kamer over de voortgang van de functies die nodig zijn om het digitaal uitwisselen van gegevens in de zorg mogelijk te maken. De Wet elektronische gegevensuitwisseling in de zorg (Wegiz) moet ervoor zorgen dat ict-systemen straks met elkaar kunnen communiceren, zodat de verplichte digitale gegevensuitwisseling mogelijk is. De Wegiz is vanaf 1 juli van dit jaar van kracht geworden. Bron.
Europese lidstaten verdeeld over invoering client-side scanning
De Europese lidstaten zijn onderling verdeeld over de invoering van client-side scanning, waarbij alle chatberichten van burgers worden gecontroleerd zoals de Europese Commissie wil. Het Europees Parlement had eerder al aangegeven dat het tegen client-side scanning is, maar de Europese lidstaten hebben nog geen gezamenlijke positie ingenomen en die is er nog altijd niet. Daardoor is er in 2023 geen akkoord bereikt. 2024 is een Europees verkiezingsjaar, waardoor het zo goed als onmogelijk is dat er binnen het huidige politieke mandaat een voorstel over client-side scanning wordt aangenomen, zo meldt de Europese digitale burgerrechtenbeweging eDRI. Onderhandelingen tussen het Europees Parlement en de Europese Raad over client-side scanning, als die al zullen plaatsvinden, zouden dan pas op z’n vroegst in de herfst van volgend jaar kunnen starten.
Volgens eDRI wil dit niet zeggen dat de strijd tegen client-side scanning voorbij is, waarbij het naar een nieuw voorstel wijst. “Ook gaan er geruchten rond dat de Europese Commissie zeer gefrustreerd is dat het Parlement opkomt voor onze digitale rechten en opties en strategieën overweegt om, ongeacht een gebrek aan politieke geloofwaardigheid, brede en ongerichte scanmogelijkheden door te drukken”, waarschuwt de burgerrechtenbeweging. Bron.
AIVD mag bulkdatasets die het eigenlijk moet vernietigen langer bewaren
De AIVD en MIVD mogen bulkdatasetse die ze eigenlijk binnenkort zouden moeten vernietigen langer van de Commissie van Toezicht op de Inlichtingen- en Veiligheidsdiensten (CTIVD) bewaren. Daarmee neemt de CTIVD een voorschot op het wetsvoorstel ‘Tijdelijke wet onderzoeken AIVD en MIVD naar landen met een offensief cyberprogramma, bulkdatasets en overige specifieke voorzieningen’ dat nog door de Eerste Kamer moet worden goedgekeurd.
De AIVD en MIVD hebben bulkbevoegdheden waardoor ze grote hoeveelheden gegevens kunnen verzamelen van miljoenen mensen, waarvan het overgrote deel gaat over mensen waar de diensten geen onderzoek naar doen of zullen gaan doen. Dat doen de inlichtingendiensten naar eigen zeggen om een klein deel binnen te kunnen halen dat wél relevant is voor een onderzoek. Vervolgens moeten alle gegevens die niet relevant zijn zo snel mogelijk worden vernietigd. Deze bulkdatasets mogen op dit moment maximaal anderhalf jaar worden bewaard. Vorig jaar oordeelde de CTIVD na een klacht van burgerrechtenbeweging Bits of Freedom dat de AIVD en MIVD vijf bulkdatasets moesten vernietigen, wat inmiddels ook is gedaan. De diensten bleken de bulkdatasets namelijk langer dan anderhalf jaar te bewaren. Het wetsvoorstel, waarover de Eerste Kamer nog moet stemmen en de Toetsingscommissie Inzet Bevoegdheden (TIB) kritisch was, geeft de inlichtingendiensten de mogelijkheid om bulkdatasets, na toestemming van de CTIVD, langer te bewaren. De termijn kan steeds met een jaar worden verlengd. Vanaf de derde verlenging zal er extra streng worden getoetst of dit nodig is. Demissionair minister De Jonge van Binnenlandse Zaken voegt toe dat als het wetsvoorstel niet door de Eerste Kamer wordt aangenomen, de bulkdatasets waarvoor een nieuwe eindtermijn is vastgesteld, alsnog meteen vernietigd worden. Bron.
AP tegen grootschalige dataverzameling in jeugdzorg: noodzaak niet aangetoond
De Autoriteit Persoonsgegevens (AP) is tegen een wetsvoorstel van het kabinet dat grootschalige dataverzameling in de jeugdzorg mogelijk maakt. Volgens de privacytoezichthouder is de noodzaak hiervoor niet aangetoond. De kritiek van de AP richt zich op het wetsvoorstel ‘Verbetering beschikbaarheid jeugdzorg’, waardoor de Nederlandse Zorgautoriteit (NZa) gegevens kan gaan inzamelen voor onderzoek naar de beschikbaarheid van de jeugdzorg. De NZa kan volgens het voorstel onder meer gezondheidsgegevens en strafrechtelijke gegevens van jongeren en hun ouders opvragen bij gemeenten en hulpverlenende instanties. De Autoriteit Persoonsgegevens stelt dat niet aangetoond is waarom het gebruik van deze gevoelige gegevens noodzakelijk is. Zo kan de beschikbaarheid van jeugdzorg worden onderzocht op een manier die veel minder ingrijpend is. “Als minder ingrijpende methoden voorhanden zijn om hetzelfde doel te bereiken, mogen ingrijpender methoden niet worden toegepast. De toelichting maakt niet duidelijk of alternatieven zijn overwogen en zo ja, waarom deze zijn verworpen”, aldus de AP. “Daarom schiet de onderbouwing van het wetsvoorstel tekort.” Daarnaast maakt het voorstel niet duidelijk welke gezondheidsgegevens en strafrechtelijke gegevens er zullen worden verwerkt. Dat is wel verplicht omdat het gaat om gegevens met een zeer privacygevoelig karakter. “Weinig gegevens zijn zó persoonlijk als informatie over je gezondheid of je eventuele contact met politie en justitie”, zegt AP-vicevoorzitter Monique Verdier. “Daarom is het ontzettend belangrijk dat er uiterst zorgvuldig met zulke gegevens wordt omgegaan. Al helemaal als het gaat om gegevens van jongeren in de jeugdzorg.” Verdier voegt toe dat jeugdzorg vaak draait om jongeren in uiterst kwetsbare posities. “Als de overheid gegevens wil gebruiken van zulke jongeren, en van hun ouders, zal de overheid heel goed moeten uitleggen waarom dat per se nodig is. Aan die uitleg schort het nu.” De AP adviseert het voorstel dan ook aan te passen. Bron.
Edwin rijdt de straat in en ziet een drone z’n huis inspecteren: ‘Extreem om zo inwoners te controleren’
Als hij terugdenkt aan die donderdagmiddag wordt hij wéér kwaad. Nietsvermoedend reed Edwin – zijn achternaam is bekend bij de redactie – rond een uur of drie zijn straat in Ypenburg in. Hij zag de buurtbewoners van de Berkebroeklaan gebiologeerd naar een vliegend voorwerp in de lucht boven zijn tuin kijken, er stonden een bus en een bestelauto, vier mensen liepen druk heen en weer en er stond een waarschuwingsbord in de straat met de tekst: Let op, droneactiviteiten, dit is een gecontroleerd gebied, volg aanwijzingen op. Het bleek om een inspectie van de gemeente Den Haag te gaan. Buurtbewoners hadden hun beklag gedaan over de antennes op de dakkapel van de gelicentieerde radiozendamateur. Den Haag gebruikt sinds kort drones om te controleren of dakopbouwen, uitbouwen of kapellen wel aan de vergunningsvereisten voldoen. Ook kan de drone de lucht in bij signalen van illegale bouw. De Haagse Pandbrigade voert de controles uit. Het minivliegtuigje vliegt een dag per maand en combineert dan, wel zo efficiënt, meldingen in een bepaald gebied. Het idee erachter is om het leven van inwoners juist wat makkelijker te maken. Je hoeft niet meer thuis te blijven voor een afspraak omdat een inspecteur niet meer langs hoeft te komen. Ook komt de drone op lastig bereikbare plekken, waardoor de inspecteur geen halsbrekende toeren op daken uit hoeft te halen en hoeft de hoogwerker er niet aan te pas te komen.
Niet iedereen was blij met de aankondiging van dit project. Zo waren er zorgen in de Haagse raad en werden er Kamervragen gesteld door de SP, die zich ernstig zorgen maakte over de privacy. De socialisten vonden zelfs dat Den Haag moest stoppen met deze manier van bouwtoezicht.
Den Haag liet eerder weten dat de kleine vliegtuigjes alleen foto’s en geen video’s maken. En als iemand daar onverhoopt herkenbaar op zou staan, dan blurt de gemeente diegene. De stad heeft naar eigen zeggen alles gedaan om privacy-risico’s zo klein mogelijk te houden.
Vooraf een inspectie melden, hoeft bij een melding van illegale bouw niet, zegt Den Haag: dit is volgens de gemeente een uitzondering van de privacywetgeving op het gebied van toezicht en inspectie.
Ook in Zeeland zetten de overheden drones in voor controles. Zo checkt de gemeente Veere op deze manier of mensen in de duinen seks hebben. D66 is hier kritisch op.
Britse politie zeer teleurgesteld over uitrol end-to-end encryptie Messenger
De Britse politie is zeer teleurgesteld over de beslissing van Meta om end-to-end encryptie standaard voor privéchats en telefoongesprekken in Messenger en Facebook in te schakelen. Volgens het Britse National Crime Agency (NCA) maakt de beveiligingsmaatregel het lastiger om kinderen te beschermen. Door end-to-end encryptie kunnen alleen afzender en ontvanger de inhoud van berichten zien. Volgens de Britse politie zorgen de alternatieve veiligheidsmaatregelen die Meta ontwikkelde, en op metadata zijn gebaseerd, zelden voor voldoende bewijs voor een zoekbevel. Het NCA denkt dat, als de uitrol doorgaat zoals gepland, het de meeste meldingen over misbruikmateriaal afkomstig van Facebook en Instagram zal verliezen. “Meta heeft een belangrijke verantwoordelijkheid om kinderen op hun platform te beschermen en helaas zal dit nu niet langer mogelijk zijn”, zegt James Babbage van het NCA. Bron.
