337 – AI voor het leger en meekijken op jouw telefoon? – verkiezingsplannen bekijken met Evelyn Austin

De verkiezingen komen eraan en je zou bijna denken dat ze gaan over bestaanszekerheid, kencentrales en of Omtzigt president wil worden. Maar wij nerds zijn natuurlijk vooral geïnteresseerd in het Digitale Stembusakkoord en wat de partijen denken over kunstmatige intelligentie en privacy. Daarom doken we in de verkiezingsprogramma’s met Evelyn Austin, directeur bij Bits of Freedom.

Shownotes

👉 Wat zegt de politiek over AI?
👉 De verkiezingsprogramma’s doorgelicht: wat willen politieke partijen met privacy?
👉 Het Digitale Stembusakkoord 2023
👉 Niks te verbergen? Toch steeds meer uit te leggen

Tijdschema

0:00:00 Reclame: ICT Group
0:04:50 Het Digitale Stembusakkoord
0:08:10 Alexandra van Huffelen als staatssecretaris
0:11:18 Een minister van cyber
0:15:06 Digitale expertise in ministeries
0:18:21 Camera-toezicht voor meer veiligheid.
0:19:34 Online privacy
0:25:57 Overheid als speler in privacybescherming
0:29:37 VVD en CDA voor toegang tot persoonsgegevens
0:30:27 Privacybeleid van politieke partijen
0:36:46 Techno-optimisme versus pessimisme
0:43:02 Boeven en beroepscriminelen
0:47:35 Impact van overheidsdata
0:56:26 End-to-end encryptie en de beperkingen ervan
0:57:07 Europese samenwerking en nationale wetgeving
1:00:08 Digitale Europese identiteit
1:01:36 Generatieve AI onderbelicht
1:08:03 Naaktfoto’s genereren
1:14:41 Grenscontroles en gezichtsherkenning binnen Europa
1:16:03 Estland en Thailand als voorbeelden van digitale overheid
1:19:26 TikTok al verboden onder Europese wetgeving
1:21:46 Afkondiging



One Reply to “337 – AI voor het leger en meekijken op jouw telefoon? – verkiezingsplannen bekijken met Evelyn Austin”

  1. Luc

    Net de aflevering geluisterd. Rond (o.a.) 58 minuten gaat het over client-side versleutelde berichten scannen.

    In deze discussie mist naar mijn idee iets. In de podcast wordt geconcludeerd “dan heb je aan die hele versleuteling dus niks”.

    Toch wel: lokaal scannen staat toe, in ieder geval voor deskundige nerds, om in te zien wat de code doet en/of welke berichten gerapporteerd worden ter controle. Vergelijk dat met de situatie waar alles woordelijk op de server van de aanbieder leesbaar is: je weet niet waarop ze scannen, of ze er een AI/LLM op trainen, of het gaat lekken, of dat ze over vijf jaar besluiten dat nog eens onder de loep te nemen. Er is geen controle mogelijk; je kan daar niet zomaar binnenwandelen.

    Maar wie verplicht jou om lokale scans te laten gebeuren? Criminelen houden zich per definitie niet aan de regels, dus de wetgeving wordt gemaakt met criminelen in gedachte maar geldt voor iedereen. Client-side scanning is pas effectief wanneer het onpraktisch tot onmogelijk is om het scannen en de rapportering uit te schakelen.

    Dit gevolg wordt zelden genoemd in berichtgeving en discussies die ik zie over het onderwerp.

    — verdere voorbeelden —

    Op dit moment is jouw apparaat jouw apparaat, dus je mag daarop draaien wat je wil. Als het amerikaanse Facebook WhatsApp lekker preuts laat scannen op het woord ‘sex’ (zoals bijv. Skype server-side doet), dan mag jij een debugger draaien en dat eruit slopen of het netwerkverkeer aanpassen zodat jouw sexting met je vriend(in) niet onversleuteld richting Facebook gaat. Als client-side scanning door de wetgever als gewenst wordt bepaald en moet gaan werken, moet dat niet kunnen.

    Het klinkt voor mij heel extreem. Zou het ooit zover komen?

    Kijk naar DRM. De wetgevende en rechterlijke macht spreekt zich algemeen in het voordeel van DRM uit, waarin het meestal illegaal is om de beveiliging van de fabrikant te doorbreken ook binnen jouw eigen muren, of je dat nou leuk vindt of niet. Op smartphones zijn we ook een heel eind: vanalles werkt er niet als root gedetecteerd wordt (zoals beveiligingsupdates en betalen; toch vrij essentiële dingen) en ook het Google-Apple-duopolie heeft er moeite mee. Fairphone kreeg bijvoorbeeld geen licentie van Google om Youtube of de Play Store op het apparaat te zetten, wat iedereen wil, als ze root standaard aanboden (Fairphone forum topic 11893). Apple staat al helemaal niks toe qua alternatieve software op hun hardware, pas nu de DMA het verplicht ga je apps mogen installeren die niet Apple’s persoonlijke goedkeuring hebben. Dannog kunnen die apps op iOS niet inzien, laat staan aanpassen, wat het OS of WhatsApp op jouw telefoon met jouw gegevens doet.

    Of denk aan een bankrekening. Hoeveel werkgevers of verhuurders zouden salaris of huur nog contant willen overdragen? Het is essentiëel en toch schrijven we vergaande anti-witwas-wetgeving: Radar had eerder dit jaar een uitzending met voorbeelden van mensen die per abuis en zonder uitleg hun rekening geblokkeerd kregen en wekenlang geen eten konden kopen omdat de bank nog ‘in onderzoek’ was naar of ze crimineel zijn of niet (wat me trouwens meer iets lijkt voor een rechter?). Dit is legaal en door de wetgever voorgeschreven.

    — einde extra context —

    Jullie (met name de gastnerd) benoemden hoe slecht mensen geïnformeerd zijn over allerlei onderwerpen die ons wel raken. Als client-side scannen in een toekomstige podcast ter sprake komt, zouden enkele gevaren maar ook voordelen benoemd kunnen worden zodat onze nerds wel een realistische mening kunnen vormen

Geef een reactie

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.

Nerds

Aaron Mirck (3)
Adriaan ter Braack (1)
Alex Schoonkind (1)
Alexander Klöpping (3)
Ali El Hassouni (1)
Ali Niknam (2)
Ancilla van de Leest (1)
Anco Scholte ter Horst (2)
Anic van Damme (2)
Anna Luna Post (1)
Anne Ardon (1)
Anne Bras (1)
Annefleur Klinkhamer (1)
Anouk Muis (1)
Anouk Ruhaak (1)
Arco Gnocchi (1)
Arie Koomen (1)
Arjo van der Ham (1)
Arno Bakker (1)
Arnoud Engelfriet (1)
Arnoud Wokke (5)
Astrid Oosenbrug (1)
Auke Hoekstra (1)
Barend Frans (4)
Bart de Water (5)
Bart Mol (1)
Bart van den Akker (2)
Bart-Jan de Brouwer (1)
Bas R (1)
Bastiaan Vroegop (4)
Ben van der Burg (2)
Bert Hubert (4)
Bert Slachter (1)
Boba (3)
Boris Veldhuijzen van Zanten (1)
Bram Kanstein (1)
Bram van Dijk (1)
Brenno de Winter (1)
Casper Meijer (1)
Chantal Stekelenburg (5)
Christ Coolen (1)
Christian Schaffner (1)
Constantijn van Oranje (1)
Cuno van 't Hoff (1)
Daan Kleiman (1)
Damn Honey (3)
Daniël Kegel (74)
Daniël Verlaan (2)
Danijel Dercksen (1)
Danny Oosterveer (1)
Dave Aaldering (4)
Dave Borghuis (1)
Dave Maasland (1)
David van Dorsten (2)
Davy van Iersel (1)
Dennis Mons (2)
Dennis Wijnberg (2)
Desiguusje (1)
Dewi van de Vyver (1)
Diederik Broekhuizen (1)
Dion Linsen (1)
Dries Depoorter (1)
Duco Vaillant (2)
Edwin Vlieg (1)
Eefje 'Sjokz' Depoortere (2)
Egon Willighagen (1)
Eke Bosman (1)
Elger Jonker ("Stitch") (2)
Elger van der Wel (2)
Eline Muijres (1)
Ellemieke Hemmers (1)
Emile 'Mux' Nijssen (1)
Emile Nijssen (1)
Emilio Guzman (1)
Eric van Uden (2)
Erik Bais (7)
Erik Remmelzwaal (1)
Erik van Oosbree (1)
Esther Crabbendam (11)
Eva Gouwens (1)
Evelyn Austin (2)
Farhaz Hofman (2)
Felienne Hermans (3)
Felix "Electric Felix" Hamer (1)
Ferry (1)
Ferry Stelte (Epiphany) (1)
Fleur van Leusden (1)
Floor Drees (1)
Floris Bot (162)
Floris de Bijl (2)
Floris Poort (1)
Floris van Lint (1)
Foaly (1)
Foeke Postma (2)
Frederik Zevenbergen (29)
Gerdien Dalmulder (1)
Gerine Lodder (2)
Gijs Wilbrink (1)
Gina Doekhie (1)
Guido Jansen (1)
Hans de Zwart (1)
Harmen van Rossum (1)
Hasan Tasdemir (1)
Hay Kranen (1)
Hendrik Rood (1)
Henri de Jong (1)
Hind Dekker-Abdulaziz (1)
Huib Modderkolk (1)
Ibo Orgut (2)
Ineke Scheffers (1)
Ionica Smeets (1)
Irmo Manie (1)
Jaap (1)
Jaime Karremann (1)
Jan Meeus (1)
Jan Meijroos (4)
Jasper Schilder (1)
Jasper van der Meij (1)
Jasper van Kuijk (1)
Jaya Baloo (2)
Jeffrey (1)
Jelle Prins (5)
Jeroen Groeneweg (1)
Jeroen Horlings (1)
Jeroen Kraan (1)
Jeroen Verkroost (1)
Jeroen Wollaars (1)
Jesse Wienholts (1)
Jim Jansen (1)
Jim Stolk (2)
Job Snijders (3)
Joe van Burik (2)
Joey van Koningsbruggen (1)
Jonna ter Veer (2)
Joost Greunsven (1)
Joost Schellevis (88)
Jorn Rigter (1)
Jorrit Monné (1)
Jos Weyers (1)
Julia Janssen (3)
Julian Huijbregts (1)
Jurian Ubachs (228)
Kees Teszelszky (1)
Kees Verhoeven (2)
Kevin Verkruijssen (1)
Koen van Hove (1)
Koos Mooten (1)
Krijn Soeteman (5)
Kristian Spek (1)
Laurens Verhagen (1)
Laurens Vreekamp (1)
Levien Nordeman (1)
Lieven Heeremans (2)
Linda Duits (2)
Lisa Boerop (1)
Lisa de Wilde (1)
Liza van Lonkhuyzen (1)
Lodewijk van Zwieten (1)
Lucinda Sterk (1)
Luke (1)
Luuk Ikink (1)
Lykle de Vries (1)
Maarten den Braber (2)
Maarten Hendriks (1)
Maarten Peelen (1)
Maarten Staats (1)
Maarten van Woerkom (15)
Manu Busschots (1)
Marc de Haas (1)
Marc van den Hul (1)
Marcel van der Velde (2)
Margriet Palm (1)
Marie Lotte Hagen (3)
Marieke de Veer (1)
Marieke Smits (1)
Marin Heideman (1)
Marino van Zelst (4)
Mark Versteden (1)
Mark Visbeek (1)
Mark Vletter (1)
Marleen Stikker (1)
Martijn Aslander (1)
Martijn van der Meer (1)
Mary-Jo Diepeveen (1)
Mathieu Andriessen (1)
Matthijs Jaspers (1)
Matthijs Pontier (1)
Maurice Schutte (1)
Melanie Rieback (2)
Menno (1)
Merel Koning (1)
Michel van Baal (1)
Michiel Veenstra (1)
Michiel Wiggers (1)
Mike van Rijswijk (1)
Miriam Schoon (1)
Mischa Peters (1)
Nando Kasteleijn (3)
Nelleke Poorthuis (1)
Nick Bouwhuis (2)
Nico Dekens ("Dutch Osint Guy") (1)
Nico Voskamp (1)
Nicole Verhoeven (1)
Niels Kalkman (1)
Niels Raijer (1)
Nilüfer Gündoğan (1)
Nydia van Voorthuizen (3)
Patrick Kicken (1)
Paul Hulsebosch (1)
Paul Sprangers (1)
Paul Veugen (1)
Pauline Vos (1)
Paulus Schoutsen (1)
Peter Bouwman (1)
Peter Koning (2)
Peter Koop (1)
Pieter Zwart (1)
Pim Verlaan (1)
Quintin Schevernels (1)
Rachid Finge (3)
Ramon Linke (1)
Randal Peelen (326)
Raymon Mens (2)
Reinier Ladan (4)
Remco de Boer (1)
Remco Dirks (1)
Remco van Mook (1)
Rickey Gevers (1)
Rik van Duijn (1)
Rob Peelen (1)
Robert Vrancken (1)
Robert-Jan Huijsman (9)
Roel Andringa-Boxum (1)
Roel Konijnendijk (1)
Roelant Kooij (2)
Rolf Hut (1)
Ron Vorstermans (1)
Rudolf van der Berg (2)
Ruurd Sanders (56)
Saber Karmous (4)
Sabrina Verhage (1)
Sam de Bolle (1)
Sander Bijleveld (39)
Sander Blok (1)
Sander Duivestein (1)
Sander Gordijn ("Meester Sander") (1)
Sander van den Bogaerde (1)
Sanne Kanis (2)
Sanne Maasakkers (1)
Sanne Vilters (1)
Saša Svitlica (2)
Sebas van den Brink (1)
Sebastien Lintz (1)
Selmar Smit (1)
Sicco de Knecht (2)
Sidney Vollmer (1)
Sjoerd Perfors (1)
Sophie van Veenen (3)
Stef van Grieken (2)
Stefan Mennes (1)
Stephan Vegelien (1)
Steven van Wel (1)
Stijn Bruers (1)
Stijn Henneveld (1)
Thijs de Maa (1)
Thijs Niks (2)
Thijs Suijten (1)
Thijs van Bruxvoort (1)
Thijs van Domburg (1)
Thomas Kole (1)
Tijs Hofmans (3)
Tim Cure (1)
Tim de Gier (1)
Tim Koehoorn (1)
Tim Kuik (1)
Tim Oerlemans (1)
Tim Seegers (1)
Tim van Deursen (1)
Tom Louwerse (1)
Ton Siedsma (1)
Tristan Suerink (1)
Victor van Doorn (1)
Vincent Houwert (1)
Vivianne Bendermacher (1)
Ward Geene (1)
Wido Potters (1)
Wiebe van der Werk (1)
Wieger Wamelink (1)
Wietse Hage (1)
Wilbert de Vries (1)
Winny de Jong (1)
Wout Funnekotter (1)
Wouter Prins (1)
Xander Bouwman (1)
Yeni Joseph (1)
Yordi Yamali (1)
Yorick Bleijenberg (4)