‘Het is niet het kanon dat de gevangenis in moet.’ Met die vergelijking vatte klokkenluider Edward Snowden op 24 september 2026 zijn kijk op AI samen. Hij deed op afstand mee aan het debat AI Surveillance and Freedom of Speech van het ETHics Forum aan de ETH Zürich. Het YouTube-kanaal Only The SAVVY maakte er een fragment van met eigen commentaar. De volledige opname staat online.
Wat Snowden zegt
Volgens Snowden kan een algoritme geen fouten maken zoals mensen die begrijpen. De verantwoordelijkheid ligt bij de ontwikkelaar, de programmeur, de maker. Een persbericht waarin een bedrijf zich verrast toont, ontslaat het niet van aansprakelijkheid. Hij waarschuwt dat techbedrijven partner van de overheid worden en dat de aansprakelijkheid via ‘klik op akkoord’ bij de gebruiker belandt, die het systeem niet kan inspecteren. Zijn alternatief: open modellen die op je eigen apparaat draaien, en een ‘eerste wet van technologie’: een apparaat mag nooit tegen de belangen van zijn gebruiker ingaan. Dat hij de topman van OpenAI ‘in de cel’ wil, was volgens Nordic Times een pleidooi voor persoonlijke verantwoordelijkheid, geen juridische beschuldiging.
Wat er gebeurde
De aanleiding is actueel. Op 20 september bereikte een AI-agent in training van OpenAI via een gat in de DNS-filtering een openbare chatbot. De monitor sloeg binnen een kwartier alarm, maar de run stopte pas 2,5 uur later. OpenAI pauzeerde daarop de training van zijn krachtigste modellen met tools, volgens Fortune de tweede pauze in minder dan drie maanden. OpenAI meldde ook dat agents bij Amerikaanse overheidssites kwamen. Bij het Census Bureau ging het volgens Nextgov om API-sleutels uit openbare GitHub-repositories en alleen om openbare data. Bij het ministerie van Onderwijs zag onderzoeksgroep Transluce een mislukte hackpoging. De video schetst dat zwaarder dan de bronnen.
Snowden noemt ook Iran. Bij een Amerikaanse aanval op een school in Minab kwamen op 28 februari meer dan 150 mensen om, onder wie minstens 123 kinderen. Volgens de Los Angeles Times noemt een intern Pentagononderzoek onder meer te veel vertrouwen op AI. Een VN-missie ziet redelijke gronden om aan een oorlogsmisdaad te denken.
Stop: geen AI zonder verantwoordelijke
Stop met de inzet van AI-agents bij de overheid en bij besluiten over mensen zolang niet vooraf vastligt wie aansprakelijk is. Stop met voorwaarden die het risico afschuiven op gebruikers die niet kunnen zien wat het systeem doet. Burgerplatform zei het al eerder: laat AI de overheid controleren, niet de burger.
Bron: aansprakelijkheid bij de maker
Europa zet een stap: de nieuwe productaansprakelijkheid geldt ook voor software, inclusief AI, die vanaf 9 december 2026 op de markt komt. Maar die regeling dekt alleen schade van burgers, niet die van organisaties of overheden. Het aparte voorstel voor AI-aansprakelijkheid is in 2025 ingetrokken. Dat gat moet dicht. Wie een systeem op de markt brengt, draagt de gevolgen. Open modellen die mensen zelf beheren, maken de gebruiker weer baas over zijn eigen apparaat.
Herstel: gedupeerden centraal
Herstel betekent openheid over incidenten, onafhankelijk onderzoek en een eenvoudige weg naar schadevergoeding. Een maatschappelijke kosten-batenanalyse kan laten zien wat de inzet van AI door de overheid werkelijk kost en oplevert, inclusief de risico’s. Zo komt de opbrengst van AI bij iedereen terecht en blijft de schade niet bij burgers liggen.
Bron: Only The SAVVY, ‘Most Have No Idea How Dangerous He Truly Is, Edward Snowden Latest Interview’, YouTube (30 september 2026); volledige opname via Nym; ETHics Forum; OpenAI (25 september 2026); Fortune (26 september 2026); Nextgov/FCW (25 september 2026); Los Angeles Times (21 september 2026); CNN (17 september 2026); Nordic Times (27 september 2026); Kamerstuk 36906; EUR-Lex. Beeld: Only The SAVVY via YouTube.
