Door Joe Jay de Haas | Algemeen | 20 mei 2026 | 7 min. leestijd
Dystopia Is Here: In de VS zijn al mogelijk duizenden mensen strafrechtelijk veroordeeld door een AI. Het systeem Cybercheck, van het Canadese bedrijf Global Intelligence Inc., wordt op grote schaal door Amerikaanse politie en aanklagers toegepast om zaken ‘op te lossen’, waaronder met name in cold cases waar weinig ander bewijs is. De AI-tool zou bewegingen van verdachten – zowel online als offline – vrijwel feilloos in kaart kunnen brengen. Met merkbare gevolgen: tenminste één man heeft een levenslange gevangenisstraf gekregen op basis van – uitsluitend – het ‘bewijs’ van de AI. De grote vragen zijn echter: werkt Cybercheck wel echt? En – is het niet wenselijker als het niet zou werken?
Kafka as a Service
Allereerst even een luistertip: de podcast Uncover, van de Canadese publieke omroep CBC, brengt uitstekende onderzoeksjournalistiek over zeer diverse onderwerpen. Vrij uniek is dat die onderwerpen telkens per seizoen, in zes afleveringen, worden aangevlogen en er dus behoorlijk wat diepgang is. Via het nieuwste seizoen van Uncover kwam ik op het spoor van Cybercheck.
Het verhaal richt zich ten eerste op de gevallen industriestad Akron, in de rust belt van Ohio. Daar werd in 2022 een jongeman, Adarus Black, veroordeeld voor het ombrengen van een meisje in een drive-by schietpartij. Geen enkel fysiek bewijs kon aantonen dat Black op de plaats delict was geweest. Ook was er geen enkele getuige die hem daar had gezien, noch kon hij op beelden van beveiligingscamera’s uit de buurt worden geïdentificeerd. Toch had de jury maar vier uur nodig om Black levenslang de cel in te sturen. Waarom? Omdat de ‘geavanceerde AI’ van Cybercheck op basis van openbaar toegankelijke bronnen zou hebben vastgesteld dat Black met ‘90% zekerheid’ op de plaats delict was geweest. Specifiek zou Cybercheck volgens CEO Adam Mosher (die onder ede in de zaak werd verhoord) in staat zijn geweest om de telefoon van Black via lokale wifi connecties daar te plaatsen. Overigens zonder zijn telefoon ook maar in bezit te hebben.
Geest in de fles
Navraag van de advocaten van Black onder de jury wees uit dat zij zich voor het oordeel volledig op het rapport van Cybercheck hadden gebaseerd, zo bleek uit een zogenaamde post-trial motion. Dat rapport moet dus wel bijzonder overtuigend zijn geweest. Maar hoe dan?
Uit de website, en uit de verklaringen van Mosher onder ede, wordt een en ander duidelijk over hoe Cybercheck claimt dat die rapporten tot stand komen. De software vraagt om een geografische locatie of een naam, geboortedatum en telefoonnummer om te beginnen met zoeken. Politie kan het programma verder ook gebruiken voor locatiekartering via wifi-camera’s, routers of telefoons. Al deze informatie wordt samengevoegd tot een cyberprofiel, dat Cybercheck “CyberDNA” noemt. Het zou rechercheurs in staat stellen een uitgebreide online identiteit van een persoon samen te stellen door relaties en associaties, sociale-mediacommentaren, video’s, afbeeldingen, websitelinks, bitcoinadressen, werkgegevens en IP-adressen te vinden. Aan de hand van die gegevens kan vrijwel een volledig beeld worden gecreëerd van de bewegingen van een bepaald persoon.
Mooie beweringen, maar het grote probleem was dat de rapporten van Cybercheck geen enkel bewijs toonden van hoe het tot de betreffende bevindingen was gekomen. Het is een volledige ‘black box’, waarbij de gebruiker maar voor lief moet nemen dat de data en het algoritme bona fide zijn. Dat mag als je je LLM vraagt om een recept voor ossenstaartsoep, maar niet als je iemand levenslang de gevangenis instuurt op basis van uitsluitend de informatie die uit het algoritme rolt.
Al is de leugen nog zo snel…
Donald Malarcik, een advocaat uit Akron die een Cybercheck-rapport in een andere (moord)zaak tegenkwam, stelde daar de niet-onredelijke onderzoekswens tegenin dat hij de broncode van Cybercheck wilde inzien. De rechter wees die eis ook toe, maar de aanklager was niet bereid de inzage te verlenen en liet de zaak vallen. Malarcik rook onraad en trok vervolgens ten strijde tegen Cybercheck en Mosher. Hij beschuldigde laatstgenoemde zelfs publiekelijk van liegen onder ede.
Langzaamaan werd duidelijk dat Cybercheck totale kwakzalverij was. Een andere cliënt van Malarcik, Philip Mendoza, werd bijvoorbeeld verdacht van moord. Ook hier had Cybercheck hem aan de plaats delict gelinkt. Malarcik kwam er echter achter dat de agente die het verzoek in het systeem had ingevoerd per ongeluk ‘20 augustus’ in plaats van ‘2 augustus’ als datum had opgegeven. Cybercheck had dus het ‘CyberDNA’ van Mendoza op totaal de verkeerde dag aan deze plaats delict gekoppeld. Een nieuw verzoek voor de juiste datum leidde tot een op alle aspecten identiek rapport, met alleen de datum aangepast:
“The warrants served to Sprint and Google hadn’t produced any evidence that Mendoza’s devices or accounts were at the scene. But according to Cybercheck’s entirely automated algorithms, Mendoza’s cyber profile had not only been at 1228 Fifth Avenue at the time of the shooting, it had also been at the exact same location, at the exact same time of day, for the same amount of time, pinging the same wireless networks, 18 days later.” (Wired)
De politiediensten en aanklagers die Cybercheck gebruikten, lijken het systeem ondertussen stuk voor stuk te laten vallen. Mosher heeft het bedrijf inmiddels verlaten. Naast Black werd echter ook een andere man uit Akron, Salah Mahdi, mede op basis van Cybercheck tot een levenslange gevangenisstraf voor een moord in een kapperszaak veroordeeld. Verder werd een man uit Colorado publiekelijk aan de schandpaal genageld voor het bezit van kinderporno, omdat uit het Cybercheck-rapport volgde dat hij dergelijk materiaal in bezit had gehad – ook al was er op zijn gegevensdragers niets gevonden. Hij verloor vervolgens zijn baan en zijn huwelijk.
Wat als het wél zou werken?
Een AI die niet werkt heeft dus meerdere levens voorgoed veranderd. Twee mannen kregen een levenslange gevangenisstraf, een ander werd ten onrechte als pedoseksueel ‘ontmaskerd’. Volgens een aanklager in New York zou Cybercheck in meer dan 8.000 zaken gebruikt zijn, dus mogelijk is de schade nog (veel) groter.
Dat is verschrikkelijk, maar erger zou eigenlijk nog zijn als Cybercheck wél zou werken zoals Mosher beloofde. Dat zou immers betekenen dat de opsporingsdiensten alle bewegingen van iedereen met een smartphone zouden kunnen volgen. Hopelijk hoef ik niet uit te leggen wat daar mis mee is. Wie nog steeds claimt dat “if you have nothing to hide, you have nothing to fear” – hier een leestip (1984, of een enkeltje Noord-Korea, mogen natuurlijk ook).
Wat leren we hiervan?
Gelukkig hebben we in Europa onder andere de AI Act, de AVG (c.q. Richtlijn Politiegegevens) en art. 6 en 8 EVRM om dit soort zaken de kop in te drukken. Een ‘black box’ algoritme als Cybercheck (als het dus al een algoritme is) zou als hoog risico-AI gekwalificeerd worden en niet makkelijk aan de transparantieverplichtingen van de AI Act voldoen. Dergelijke vormen van gegevensverwerking zouden onder de AVG/Richtlijn Politiegegevens al snel buitensporig en niet doelmatig worden geacht. En zowel het recht op een eerlijk proces (art. 6 EVRM) als het recht op eerbiediging van de persoonlijke levenssfeer (art. 8) komen eveneens al snel in de knel bij toepassing van een systeem als Cybercheck. Over algoritmes en privacy: zie hier.
Je vraagt je daarom misschien ook af wat het probleem precies is. De inzet van Cybercheck neemt al af, het systeem deed sowieso niet wat het beloofde, en in Europa zou het vrijwel onmogelijk zijn voor het opsporingsapparaat om soortgelijke systemen in te voeren. Ik zie dit echter niet als een probleem van een ‘foute’ AI, maar als een probleem van goedgelovigheid onder de mensen die AI gebruiken. AI heeft in rap tempo grote delen van onze levens en onze manieren van denken overgenomen. We varen er vaak blind op dat de AI doet wat hij belooft, én werkt zoals hij belooft. En zo kan je er dus als weldenkende Amerikaanse aanklager of jurylid ineens vanuit gaan dat een verdachte op plaatsen is geweest waar hij helemaal niet is geweest, en hem dus levenslang de cel insturen. Het praatje van de AI-verkoper Mosher klonk toch zo overtuigend.
De tweedehands-auto regel
Mijn vuistregel is dan ook: benader al je AI-tools alsof het tweedehands auto’s zijn. Loop er volledig omheen. Luister voor onverwachte geluiden, en neem ze serieus. Vraag eindeloos door aan de verkoper. En: kijk altijd onder de motorkap.
