Help, de computer labelt me als terrorist! - Iris Steenhout Auteur: Iris Steenhout

do 16/06/2016 - 09:06 Iris Steenhout "We kunnen dankzij internet weten wie een aanslag wil plegen". Deze opinie van hoogleraar Bart Baesens lokt reactie uit. Want ook de allerkrachtigste computers kunnen het denken van mensen niet exact voorspellen.

Iris Steenhout is computerwetenschapper, criminologe en doctoraal onderzoeker verbonden aan de Vrije Universiteit Brussel.

Stel: Een haat-liefde verhouding heb ik met mijn gsm. Invasief en irritant omdat die op de meest ongepaste momenten neigt af te gaan. Het onding staat dan ook regelmatig uit. Nagenoeg onmisbaar en functioneel in onze communicatiemaatschappij, waardoor hij toch nooit veraf is. Niettemin verander ik wel eens van nummer wanneer dat nummer te bekend raakt. Als nachtraaf ben ik ook vaak onderweg tussen 22 en 4u en staat die doorgaans wel aan. Het jengelende geluid weerklinkt dan veel minder.

Volgens Baesens voldoe ik dus aan aardig wat indicatoren om me als terrorist te labelen, want mijn gsm-gebruik lijkt op dat van een terrorist. Door het massaal bundelen en analyseren van data uit allerlei bronnen kan een computer uitzoeken wie potentieel een aanslag wil plegen, schrijft Baessens in een opinietekst.

Dat beangstigt mij, zelfs als computerwetenschapper kan ik niet blind zijn voor de gevaren. Nét wanneer dit oordeel aan computers overgelaten wordt. Er wordt bijzonder veel vertrouwen toegedicht aan deze machines. De vooruitgang binnen big data analytics is dan ook enorm, doch niet vlekkeloos.

Het voorspellen van gebeurtenissen, zoals een terroristische aanval, mag zonder meer de ‘heilige graal’ binnen het vakgebied genoemd worden.

Verdacht tot tegendeel bewezen

En wat kan dan het probleem zijn om misdaad te gaan voorspellen? Elimineren we zo niet veel leed? Het antwoord op die vragen vraagt een complexere benadering dan degene die vaak naar voor geschoven worden.

De aanpak neigt immers ook veel leed te veroorzaken. Het ‘beknotten’ van telefoontaps, surveilleren van burgers, etc. is niet zonder reden bij wet geregeld. Diezelfde wet hoort immers de burgers te beschermen tegen o.a. targeting. Dit gaat veel verder dan de potentiële introductie van racistische motieven en vooroordelen.

Het gaat erom dat uw en mijn data niet zomaar door allerlei instanties vrij ingekeken kan worden. Het gaat erom dat er altijd wel iets te vinden is dat verdacht is. Het gaat erom dat iedereen een potentiële verdachte is en daar zware consequenties kan van ondervinden.

Je neigt te verzanden in een systeem waar je schuldig lijkt met hoge waarschijnlijkheid, terwijl we in onze rechtsmaatschappij net onschuldig horen te zijn tot het tegendeel bewezen is. Mensen het label ‘verdacht’ opplakken leidt steevast tot een vorm van tunnelvisie.

Het gaat erom dat er altijd wel iets te vinden is dat verdacht is.

Uiteraard dienen relevante data door opsporingsdiensten gedeeld te worden tussen verschillende politiediensten of tussen landen. Er moeten echter controlemechanismen zijn die nauwgezet nagaan over welke data het gaat, maar ook hoe die gekoppeld en vervolgens geanalyseerd worden.

Je wil je als maatschappij dat de rechten van je eigen burgers ook binnen andere rechtssystemen gewaarborgd zijn. Zelfs niet gekoppelde data die in België vrij onschuldig lijken, kunnen buiten de landsgrenzen als crimineel gelabeld worden. Een homo wil in Saoedi-Arabië misschien toch liever niet als dusdanig gekend zijn door de lokale autoriteiten.

Een homo wil in Saoedi-Arabië misschien toch liever niet als dusdanig gekend zijn door de lokale autoriteiten.

‘Misdaad’ wordt geconstrueerd door de lokale context, zoals culturele gebruiken, geschiedenis en geloof. Dat het ook snel kan veranderen toont de geschiedenis ons. Niet zo lang geleden kwam in Frankrijk 25 procent van de Joodse burgers om en in Nederland 73 procent.

Eén van de processen die de Jodenvervolging in Nederland vereenvoudigde (maar uiteraard niet veroorzaakte) was dat men er reeds in de jaren 30 begon met een doorgedreven bevolkingsadministratie. Ponskaarten van elke individuele burger werden gemaakt en de Joodse achtergrond werd toegevoegd.

Duitsland kon de Joden er via sorteermachines vervolgens zo uitpikken. Frankrijk kende een minder doorgedreven administratie.

Dit is slechts een voorbeeld van hoe schijnbaar onschuldige dataregistratie in een snel wijzigende context tot verregaande consequenties kan leiden. 

Duitsland kon de Joden er via sorteermachines vervolgens zo uitpikken.

Dit gebeurde in een mechanische, en niet in een digitale context. Beeld je nu in tot welke rijkdom aan gegevens je kan raken als je data van het internet gaat koppelen met belastinggegevens, uitgavenpatronen, telefoonrecords, videobeelden,…

Analytics - bundelen en analyseren van data uit allerlei bronnen - heeft niet als doel om de denkpatronen van mensen te volgen. Het draait om het lanceren van enkele statistische berekeningen op enorme massa’s gegevens, die vaak compleet los van elkaar staan, om vervolgens waarschijnlijkheden te extrapoleren.

Causale verbanden zijn niet aan de orde, verder dan het zoeken van samenhang gaan deze methoden niet. Daar moeten andere onderzoeksmethoden voor de nodige verdieping zorgen.

Analytics is louter explorerend en kan slechts een deel van een onderzoek zijn. Anders bestrijd je symptomen, zonder naar de oorzaak te kijken.

Exact voorspellen kan niet

Dus ja, ik durf het gebruik van analytics in terreurbestrijding in vraag te stellen. Het vraagt een doorgedreven expertise die veel verder moet reiken dan veeleer technische en praktische beslommeringen.

De vraag is niet alleen of je mensenlevens redt, maar ook wat de reikwijdte van de collateral damage is door het ondoordacht toepassen van deze technologie. Wat is uw en mijn vrijheid waard? Want laat het duidelijk zijn: de titel van het stuk slaat de bal mis. We kunnen niet weten wie een aanslag wil plegen. We kunnen via analytics alleen voorspellen wie een potentieel profiel heeft. En de allerkrachtigste software kan de bal compleet misslaan.

Waakzaam

Voor we dit soort tools dus verregaand gaan gebruiken en pleiten voor minder strikte regelgeving, moeten we veel meer sensibiliseren rond de beperkingen van deze voorspellingen en voorzien in een aangepaste regelgeving die onschuldige burgers beschermt.

Ook ik zie het nut van analytics, maar pleit voor een gezond wantrouwen en doordacht toepassen. Big data analytics kent een sterke opmars en heeft potentieel. Laat het scifi-gehalte je echter niet verblinden voor de beperkingen. De methodes zijn relatief recent en zeker niet onfeilbaar. Waakzaamheid is op dit punt meer dan ooit vereist.