Uitsluiting, toezicht en digitale onderdrukking in de smart city

2

In een opgemerkt essay waarschuwt onderzoeker Jathan Sadowski (University of Sydney) voor de negatieve maatschappelijke en politieke gevolgen van recente technologische ontwikkelingen. Of hoe de smart city tot uitsluiting, permanent toezicht en onderdrukking kan leiden.

‘Uw kredietscore is ontoereikend om dit gebied te kunnen betreden.’ In één van de toekomstscenario’s die Sadowski schetst wordt de stad compleet automatisch beheerd. Algoritmes bepalen wie er op welke tijdstippen al dan niet toegang krijgt tot bepaalde zones, en dat op basis van kredietscores, die uitdrukken hoe vermogend iemand is.

Het is – voorlopig – een dystopie, maar Sadowski argumenteert dat het lang niet zo’n vergezochte toekomstvisie is. Vandaag al zijn alle ingrediënten aanwezig om de fictie tot realiteit te maken. Het is geen toeval dat de Liga voor Mensenrechten zowel de smart city, slimme camera’s als de massale screening van burgers nomineerde voor de jaarlijkse Big Brother Awards.

Nooit meer onzichtbaar

Onze steden zijn nu al doordrongen van systemen die op grote schaal data verzamelen over inwoners en bezoekers. (Foto: Jonathan McIntosh)

Onze steden zijn nu al doordrongen van systemen die op grote schaal data verzamelen over inwoners en bezoekers. (Foto: Jonathan McIntosh)

Ten eerste zijn onze steden nu al doordrongen van systemen die op grote schaal data verzamelen over inwoners en bezoekers. Van slimme verkeerscamera’s tot de automatische poortjes in metrostations. De hedendaagse stedelijke planning is erop gericht om mensen en plaatsen volledig te controleren, meten en beheren.

Antwerps stadsdichter Maarten Inghels toonde onlangs nog met The Invisible Route aan hoe moeilijk het is om door Antwerpen te wandelen zonder door één of andere private of publieke camera te worden gefilmd.

Ten tweede is er bij zowat alle bedrijven, klein of groot, een enorme honger naar data aanwezig én hebben ze ook de middelen om die honger te stillen. Deze lust voor data beperkt zich niet tot de data die ze nodig hebben, of direct kunnen gebruiken, maar omvat alle mogelijke data, van alle mogelijke bronnen, die in de toekomst eventueel nuttig zouden kunnen zijn.

Ten derde worden wij, gebruikers, op basis van al deze persoonlijke gegevens die we willens nillens afstaan, onbewust geprofileerd en gecatalogeerd. Algoritmes worden losgelaten op enorme, indien nodig gekoppelde databases bestaande uit miljarden gegevenspunten over individuen en groepen.

Zonder dat we het beseffen worden er scores op ons hoofd geplakt door verzekeringsmaatschappijen, sociale mediabedrijven of financiële instellingen. We worden ten langen leste gereduceerd tot zo’n nummer dat bijvoorbeeld bepaalt of we toegang krijgen tot een lening.

Toegang geweigerd

In de smart city komen in de toekomst in het ideaalbeeld van verschillende ondernemers en politici al deze technieken samen. Het profiel dat van ons geschetst wordt op basis van de gegevens die over ons verzameld zijn, leidt in deze stad van de toekomst tot een automatische beoordeling van het individu dat zich in de stad beweegt.

Dat oordeel zou vervolgens onder meer gebruikt kunnen worden om ons al dan niet toegang te verlenen tot een bepaald deel van de stad, of als alarmsignaal voor de politiedrone die boven ons hoofd zoeft. De kredietscore als toegangsbewijs voor het financiële district, bijvoorbeeld. Ook de weg naar ‘voorspellend politiebeleid’ ligt volgens Sadowski wagenwijd open.

Dergelijke systemen hebben als bedenkelijk voordeel dat de ‘juiste’ personen automatisch toegang krijgen, en dus niet langer lastiggevallen moeten worden met allerhande routinecontroles. De anderen krijgen de boodschap dat ze maar beter hun best moeten doen.

Sadowski pleit voor een informational right to the city, het recht om als inwoner het stedelijke proces mee vorm te geven. Dit recht moet volgens hem verder gaan dan loutere transparantie en pleidooien voor controle op de accuraatheid van de verzamelde gegevens. Het is meer dan dat. “Het is een banner waarop staat: ‘We zullen de politieke en technologische elites niet toelaten om gegevens van mensen en plaatsen te extraheren, alleen zodat ze die gegevens kunnen gebruiken om ons en onze steden te beheersen’.”

Het essay van Sadowski maakt deel uit van een boek over digitale rechten in de stad van de toekomst. Het volledige boek is gratis beschikbaar.

Big Brother Awards 2017

Op 13 oktober reikt de Liga voor mensenrechten voor de zevende keer de Big Brother Awards uit tijdens een show in de Koninklijke Vlaamse Schouwburg in Brussel. Dan reikt de mensenrechtenorganisatie een jury-publieksprijs uit aan de grootste privacyschender van het jaar. Voorafgaand aan de show wordt ook gedebatteerd over privacy en de genomineerden, en vinden er lezingen en workshops plaats.

En de genomineerden zijn…

  • ANPR-camera’s: In België wordt je op 47.000 plaatsen gefilmd. Sommige camera’s kunnen ook je gezicht herkennen en patronen detecteren. Niet enkel je nummerplaat wordt gefotografeerd, maar ook je wagen en de inzittenden. Zo kan de overheid onder het mom van terrorismebestrijding burgers individueel volgen.
  • Bijzondere onderzoeksmethoden: de gewijzigde BOM-wet, de wet op de bijzondere opsporingsmethoden, laat de politie toe om nieuwe onderzoeks- en gegevensverzamelingsmethoden te gebruiken. Bovendien verschuift de wet de bevoegdheden van de onafhankelijke onderzoeksrechter naar het Openbaar Ministerie.
  • Europese trend van ‘state hacking’: de politie (onder andere) mag inbreken in je telefoon en computer aan de hand van malware en je berichten, video’s en andere gegevens onderzoeken. Door een wetswijziging kan nu ook de Belgische overheid gebruikmaken van deze technologie om haar burgers te bespioneren.
  • Screenen van festivalgangers: De bezoekers van Tomorrowland werden gescreend aan de hand van politionele databanken. Een aantal festivalgangers werden vervolgens de toegang geweigerd. Er bestaat geen wettelijk kader voor dergelijke screening en de criteria voor weigering zijn onduidelijk.
  • Smart cities: Lokale besturen verzamelen heel wat data over zijn inwoners en bezoekers zonder hun toestemming en duidelijk aan te geven waarvoor die informatie wordt gebruikt. De Europese Commissie steunt de projecten.

Stemmen kan nog tot en met 12 oktober via de website van de Big Brother Awards.

Opgemerkt

Apache Nieuws