Wat willen we wél met technologie, data en algoritmes?

“Technologie groeit niet uit de grond en komt ook niet van God”, beklemtoont internetpionier Marleen Stikker. “Het wordt door mensen gemaakt en daarom kunnen we het beïnvloeden.” Zij is directeur van onderzoeksinstelling Waag, in hartje Amsterdam. Hier wordt ‘public research’ aangestuurd naar de toekomst van maatschappelijke domeinen en de rol van technologie daarin. Dat ‘publieke onderzoek’ vindt plaats in groepen van burgers, kunstenaars, wetenschappers en experts. Bovendien trekt Waag het land in en organiseert gedocumenteerde wandelexpedities over fundamentele vraagstukken als: ‘Van wie is het land?’ en ‘Hebben bomen en rivieren een stem?’ “Zie het als een vorm van ‘NS-wandelingen”, glimlacht Stikker via Teams.    

Door: Nettie Bakker

Een gesprek met Marleen Stikker over internet, technologie en de toekomst. Over wat we niet verder moeten willen en wat we wél kunnen doen. ”Je hoort mensen heel makkelijk zeggen: ‘Je bent je privacy kwijt, want het is tenslotte internet’. Toch heeft dat niet per se iets met internet te maken, maar met de verdienmodellen waar bedrijven voor kiezen. Je kunt dus ook een internet ontwerpen dat de privacy wél beschermt. In onze labs kijken we daarom vooral naar de intenties waarmee technologie wordt ontworpen. We zijn dus niet tégen technologie, maar kritisch op wat je wél en niet wilt bereiken met technologie, algoritmes en data.”

‘Niet alles willen beheersen’
Vertaald naar mobiliteit zou Stikkers boodschap aan de wereld van ‘smart mobility’ en ‘talking traffic’ de volgende zijn: “Het heersende idee is dat je het veiliger maakt als je alles in data en algoritmes vangt. Dit met de behoefte om de wereld te beheersen en het menselijk falen uit te sluiten. Door alle data in een dashboard bijeen te brengen, zouden we ook de toekomst kunnen voorspellen. Ik vind dat een zorgelijke misvatting. De werkelijkheid blijft onvoorspelbaar en hoort dat ook te zijn. Als je de onvoorspelbaarheid geforceerd uit probeert te bannen, zet je de ontwikkeling van mensen stil. Je stelt het systeem boven de mens. We kennen historische situaties waar dat faliekant mis is gegaan.”

“Daar komt nog bij dat systemen falen. Dat gebeurt voortdurend en overal: interoperabiliteitsproblemen, verouderde software, complexe interfaces, hardware-defecten. Het idee dat je een naadloos, vloeiend digitaal systeem kunt ontwikkelen dat nooit faalt, is een illusie. Toch bepaalt dit nog het denken, het beleid en de investeringen.”

‘Digitale systemen zijn publieke infrastructuur’
“Ik pleit voor het herwaarderen van sociale en emotionele intelligentie“, vervolgt Stikker. “Er is een overmatig geloof in artificiële intelligentie. Voor sommige toepassingen is dat  bruikbaar, maar de mogelijkheden zijn beperkt. Je moet mensen niet laten definiëren door systemen. Als we onze eigen intelligentie niet meer aanspreken, verlies je het oplossend vermogen van de mens zelf. Je wilt niet dat een AI-systeem bepaalt wat wel en niet wenselijk gedrag is. Systemen zijn altijd in handen van mensen die er specifieke doelstellingen mee hebben. Van wie zijn die systemen, wie is de eigenaar? Wie bepaalt wie er toegang toe heeft? Waar zit de controle?”

Hoe kan het dan wel? “We moeten digitale mobiliteitssystemen weer als publieke infrastructuur zien. Dat betekent dat alles wat we digitaliseren transparant moet zijn. Bij Waag is ons uitgangspunt dat systemen open, eerlijk en inclusief dienen te zijn. Dit jaar kwam CSR, de Cyber Security Raad nog met een serieuze waarschuwing die aangeeft dat er meer op het spel staat dan onze privacy. Als we onze digitale systemen niet onder publieke controle stellen, raken we niet alleen onze soevereiniteit als individu of als ondernemer kwijt, maar ook de strategische autonomie als land.”

Hoe pakken we dat dan wél goed aan? “Stel eerst fundamentele vragen. Waar ontwerp je voor? En hoe ziet de governance eruit? Wie gaat er over de data en hoe is de controle erop georganiseerd? Bewaak dat het ontwerpproces inclusief is en dat er verschillende perspectieven aan tafel zitten. Zorg dat de data die gegeneerd worden een goed beschermde en publieke bron zijn. Een vakbond die geen toegang heeft tot bedrijfsdata, staat op achterstand. Dat geldt ook voor de burger die geen toegang heeft tot overheidsdata. Of voor winkeliers die geen toegang hebben tot de informatie van digitale bestelplatforms. Denk ook aan de software van voertuigen. Kan ik nog naar een garage naar keuze?”

Stikker herinnert zich een schrijnend voorbeeld uit haar boek ‘Het internet is stuk, maar we kunnen het repareren’, dat ze in 2019 publiceerde. “Boeren kunnen hun eigen nieuwe tractoren al niet meer repareren. We moeten gaan denken in termen van datatrusts, gebaseerd op gedefinieerde grondrechten. Pas als je dat op orde hebt, kom je tot goede arrangementen en ontwerpen.”

‘De cowboywereld lijkt voorbij’
Stikker is kortom bezorgd: onze kritieke infrastructuur is veelal in private handen, systemen falen en er is ruimte voor criminaliteit. “Software is al verouderd als het live gaat en heeft impact op oudere systemen. Groot voordeel van open source is dat het de kans vergroot om gaten te dichten en fouten te herstellen. Lange tijd was de indruk dat open source software kwetsbaar was, maar het tegendeel is intussen bewezen.”

Voor Stikker is het dus geen optie meer om door te gaan op de ingeslagen weg. Zij ziet “gelukkig” dat het besef begint te komen dat er op de oude voet veel mis kan en zal gaan. “De cowboywereld lijkt voorbij.” En, overtuigd: “Als de basisregels op orde zijn, zullen er nieuwe verdienmodellen ontstaan, nieuwe aanbestedingsregels en nieuwe platformen. Het is ook geen rocket science, wel een keuze die we moeten maken.”

‘Het belang van publieke waarden’
Stikker verkende dit jaar ook de toekomst van de ‘Digitale Zaak’ met een speciaal samengesteld expertteam voor een gelijknamig hoofdstuk in het boek ‘Meer Wél, over nieuwe structuren voor de 21e eeuw’ (zie kader). “We kwamen tot tien ideeën, waaronder het benoemen van een ministerie voor Digitale Zaken. Als ik de partijprogramma’s lees, dan lijkt die minister er niet nog te komen en dat vind ik droevig, zelfs problematisch. Er is wel een commissie Digitale zaken en in ieder geval een eerste aanzet.”

Hoe kijkt Stikker terug op deze brede toekomstverkenning in allerlei domeinen? “Wat mij opvalt is dat alle auteurs van ‘Meer Wél’ het belang van publieke waarden onderschrijven. Of het nu gaat om de zorg, het onderwijs, wonen of het digitale domein. Er is een breed gedragen beeld dat marktwerking niet tot een rechtvaardige samenleving leidt.”            

‘Steeds weer nieuwe coalities’
Tot slot een terugblik in het internetverleden. In de jaren negentig van de vorige eeuw stond Stikker aan de wieg van de ‘Digitale stad’, een concept dat toen al gebaseerd was op publieke waarden. Waarom sneuvelde dat concept? Stikker: “Afgezien dat iedere community een natuurlijk einde kent, opereerden we vooral in een tijd waarin privatisering hoogtij vierde. We werden min of meer gedwongen om mee te doen aan de ‘gold rush’, terwijl dat niet onze intentie was. We moesten op zoek naar een verdienmodel en commerciële diensten leveren aan derden. Er was toen nog geen draagvlak voor publiek gerichte diensten.”

Met deze ervaring in het achterhoofd, erkent Stikker dat ze wel eens het gevoel van een herstart heeft. Toch lijkt dat geen afbreuk te doen aan haar gedrevenheid en hoop, integendeel. “Ik zie steeds meer nieuwe coalities ontstaan. Bijvoorbeeld ‘PublicSpaces. Internet for the common good’, dat flink aan de weg timmert. Of de Europese ‘People versus Big Tech’-beweging die ruim 70 miljoen Europeanen vertegenwoordigt.”    

En zegt ze, wijzend op publieke waarden in de mobiliteit: “Op diverse plekken wordt gewerkt aan mobiliteitsdata commons, onder andere voor deelmobiliteit, zoals bakfietsen. Ik hoop dat we komend jaar de eerste resultaten ervan kunnen zien.”

Meer informatie over: 

Marleen Stikker
Marleen Stikker is naast directeur Waag, ook professor of practice aan de Hogeschool van Amsterdam, lid van Adviesraad voor wetenschap, technologie en innovatie (AWTI), en lid van het Overlegorgaan Fysieke Leefomgeving (OFL). 
Bekijk haar persoonlijke webpagina en bestel haar boek ‘Het internet is stuk, maar we kunnen het repareren’ via https://waag.org/nl/users/marleen-stikker

Boek: Meer wél
Marleen Stikker schreef met een expertteam een hoofdstuk over de ‘Digitale Zaak’ in het boek ‘Meer wél, over nieuwe structuren in de 21 e eeuw’, een uitgave van de Publieke Zaak. Een van hun tien adviezen is: ‘Benoem een minister van Digitale Zaken’. Ook zou ieder ministerie een ‘Digitale Agenda’ moeten opzetten en een verantwoordelijk topambtenaar aanstellen. Het boek is te bestellen of als pdf te downloaden op: https://publiekezaak.nl/meer-wel/

Over Waag
Waag opereert als onderzoeksinstelling op het kruispunt van kunst, wetenschap en technologie. Het verkent via ‘public research’ de sociale en culturele impact van nieuwe technologieën vanuit de waarden open, eerlijk en inclusief.
Alle informatie: https://waag.org/

Expeditie naar planet B
Stel je voor dat we een planeet helemaal opnieuw zouden inrichten, hoe zouden we dat dan doen? Waag zet jaarlijks goed gedocumenteerde wandelexpedities uit. Tijdens de wandeling wordt je alleen of samen uitgenodigd om na te denken over de toekomst.
Denk al wandelend mee: https://waag.org/future

Public stack, het alternatieve internet
Waag stelt dat er iets grondig mis is met veel technologieën die we tegenwoordig gebruiken, maar er zijn inmiddels veel alternatieven beschikbaar. Waag verzamelt deze open, eerlijke en veilige alternatieven onder de noemer ’public stack’: https://waag.org/nl/project/public-stack-het-alternatieve-internet

Digitale autonomie
Onze digitale autonomie staat onder druk, stelde de Cyber Security Raad (CSR) in mei van dit jaar op basis van de studie ‘Nederlandse Strategische Autonomie en Cybersecurity’ dat in opdracht van de raad is uitgevoerd. Zie: https://www.cybersecurityraad.nl/documenten/rapporten/2021/02/18/onderzoeksrapport-digitale-autonomie
[Einde kader]