'Wij leggen elk algoritme langs een mensenrechten-meetlat.'

Je hebt niets aan een slimme stad als de inwoners het zaakje niet vertrouwen. Gemeente Den Haag's Chief Data Officer Tanaquil Arduin en bestuurskundehoogleraar Bram Klievink van de Universiteit Leiden vertellen hoe je die situatie – enigszins – kunt voorkomen. ‘Maak een comfortabel gesprek mogelijk tussen ambtenaar en inwoner.’

Dit doet Den Haag met data

Tanaquil Arduin was in 2019 een van de eerste Chief Data Officers in de publieke sector. Welke problemen kun je volgens haar oplossen met data en slimme technologie?

Tanaquil Arduin
Foto door Quintin van der Blonk

‘Voornamelijk kun je er inzichten mee verkrijgen over maatschappelijke opgaven. Zo kun je bepalen waar je je schaarse capaciteit het beste kunt inzetten. Schaarse handhavers, wijkmanagers of baliemedewerkers bijvoorbeeld.'

'Ook kruispunten en wegvakken veiliger maken gebeurt doelgerichter op basis van data en technologie. Op basis van de drukte, het weer, eventuele evenementen of bouwactiviteiten en of er ook fietsers en in het bijzonder scholieren over de rijbaan moeten, kunnen we beter beoordelen of het risico op een ongeval groter of kleiner wordt.’

    Met data en technologie kun je bepalen waar je schaarse handhavers het beste kunt inzetten."

Stel dat bewoners bezorgd zijn over de verkeersveiligheid? ‘Wij kunnen niet alles tegelijk aanpakken. Zo’n systeem kan voor ons prioriteren welk kruispunt de meeste prioriteit heeft en waar we bij die kruising vooral op moeten letten. Wij kunnen ook uitleggen aan bewoners waarom dit kruispunt wel wordt aangepakt en dat kruispunt nog niet.’

Een ander algoritme voorspelt per woonwijk op basis van demografische gegevens, dus zonder persoonsgegevens, een toe- of afname in het gebruik van maatschappelijke ondersteuning voor de komende vijf jaar. ‘Wij weten dan of er in een wijk meer casemanagers, scootmobiels of huishoudelijke hulp nodig zijn en kunnen het voorzieningenniveau daarop aanpassen. Het werkt zo goed, dat de Vereniging van Nederlandse Gemeenten het gebruik van dit model, het Wmo voorspelmodel, wil gaan opschalen.’

den haag

En zo laat Den Haag dat zien

In totaal heeft Den Haag 26 algoritmen in gebruik die een rol spelen in de stad. Daarover wil de stad graag open zijn. Arduin: ‘We hebben de video- en podcastserie Dit doet Den Haag met data gemaakt.’ Volgens Youtube zijn de filmpjes enkele honderden tot duizend keer bekeken. ‘Daarnaast is er sinds dit jaar het Algoritmeregister van de Nederlandse overheid.’

Den Haag omschrijft daar al alle 26 algoritmen: wat het doet en waarom, of het zelflerend is of op regels gebaseerd en van welke data het gebruik maakt. Het is misschien niet in de eenvoudige taal die het voor zo veel mogelijk mensen begrijpelijk zou maken, maar het biedt wel een overzicht. Bram Klievink complimenteert Arduin: ‘Den Haag loopt voorop met het invullen van het register.’

Naar het algoritmeregister en de filmpjes kun je als burger actief op zoek gaan. Maar als je toevallig op een plek in de stad bent waar algoritmen gebruikt worden, heb je er niet zoveel aan. Voor die situaties ontwikkelt bijvoorbeeld Thijs Turèl van het Amsterdam Institute for Advanced Metropolitan Solutions een richtlijn voor stickers op sensoren. Die kunnen vermelden wat de technologie wel en niet registreert, wie de eigenaar is van de apparatuur en waar mensen hun beklag kunnen doen.

   De ontwikkeling van vertrouwen in de overheid is een grotere beweging die conjunctuurafhankelijk is.

Vertrouwen, daar moet een overheid (soms tevergeefs) hard voor werken

Bram Klievink
Foto door Patricia Nauta

In het algoritmeregister staat ook informatie over de Amsterdamse Top400 en Top600, gericht op het vroeg signaleren van jeugdcriminaliteit en het voorkomen daarvan. De aanpak kwam in opspraak toen bekend werd dat de gemeente ook preventief de broertjes en zusjes van de jeugdige delinquenten in de gaten was gaan houden. Dat ondermijnt het vertrouwen van inwoners in het gebruik van systemen door de overheid.

Net als bij de recente affaire rondom de kinderopvangtoeslag, waarbij de Belastingdienst een algoritme gebruikte dat mensen met een dubbele nationaliteit relatief vaak als potentiële fraudeur bestempelde.

Vertrouwen vormt de basis van een goede relatie tussen overheid en inwoners. Bram Klievink deed en kent er veel onderzoek naar. ‘Openheid over data- en technologiegebruik heeft hooguit een klein effect op het vertrouwen burgers. De ontwikkeling van vertrouwen in de overheid is een grotere beweging die conjunctuurafhankelijk is. Een gemeente kan daar niets aan doen, terwijl tegelijk het risico op wantrouwen groot is. Fouten die het vertrouwen beschamen, worden breed uitgemeten.’

Klievink analyseert het zo: ‘De meeste burgers hebben weinig met de overheid van doen. Wat ze doen – belastingaangifte, een paspoort aanvragen – gaat meestal goed. Er gaat ook veel fout, en dat betreft vaak kwetsbare mensen. Als de overheid die paar transacties van mij fijner laat verlopen of de Wmo beter verdeelt, merk ik daar niets van. En toch is het waardevol.’

Alle algoritmen gecheckt op mensenrechten

Klievink: ‘Vertrouwen is voor de overheid iets externs waarop je weinig invloed hebt. Intern moet je je wel steeds afvragen of je betrouwbaar bent. Een overheid heeft macht, die moet ze legitiem aanwenden. Dat betekent dat je steeds moet afwegen of de opbrengsten van datagebruik of tracking-gegevens voor bijvoorbeeld veiligheid of kostenbesparing proportioneel zijn ten opzichte van de kosten of de eventuele inbreuk op privacy. De waarden moeten in balans zijn.’

   Een overheid heeft macht, die moet ze legitiem aanwenden."

In Den Haag is die publieke waardenafweging en de afweging van grondrechten een belangrijk onderdeel van de datastrategie die Arduin in 2019 opstelde met brede betrokkenheid van ambtenaren en politiek, beaamt zij. Arduin: ‘Wij leggen elk algoritme langs een meetlat, waarvan Amnesty International me recent zei dat ze het een goed instrument vinden. Het gaat om het IAMA, het Impact Assessment voor Mensenrechten en Algoritmen dat is ontwikkeld door de Utrecht Data School.'

'Het IAMA stelt vragen die discussie oproepen. Is het bijvoorbeeld wel nodig om in die wijk dit of dat te monitoren? Wat betekent het voor de gelijkwaardigheid van inwoners, wordt er onnodig geprofileerd, of is het wel proportioneel? En is er sprake van informatiesymmetrie?’

   Wij leggen elk algoritme langs een mensenrechten-meetlat."

Informatiesymmetrie? ‘Dat is dat burgers en overheid dezelfde informatie hebben. Stel, je wilt de limiet op je creditcard verhogen, dan mag de creditcard-maatschappij heel veel informatie opvragen. Zij weten heel veel over jou, maar jij weet niet hoe zij precies bepalen of je limiet omhoog mag of niet. Geen informatiesymmetrie.’

Ethisch-juridische commissies zijn niet álles

Klievink ziet wel een valkuil bij het afwegen van legitimiteit van stedelijke innovaties. ‘Commissies die het moeten doen, hebben vaak een technische, juridische en ethische aanvliegroute. Maar iemand anders moet er straks mee werken. Neem de digitale spiegelstad, een 3D-model van de hele stad waarmee je virtueel door de stad kunt navigeren. Elke dakkapel is erin te zien. Als iemand van de afdeling Vergunningverlening een illegale uitbouw ziet, moet ze er dan op af gaan of niet? En zo ja, welk gesprek voert ze dan? Het perspectief van de ambtenaar die er in de praktijk mee moet werken, mist nog weleens bij de afweging voor ingebruikname.’

Digitale spiegelstad
De digitale spiegelstad, een 3D-model waarmee je virtueel door de stad kunt navigeren

Arduin beaamt: ‘Onze gemeente heeft 12.000 medewerkers, in zo’n ethische commissie zitten maar een paar mensen.’ Dat kan natuurlijk ook niet anders. Klievink: ‘Mijn advies zou zijn dat de commissie ook aandacht heeft voor de organisatorische kant, ook de HR-kant. De organisatie zet technologie-toepassingen in binnen de context van beleid en van organisatieregels. Vervolgens beïnvloeden ze werkprocessen, raken aan andere processen en systemen.'

'Uiteindelijk moeten ambtenaren die hun professionele kennis en routines meebrengen ermee werken. Dan kan de legitieme inzet van technologie in de slimme stad wellicht in theorie helder zijn, zonder echt richting te bieden in de praktijk. Zorg ervoor dat het gesprek dat ambtenaren met inwoners moeten voeren, comfortabel kan verlopen.’

Tanaquil Arduin is Chief Data Officer bij de Gemeente Den Haag en initieerde een landelijk netwerk voor CDO’s in de publieke sector waarbij in 2023 zo’n 60 collega’s zijn aangesloten. Zij is tevens Hoofd van het Expertisecentrum Data en AI van de gemeente Den Haag.

Bram Klievink is hoogleraar bestuurskunde aan de Universiteit Leiden, met speciale aandacht voor digitalisering en publiek beleid, en bestuurslid van Leiden-Delft-Erasmus Centre for BOLD Cities. Hij onderzoekt hoe digitale innovaties in big data en algoritmen het openbaar bestuur uitdagen en kunnen versterken.

Tekst: Rianne Lindhout


white paperWhite paper over Smart Cities

Dit artikel is een voorpublicatie uit de white paper 'Dit is de echt slimme stad, met levendig debat over democratie, data en technologie in de smart city'. Deze uitgave van het Leiden-Delft-Erasmus Centre for BOLD Cities bevat 9 gesprekken over de opkomst van de slimme stad. De white paper wordt op 22 juni 2023 gepresenteerd op Campus Den Haag tijdens een live talkshow. U kunt zich aanmelden voor deze feestelijke bijeenkomst via onderstaande link.

Bijlagen
White paper "Dit is de echte slimme stad' (4.83 MB)
Meer informatie vindt u op:
Leiden-Delft-Erasmus Centre for BOLD Cities

Volgend artikel