Aanleiding voor de Kamervragen door SP-er Renske Leijten was onderzoek door de Rekenkamer Rotterdam. De rekenkamer analyseerde de inzet van algoritmes door de gemeente om uitkeringsfraude op te sporen. Rotterdam kende via een algoritme jarenlang wijkgerichte risicoscores toe. Daarbij keek de gemeente naar geslacht, taal, psychische en financiële problemen.

De Rekenkamer Rotterdam waarschuwde dat het algoritme mogelijk oneerlijk functioneert. Ethische risico’s zijn aan de voorkant onvoldoende meegenomen. Onder andere de keus om de Nederlandse taalvaardigheid mee te nemen wees op vooringenomenheid, schreef de Rekenkamer.

SP-Kamerlid Leijten stelde ook Kamervragen over het algemene gebruik van algoritmes door lokale overheden. Minister Bruins Slot schrijft daarover dat het niet de taak van BZK is om positie te nemen in hoe en of algoritmes door overheden worden ingezet. ‘Het is belangrijk dat overheden zich aan de regels houden, ook als zij algoritmen inzetten bij het uitoefenen van hun taken’, aldus de minister.

Staatssecretaris digitalisering Van Huffelen werkt wel de verbetering van het toezicht op algoritmes. De Algemene Rekenkamer komt medio mei met een rapport over mogelijke lessen die getrokken kunnen worden met betrekking op dat toezicht.

Taak voor rechters en AP

Enkele regels die de minister noemt zijn algemeen geldende mensenrechten, de Algemene verordening gegevensbescherming (AVG),  de Algemene wet gelijke behandeling en de Algemene wet bestuursrecht. In de toekomst volgt ook belangrijke Europese wetgeving voor kunstmatige intelligentie (AI), afkomstig van de tijdelijke AI-commissie van de Raad van Europa (CAHAI).

Volgens Bruins Slot is het niet aan het ministerie om vast te stellen of de inzet van algoritmes door decentrale overheden voldoet aan die wetgeving. Hij ziet dat als een taak van de rechter en instanties als de Autoriteit Persoonsgegevens.

Zo werd de gemeente Enschede voor 600.000 euro beboet door de AP, vanwege onjuist gebruik van wifi-tracking. Daarmee kon de gemeente winkelend publiek en bewoners ‘volgen’.

Functionaris Gegevensbescherming

Intern toezicht binnen gemeenten is volgens BZK de verantwoordelijkheid van de Functionaris Gegevensbescherming (FG). Veel gemeenten hebben echter beperkte middelen om die taak voldoende uit te voeren.

Recent werd ook duidelijk dat slechts een klein deel van gemeentelijke politieke partijen aandacht besteden aan hun digitale agenda. Onderzoekers van vier hogescholen concludeerden dat de kennis van zaken rondom onderwerpen als algoritmes slechts bij een handjevol gemeenten serieus wordt opgepakt.