In antwoorden op recent gestelde Kamervragen legde minister Hanke Bruins Slot de verantwoordelijkheid voor algoritmen bij decentrale overheden. Zij horen zich bij het opzetten en beheren van algoritmen te houden aan bestaande wet- en regelgeving. Gemeenten zetten algoritmen steeds vaker in voor de opsporing van fraude, (risico)profilering, druktemanagement en stadsbeheer.

‘De overheid is gebonden aan mensenrechten en wetgeving zoals de AVG, de Algemene wet gelijke behandeling en Algemene wet bestuursrecht,’ aldus Bruins Slot in de beantwoording van Kamervragen, ‘De inzet van algoritmen, maar ook van andere technologieën, moet in lijn zijn met geldende wetten en regels.’

In een recente speech tijdens de conferentie ‘AI and the future of Europe’ haalde ook Staatssecretaris Alexandra van Huffelen aan dat overheden het goede voorbeeld moeten geven. Sterke wetgeving en handhaving rondom alle technologie moet burgers volgens de staatssecretaris het vertrouwen geven in de democratie, toegepast op elk overheidsniveau.

De realiteit is echter dat decentrale overheden, zoals de 344 Nederlandse gemeenten, worstelen met de juiste omgang en invulling van algoritmen. Vorig jaar nog werd de gemeente Rotterdam door haar Rekenkamer teruggefloten wegens ‘vooringenomen uitkomsten’ bij het opsporen van uitkeringsfraude. In hetzelfde jaar stopte ook de gemeente Nissewaard met het gebruiken van een algoritme na onderzoek van TNO en legde de Autoriteit Persoonsgegevens de gemeente Enschede een boete op voor opslaan van locatiegegevens van bezoekersvoor het in kaart brengen van bezoekersstromen.

De drie voorbeelden laten zien dat de grootte van een gemeente geen verzekering is voor ethisch verantwoord gebruik van algoritmen. De keuze voor algoritmen vragen om aandacht voor de ethiek achter technologie en daar schuurt het bij gemeenten vaak nog.

Gemeenten zijn lerende

Marlies van Eck, onderzoeker bij Hooghiemstra & Partners en Radboud Universiteit, ziet dat de minister en het Rijk niet staan te springen om zich te mengen in hoe algoritmen moeten worden aangepakt. ‘Ze zitten in een spagaat met algoritmen. Aan de ene kant willen ze gemeenten houden aan wet- en regelgeving, aan de andere kant voelen ze zich wel verantwoordelijk om hen daarbij te helpen.

Van Eck schreef in opdracht voor het College voor de Rechten van de Mens mee aan het rapport ‘Hoe gemeenten besluiten over algoritmen en mensenrechten’.De conclusie: gemeenten zijn nog volop lerende en daardoor niet voorbereid op wat algoritmen doen en welke effecten zij teweegbrengen. Gemeenten ontwerpen veel digitale systemen bijvoorbeeld niet zelf en laten de interpretatie van nationale regels daarmee over aan derde partijen.

‘In interviews met ambtenaren voor ons onderzoek hoorden we gemeenten letterlijk zeggen: ‘Ddat weten we niet, dat weet de leverancier’. Gemeenten realiseren zich niet hoeveel invloed ontwikkelaars hebben bij het opzetten van een systeem voor algoritmen,’ zegt Van Eck.

Daarnaast is niet altijd helder welk overheidsorgaan verantwoordelijk is voor de inzet van technologie en het afleggen van verantwoording. Ook blijken gemeenten geen speciale voorzieningen te treffen voor rechtsbescherming. Ze, zij vertrouwen op standaard procedures waarlangs burgers hun recht kunnen halen. Als gevolgDe onderzoekers zeggen dat daardoor het risico bestaat,  bestaat volgens de onderzoekers het risico dat er binnen gemeentelijke organisaties verschillende beelden ideeen zijn over de ontstaan over waartoe impact van technologie wel of niet in staat is.

‘AVG al snel niet van toepassing’

Ook Nadia Benaisse van Bits of Freedom is huiverig over het neerleggen van verantwoordelijkheid voor algoritmen bij gemeenten. ‘Er is nog onvoldoende juridische bescherming meegenomen rond algoritmen. Er bestaat nog geen wetgeving die dit specifiek behandelt,’ aldus Benaisse. Zowel in landelijke en Europese privacywetten zijn enkel alleen toepasbaar in het geval vanbij verwerking van persoonsgegevens. Maar die, deze worden bij algoritmen echter niet altijd gebruikt.

‘AVG is al heel snel niet meer van toepassing. Als je selecteert op kenmerken als inkomensniveau of taalvaardigheid, is dat niet meteen in strijd met persoonlijke gegevensde privacy. Zo zolang je die kenmerken itmaar niet aan individuen koppelt. Op dit moment wordt er wel gewerkt aan een wet voor kunstmatige intelligentie, maar die dekt ook niet alles rondom algoritmen,’ zegt Bernaisse.

Ondanks alle argumenten tegen het neerleggen van verantwoordelijkheid bij gemeenten, erkennen Van Eck en Bernaisse wel in de lastige positie van het Rijk. ‘Je zou kunnen zeggen dat het logisch is om verantwoordelijkheden op een zo laag mogelijk niveau neer te leggen. D, daar waar de belangen zich het meest voordoen,’ aldus Van Eck. ‘Door lokale autonomie kan ook weer worden besproken hoe ver gemeenten en andere decentrale overheden willen gaan met technologie.’

‘Aan de ene kant zijn gemeenten altijd verwerkingsverantwoordelijke als het om eigen data gaat, dus moeten ze voldoen aan wetgeving over automatische besluitvorming,’ vult Bernaisse aan. Maar de gemeenten zijn nog druk aan het experimenteren en hebben nog niet onvoldoende kennis noch capaciteit om in te schatten wat de effecten zijn van algoritme-gebruik. Gemeenteraden, bij uitstek de controlerende functie voor het college, laten de uitvoering vaak over aan het college zelf. ‘Net zoals het Rijk dit nu ook doet bij gemeenten. En zo krijg je dat uiteindelijk ontwikkelaars weer in de positie worden gesteld om gemeentelijke systemen naar eigen inzicht in te richten.’

Intern zijn gemeenten wel verplicht een Ffunctionaris Ppersoonsgegevens (FG) aan te stellen die bij digitaliseringsprojecten betrokken is. Maar naast beperkte capaciteit, is ook de bevoegdheid van FG’s beperkt. Bernaisse: ‘Zolang er persoonsgegevens verwerkt worden, is een FG van toepassing. Dat is dus niet altijd het geval bij algoritmen. Zij moeten eigenlijk altijd benaderd worden als ambtenaren vermoeden dat er risico’s spelen rondom een algoritme.’

Grotere rol voor het Rijk

Het is maar de vraag of het eerlijk is om algoritmen als zoveelste taak decentraal bij gemeenten neer te leggen. Discussies over digitalisering zijn lastig, benoemen zien Van Eck en Bernaisse. Maar zolang er nog geen dekkende wetgeving bestaat voor algoritmen, kan van gemeenten niet worden verwacht foutloos om te gaan met algoritmen. Trek samen op om de digitaliseringstransitie goed te doorlopen, is hun oproep aan gemeenten. Zo kunnen digitale systemen beter worden ingekocht en zijn gemeenten in staat onderling over hun worstelingen te communiceren.

Hierin speelt het Rijk mogelijk een belangrijke rol. Van Eck: ‘Als kabinet kan je nadenken over passende ondersteuning in die lokale transitie. Hoe kan je gemeenteraden helpen in hun zoektocht naar de juiste afspraken en raamwerken voor algoritmen? Moet het Rijk niet toch een grotere rol vervullen?’