‘Generatieve ai-applicaties bieden kansen voor de gemeente, zoals sneller en efficiënter ons werk kunnen doen. Daar staan ook risico’s tegenover’, schrijft het college van B en W aan de gemeenteraad. 

‘Ingevoerde gegevens zijn in potentie openbaar en kunnen dus ook misbruikt worden door derden. Daarnaast bestaat het risico dat ai-applicaties vooroordelen versterken, of zelfs feiten verzinnen, ook wel hallucineren genoemd.’ 

Er komt geen verbod op het gebruik van ai, staat in de richtlijn. ‘Het is technisch niet te voorkomen dat medewerkers AI-applicaties gebruiken via de zakelijke of privé-apparatuur. Ook kunnen de applicaties bij bewust gebruik van waarde zijn voor de gemeente.’ 

De basisregel in Utrecht is om gegevens niet in ChatGPT of vergelijkbare applicaties in te voeren, als die ook niet op internet zouden kunnen worden geplaatst. 

Het college van B en W zegt dat de richtlijnen goed worden bijgehouden, om in te springen op actuele ontwikkelingen. Zo werkt TNO aan een Nederlandse versie van ChatGTP. Die kan mogelijk wel breed worden ingezet, als onderwerpen als privacy en veiligheid daarin beter gewaarborgd is. 

De stad heeft ook een e-learning over slim digitaal werken, waarbij ook ai wordt meegenomen, die eind 2024 door 80 procent van alle medewerkers moet zijn gevolgd. Alle medewerkers in de gemeente ontvangen het Informatieboekje ‘Veilig werken’. 

Onderzoek naar Microsoft Copilot 

Utrecht doet ook zelf onderzoek. Zo ligt Microsoft Copilot onder de loep om duidelijk te krijgen hoe privacy-robuustheid de applicatie is en hoeveel bescherming tegen datahandel het biedt. Ook Strategisch Leveranciersmanagement Rijk (SLM) bekijkt hoe veilig deze app is. 

Op landelijk niveau wordt ook gekeken naar ai. Staatssecretaris Van Huffelen van Koninkrijksrelaties en Digitalisering publiceerde eind vorig jaar een voorlopig standpunt voor Rijksorganisaties bij het gebruik van generatieve ai. Daar heeft Utrecht ook uit geput. 

De nieuwe richtlijnen zijn een antwoord van het stadsbestuur op een motie van D66, die werd gesteund door EenUtrecht, PvdA, GroenLinks, Student&Starter en het CDA.  

De fracties stelden dat afwezigheid van dergelijke richtlijnen kan leiden tot onzekerheden over de privacy, veiligheid van data en ethische overwegingen omtrent het gebruik van AI-technologieën.  

De richtlijnen moeten wat de fracties betreft een voorbeeld vormen voor andere gemeenten.