Voor het AI-Trendonderzoek interviewden we Max van Rest, product owner bij het AI Lab van de gemeente Amsterdam, over de wijze waarop de gemeente omgaat met AI. Taak van het AI Lab is de gemeente voor te bereiden op de AI-ontwikkelingen en de adoptie van nieuwe innovaties. Max zelf houdt zich bezig met het onderzoeken van de impact van AI op de stad en haar inwoners, en op welke wijze AI een positieve impact kan hebben.
Naast het AI Lab houden ook andere teams binnen de gemeente Amsterdam zich bezig met de ontwikkelingen rond AI. Sommige afdelingen werken aan het opstellen van de AI- visie en de AI-agenda van de gemeente. Het AI Lab zet deze richtlijnen om naar de praktijk: zij onderzoeken de meerwaarde van AI-tooling en toetsen of deze aansluiten bij de waarden van de gemeente Amsterdam. Het AI Lab verkent daarbij de kansen, maar ook de risico’s van nieuwe innovaties. Dit in samenspraak met andere afdelingen.
We spreken met Max over het opstellen van beleid, het doel van het gebruik van AI, burgerbetrokkenheid en de verschillende AI-toepassingen binnen de gemeente Amsterdam.
Deze stap heeft veel mensen aan het denken gezet over wat ze nu precies doen met dit soort tooling. Dit draagt bij aan het bewustzijn van de risico’s.
- Max van Rest, product owner AI Lab, gemeente Amsterdam.
Dit interview is afgenomen als onderdeel van het AI-Trendonderzoek. In dit rapport vindt u, naast data over de toepassing van AI binnen organisaties, ook meer interviews met zorgorganisatie MIJZO en PostNL.
Gezamenlijke visie op AI
De gemeente Amsterdam heeft vorig jaar de Amsterdamse visie op AI gepubliceerd. Deze visie is niet geschreven vanuit een ivoren toren, maar juíst samen met de mensen om wie het gaat: de bewoners van Amsterdam. Kenmerkend voor de visie is de kritische blik op AI: “AI is een vorm van intensieve automatisering, waar heel veel middelen voor nodig zijn.
Van elektriciteit tot watergebruik én mensenwerk”, zegt Max. “We willen het ‘magische’ perspectief op AI weghalen en inzetten op de voortdrijvende waarde.” Die waarde is volgens de gemeente voornamelijk dat AI de mens ten goede moet komen, en niet andersom. De mens staat centraal." . Daarnaast zijn er twee andere belangrijke waarden: 1) betrouwbaarheid (transparantie over hoe en waarvoor AI wordt gebruikt) en 2) toekomstgerichtheid en duurzaamheid. Deze visie wordt breed gedragen binnen de organisatie, collega’s voelen zich hier thuis bij.
Hoe maak je beleid over (generatieve) AI?
Op dit moment is er veel te doen over het gebruik van generatieve AI, zoals ChatGPT. En terecht, want er waren reële zorgen over het weglekken van gevoelige data. Daarom heeft de gemeente Amsterdam het gebruik van dit soort tools verboden. In het begin was dit wennen voor sommige medewerkers, maar er was ook veel begrip.
Het lastige van beleid maken over generatieve AI, is dat de ontwikkelingen veel sneller gaan dan de tijd die het kost om beleid op te stellen, te finaliseren en te communiceren. In dat opzicht verschilt het van regulier beleid, dat meestal voor enige tijd kan worden vastgesteld en niet zo vaak herzien hoeft te worden. Beleid over (generatieve) AI moet echter met regelmaat herzien worden. In de ogen van Max wordt het beleid redelijk goed geadopteerd binnen de organisatie. Verschillende interventies hebben ervoor gezorgd dat het beleid leeft onder de collega’s.
AI-projecten getoetst aan waarden
De toepassing van AI moet volgens de gemeente iets opleveren voor de mens. Op meerdere manieren wordt getoetst of dit ook echt gebeurt in de praktijk. Zo wordt onder andere aan de hand van de ethische bijsluiter van de gemeente onderzocht of een AI-project wel door kan gaan als een van de organisatiewaarden in het geding komt. Dit gebeurt in workshops met de projectleden en experts.
Ook burgers worden door de gemeente op verschillende manieren betrokken voordat innovaties geïmplementeerd worden. Denk aan socratische gesprekken, burgerpanels, vragenlijsten of burgers benaderen op straat. “We wilden het proces rond het maken van meldingen bij de gemeente verbeteren. Daartoe hebben we eerst een vragenlijst
uitgestuurd naar burgers die recentelijk melding hebben gemaakt bij de gemeente”, schetst Max. “Vervolgens hebben we op basis van de feedback nieuwe ontwerpen gemaakt voor
het meldingenproces en mensen op straat gevraagd wat ze daarvan vinden. Willen ze dit gebruiken? Wat is er goed aan en wat werkt minder fijn?” Kortom, als een innovatie de burgers raakt, vindt het team het belangrijk om hen ook bij dit proces te betrekken.
AI in de Amsterdamse praktijk
Het AI Lab werkt aan verschillende toepassingen van AI. Sommige zijn al geïmplementeerd, andere bevinden zich in de prototypefase. Een voorbeeld van een succesvolle implementatie van AI waar de mens centraal staat, is het blurren (het wissen of vervagen van beelden) van mensen op camerabeelden uit de stad. In Amsterdam hangen veel camera’s. Sommige modellen kunnen de gezichten van mensen blurren op camerabeelden, maar dat was voor het AI Lab niet voldoende: mensen kunnen immers door hun kleding nog herkenbaar zijn.
Daarom is een model ontwikkeld dat de persoon volledig blurt, om de privacy van mensen op straat te beschermen. “Ons model is open-source en blurt beelden nog voordat deze ergens worden opgeslagen”, stelt Max. “Het wordt ook al door andere organisaties gebruikt.”
Een ander mooi voorbeeld is het afhandelen van meldingen. Als grootste stad van het land krijgt de gemeente Amsterdam jaarlijks ongeveer een half miljoen meldingen binnen, variërend van afval op straat tot het snoeien van bomen. Dertien afdelingen houden zich bezig met het verwerken van deze meldingen. Het AI Lab heeft een model ontwikkeld dat meldingen direct doorstuurt naar de juiste afdeling. Indieners krijgen ook een bericht terug omtrent de verwachte afhandelingstijd. Onlangs heeft het AI Lab verder een prototype getest van een model dat kan helpen in het afhandelen van meldingen, door direct relevant informatie terug te geven aan de melder. Fijn voor de burgers, omdat zij direct duidelijkheid krijgen over hun melding. Ook hier staat het AI Lab continu stil bij de impact van dit model op het werk. Wiens werk verandert hierdoor, welke consequenties heeft dat en hoe moeten we hiermee omgaan?
Samenwerking en kennisdeling
Als grootste gemeente van het land heeft Amsterdam redelijk veel ruimte voor innovatie en onderzoek naar AI. Om die reden deelt de gemeente ook actief haar kennis via openbare onderzoeksrapporten of opensourcemodellen, want niet elke gemeente is groot genoeg om dit zelf te kunnen doen. Daarnaast onderhoudt de gemeente actief contact met verschillende kennisinstellingen zoals universiteiten, andere AI-labs en onderzoekscentra.
"Andersom zijn andere gemeenten altijd welkom om in Amsterdam langs te komen voor kennissessies, en dat gebeurt ook veel. Max: “Kleine gemeenten zijn altijd welkom om kennis te nemen van onze initiatieven en te leren van onze ervaringen. Wie weet is het zelfs mogelijk om een dagje mee te draaien om samen nieuwe software te ontwikkelen.”
Toekomstplannen van het AI Lab
Momenteel werkt Max aan een nieuw initiatief waarbij hij zijn eigen AI-trendonderzoeken gaat opzetten, maar dan gericht op specifieke thema’s. Het idee is om elke paar maanden een trendonderzoek uit te voeren, bijvoorbeeld naar AI en onderwijs of AI en mobiliteit.
Daarin onderzoeken Max en zijn collega’s de huidige ontwikkelingen, maken ze een gewenst toekomstbeeld samen met Amsterdammers en experts, en bekijken ze welke acties de gemeente moet ondernemen om dit toekomstbeeld te realiseren. Het doel is dus niet alleen trends analyseren, maar ook werk maken van de vervolgacties. Max: “Misschien is dit een te ambitieus plan, maar we gaan ervoor! En net als altijd worden ook deze onderzoeken weer openbaar, we delen alles.”
