Met governancekaders als IAMA, CODIO en DEDA worden risico’s als discriminatie bij algoritmegebruik bij gemeenten nog niet automatisch besproken. Denk aan situaties als:
Vaak is een governancekader wel aanwezig, maar ontbreken duidelijke afspraken. Wij helpen bij het organiseren van een structurele werkwijze waarin risico's van algoritmegebruik bespreekbaar wordt gemaakt.
Hierbij verbinden we twee vragen:
Voor het organiseren van een structurele werkwijze rondom algoritmegebruik, kijken we naar inhoudelijke afwegingen én kijken we naar de momenten waarop de gesprekken over algoritmegebruik moeten plaatsvinden, wie daarbij betrokken moet zijn en hoe uitkomsten worden vastgelegd en opgevolgd.
We leveren een beknopt adviesrapport op met bestaande afspraken en verbeterpunten, uitgangspunten voor verantwoord en inclusief algoritmegebruik en aanbevelingen voor organisatorische borging. Een korte uitvoeringsagenda benoemt de eerste stappen, betrokkenen en benodigde besluiten en capaciteit. Hierbij onderscheiden we gedeelde uitgangspunten, onze aanbevelingen en nog te maken keuzes.
We bepalen welke vraag de gemeente wil beantwoorden, waarop het advies betrekking heeft en wat zij na afloop anders wil kunnen doen. Ook spreken we af wie deelneemt en wie verantwoordelijk is voor de opvolging.
Via documentonderzoek en enkele interviews achterhalen we wat al is geregeld en waar afspraken ontbreken of niet werken. We onderzoeken tevens hoe aandacht voor discriminatie, inclusie en ethiek nu terugkomt bij ontwikkeling, aanschaf en gebruik van algoritmes.
Aan de hand van een gezamenlijk gekozen casus bespreken we de voor- en nadelen van een toepassing, wie nadeel kan ondervinden en welke inwonersperspectieven onvoldoende in beeld zijn. Door dilemma’s te verkennen, achterhalen we richtinggevende waarden, eventuele spanning daartussen en vereiste randvoorwaarden voor verantwoord gebruik. Wettelijke grenzen zijn daarbij het vertrekpunt.
De inzichten uit de eerste workshop vertalen we naar verantwoordelijkheden, besluitvorming en werkafspraken. Ook bespreken we hoe de gemeente deze afwegingen kan verankeren in bestaande processen. Verder toetsen we of de risico’s uit de casus met deze afspraken tijdig zouden zijn herkend en besproken.
We bundelen de bevindingen in een kort adviesrapport met voorgestelde uitgangspunten, werkafspraken en een uitvoeringsagenda. We bespreken dit met de opdrachtgever en verwerken de reacties. Dit resulteert in een concreet handelingsperspectief voor beleid en organisatorische borging.
