In een democratische rechtstaat moeten burgers, bedrijven, maatschappelijke organisaties en medeoverheden erop kunnen vertrouwen dat iedere overheidsorganisatie algoritmen op een goede manier inzet. Reden dat steeds meer overheden hun algoritmetoepassingen tegen het licht houden. De grote vraag is alleen: hoe kom je tot een verantwoorde toepassing?
Afgelopen jaar hebben we als juristen, econometristen en bestuurskundigen binnen Berenschot meerdere overheden geadviseerd over een verantwoorde toepassing van algoritmen. Dat heeft vier belangrijke inzichten opgeleverd, die we graag met jullie delen.
Les 1: Opkomst algorithmic administrative state en netwerksamenleving vergt aandacht voor rechtspositie burger.
Tijdens onze leergang recht en openbaar bestuur hebben we ons samen met prof. mr. dr. Jurgen Goossens (hoogleraar staatsrecht Universiteit Utrecht) gebogen over de vraag hoe de overheid in lijn met rechtstatelijke waarden kan meebewegen met de opkomst van de algorithmic administrative state en de netwerksamenleving. De toepassing van algoritmen zet door, terwijl de wetgever zich steeds verder terugtrekt en het opstellen van regelgeving overlaat aan het bestuur. Bovendien werkt dat bestuur steeds vaker samen in publiek-private netwerken om complexe maatschappelijke vraagstukken op te pakken. De uitdaging is dan ook de rechtspositie van de burger te blijven waarborgen. Want hoe blijft de volksvertegenwoordiging in positie om haar democratische en controlerende taken uit te voeren? En hoe houden overheidsorganisaties zelf grip op hun algoritmetoepassingen? Die vragen staan de komende jaren centraal.
Les 2: Procedurele waarborgen noodzakelijk voor zorgvuldige rechtspraak over algoritmische besluitvorming.
Vanwege de opkomst van de algorithmic administrative state wordt effectieve rechterlijke controle steeds belangrijker. Uit onderzoek van Berenschot-collega Wouter Verbeek naar de procedurele waarborgen voor zorgvuldige rechtspraak over algoritmische besluitvorming (door overheden), blijken dergelijke waarborgen aanwezig op het vlak van transparantie aanwezig, maar ontbreken ze nog op het gebied van uitlegbaarheid en het zorgvuldigheidsbeginsel. Dit kan resulteren in een ongelijkwaardige procespositie, waarbij burgers en belanghebbende aanmerkelijk slechter in staat zijn hun standpunt te bepleiten dan het overheidsorgaan dat op basis van een algoritme een besluit heeft genomen. In andere domeinen (zoals het strafrecht) en landen (onder meer Frankrijk) bestaan goede methoden om een eerlijk proces te waarborgen. Een groot deel ervan is ook in het kader van algoritmische besluitvorming in het bestuursrecht te gebruiken. Zelf pleit Wouter voor:
- bekendmaking van de inzet van algoritmes bij te nemen besluiten
- verplichting van bestuursorganen om voorafgaand aan de inzet van algoritmen een openbaar onafhankelijk deskundigenrapport te laten opstellen
- invoering van een proportionaliteitstoets, om de uitlegbaarheid van het algoritme af te wegen tegen de gediende belangen van het algoritme en de impact op betrokkene(n)
- verdere scholing van de rechterlijke macht.
Les 3: Barrières en aanbevelingen voor ethische toepassing van algoritmen.
Onderzoek van Berenschot-collega Imre Teunissen toonde aan dat overheidsorganisaties barrières ervaren op het gebied van zowel maatschappelijke, politieke en juridische legitimiteit als organisatiecapaciteit. Zo is er vanuit de politiek soms onnodig veel sturing en soms ook te weinig, waardoor politieke afwegingen op het bordje van beleidsmakers terechtkomen. Daarnaast is er vaak onvoldoende communicatie en coördinatie tussen datascientists en beleidsmedewerkers. Verder blijkt het voor ethische algoritmetoepassing van belang alert te zijn op psychologische groepsdynamieken, aangezien groepsdenken en spreiding van verantwoordelijkheid beïnvloeden in hoeverre individuen binnen de organisatie twijfels of zorgen over algoritmen uitspreken. Imre heeft vier aanbevelingen voor beleid en politiek:
- Verzorg politieke sturing op regionaal en nationaal niveau, zodat complexe politieke afwegingen worden gemaakt door democratisch gekozen politici.
- Meet de impact van algoritmetoepassingen, om na te gaan of ze daadwerkelijk maatschappelijke opgaven helpen oplossen.
- Richt de governance rond ethische overwegingen, signalering en afstemming tussen IT en beleid helder en toegankelijk in.
- Borg adaptiviteit in processen rond algoritmetoepassingen, vanwege het veranderlijke karakter van draagvlak en ethiek.
Les 4: Sleutelmomenten in de governance van een algoritmetoepassing.
Voor een consortium van overheidsorganisaties hebben we een handreiking opgesteld met vijf checks voor het goed inrichten van de governance gedurende de levenscyclus van een algoritmetoepassing:
Bij elk sleutelmoment staan twee onderwerpen centraal:
- Democratische, juridische en maatschappelijke legitimiteit van de algoritmetoepassing.
- Waardengebaseerd beheersplan. In hoeverre is het waardengebaseerde beheersplan, bestaande uit risicoanalyse, juridische check en beheersmaatregelen, (nog) in lijn met de algoritmetoepassing?
Aan de hand van bespreking van de sleutelmomenten formuleren we aandachtspunten, om het beheersplan van een overheidsorganisatie up-to-date te houden en de democratische, juridische en maatschappelijke legitimering te laten meebewegen met de levenscyclus van de algoritmetoepassing.
Sparren met een expert?
Bent u op zoek naar manieren om verantwoorde toepassing van algoritmen te borgen binnen uw organisatie? En wilt u hier eens over sparren met een expert? Neem dan gerust contact met ons op.