Organisaties maken steeds meer gebruik van AI en algoritmes. Maar hoe borg je dat deze technologieën eerlijk, betrouwbaar en verantwoord functioneren? Hiervoor werkt Berenschot samen met de Data School en partners aan het functioneringsgesprek voor AI.
Vertrouwen in verantwoord AI-gebruik vergoten
Het functioneringsgesprek voor AI stelt organisaties in staat om door middel van een vragenlijst regelmatig te evalueren of de gebruikte AI nog steeds naar behoren functioneert. Dient het algoritme nog steeds de doelstellingen van de organisatie? Voldoet het nog steeds aan de huidige wettelijke en maatschappelijke normen? Hebben zich incidenten voorgedaan en zo ja, hoe is daarmee omgegaan? Kan het verder ontwikkeld worden of is er wellicht betere technologie beschikbaar? Zo kunnen organisaties tijdig problemen signaleren, verbeteringen doorvoeren en transparant zijn richting toezichthouders, auditors en het publiek. Dat draagt bij aan vertrouwen in verantwoord AI-gebruik.
Doel is om te komen tot een wetenschappelijk gevalideerde methode die zowel technische als sociale aspecten van AI beoordeelt.
Beoordeling technische én sociale aspecten AI
Berenschot treedt op als projectcoördinator en pilotpartner bij de doorontwikkeling van het functioneringsgesprek voor AI. Het prototype van het functioneringsgesprek voor AI (FG-AI) werd eerder ontworpen door Universiteit Utrecht in samenwerking met de Nederlandse Voedsel- en Warenautoriteit (NVWA) en de Rijksinspectie Digitale Infrastructuur (RDI). Dit wordt nu doorontwikkeld door de Data School van de Universiteit Utrecht in samenwerking de NVWA, RDI en Berenschot. Het instrument wordt getoetst door negen pilotpartners, waaronder Berenschot. Doel is te komen tot een wetenschappelijk gevalideerde methode die zowel technische als sociale aspecten van AI beoordeelt gedurende de hele levenscyclus. Het project wordt gefinancierd door het SIDN fonds.
Concrete handelingsperspectieven
FG-AI is een van de tien projecten die het SIDN fonds ondersteunt samen met Topsector ICT om te komen tot concrete handelingsperspectieven voor verantwoorde en veilige toepassing van AI. Met de nieuwe financiering, een subsidie van € 125.000, gaan Data School en projectpartners zich richten op wetenschappelijke publicaties, een rapport over best practices en de ontwikkeling van een open-source webapplicatie. “Hiertoe wordt een langetermijnpilot opgezet met negen publieke partners, die elk gedurende een jaar ten minste één algoritme zullen monitoren”, vertelt projectcoördinator Lisa de Graaf, consultant digitale transformatie bij Berenschot.