Waarom gaat het zo vaak fout bij algoritmes van de overheid?
Bram Klievink, Hoogleraar Digitalisation and Public Policy, vertelt in Trouw over waarom de overheid zo vaak de mist in gaat met dubieuze algoritmes. Hij wijst op een gevaarlijke cocktail van techno-optimisme en bezuinigingsdrift.
Bram Klievink vertelt dat de overheid de afgelopen jaren meerdere keren de mist in is gegaan met verkeerde algoritmes. Voorbeelden hiervan zijn fouten die zijn gemaakt bij de Belastingdienst en het UWV, maar ook bij DUO is het misgegaan. Volgens Klievink valt dit te wijten aan de tijdsgeest. 'Ze zijn allebei terug te voeren op de tijdgeest van het vorige decennium. Zo rond 2010 was het bestrijden van fraude met publiek geld een van de belangrijkste politieke thema’s. Tegelijkertijd werd die taak grotendeels overgeheveld van het Rijk naar uitvoeringsinstanties en gemeenten, die dat bovendien met minder geld voor elkaar moesten krijgen. Technologie werd als oplossing gezien om fraudebestrijding en bezuinigingen te verenigen.'
Er is volgens Klievink soms sprake van naïviteit, voornamelijk aan de kant van de uitvoeringsorganisaties. 'Ze hielden er onvoldoende rekening mee hoe de gebruikte risicoanalyses uitpakken in de praktijk. Beleidmakers ging veel minder naïef te werk. Klievink vertelt dat het 'een bewuste keuze was om fraudebestrijding te combineren met bezuinigingsmaatregelen, en ICT te presenteren als oplossing. Dat blijft een bron van misère. Je ziet nu dat de dubieuze algoritmes worden stilgelegd, maar gemeenten en uitvoeringsinstanties nog wél dezelfde wettelijke taken op het gebied van fraudebestrijding hebben. Daardoor heeft het Rijk ze voor een onmogelijke opgave gesteld.'
Tegenwoordig is volgens Klievink de vraag: hoe vind je de balans? De laatste jaren zijn de uitdagingen van algoritmes en kunstmatige intelligentie steeds meer centraal komen te staan. Voorheen voerden efficiëntie en de strijd tegen misbruik van publieke middelen de boventoon. Nu zien we steeds duidelijker dat die kunnen botsen met andere maatschappelijke normen en waarden, zoals het recht op een gelijke behandeling en privacy. De naïviteit is eraf.
Lees het volledige artikel op de website van Trouw (€)