Matt Young wint Camilla Stivers Award: ‘Het betekent meer voor me dan ik had verwacht’
Matt Young, Universitair Docent bij het Instituut Bestuurskunde, heeft vorige week de Camilla Stivers Award 2022 gewonnen. Young en zijn medeauteurs ontvingen de prijs voor het artikel ‘Artificial Intelligence and Administrative Evil’. De prijs wordt jaarlijks uitgereikt voor het beste artikel dat in PPMG is gepubliceerd.
Kun je ons wat meer vertellen over deze award?
Young: ‘De Camilla Stivers award wordt uitgereikt aan het beste artikel dat gepubliceerd is in ‘Perspectives on Public Management and Governance’ (PPMG), het meest prestigieuze theoretische vakblad van de Public Management Research Association. De beslissing wordt genomen door een jurypanel. Kortom, dit betekent dat het artikel dat ik samen met mijn medeauteurs heb geschreven de beste theoretische bijdrage aan het vakgebied is dat in 2021 door dit vakblad is gepubliceerd. Het is me gelukt om de redactie te overtuigen om het artikel als ‘open access’ beschikbaar te maken naar aanleiding van het winnen van de award. Daarmee levert deze prijs ook een eigen bijdrage aan ‘open science’.
Kun je kort uitleggen wat de aanleiding was voor het artikel ‘Artificial Intelligence and Administrative Evil?
Young: Ik heb het grootste deel van mijn leven in Silicon Valley gewoond, waardoor ik zowel de potentie van technologie ben gaan waarderen, maar ik ook ontzettend sceptisch ben geworden over de uitspraken die gedaan worden door degenen die zich hard maken om de algemene voordelen die het met zich mee brengt in de markt te zetten. In het eerste artikel dat ik in 2018/2019 schreef over machine learning-based artificial intelligence was ik regelmatig de ‘doemdenker’ binnen het auteursteam. Ik was dus aangenaam verrast toen mijn college en medeauteur Justin Bullock na het lezen van ‘Unmasking Administrative Evil’ mij in 2019 benaderde met de notie dat het wellicht wat kon vertellen over de gevaren van het gebruik van AI binnen de overheid. En ik wil benadrukken dat dit gebruik en de bijbehorende risico’s niet alleen iets is waar we ons in de toekomst zorgen over moeten maken: het is al hier, het is hier nu.
Wat me fascineerde aan dit project was de mogelijkheid om direct op zo’n manier in te gaan op normatieve en morele dilemma’s in openbaar bestuur. We konden daarmee zowel de bestaande theorie uitbreiden als ook een verband leggen met de zeer reële risico’s die voortkomen uit het gebruik van deze technologie als beleidsmiddel. Ik heb een paar ouderwetse worstelsessies gehad om die gaten te dichten en ik ben erg trots op wat we allemaal met de principaal-agenttheorie hebben kunnen doen om op dat punt te komen.’
Wat is de belangrijkste conclusie?
Young: ‘De belangrijkste conclusie is dat er verschrikkelijk veel manieren zijn waarop de inzet en het toepassen van AI binnen de openbare sector nieuw leed voor mensen kan, en zal, opleveren en bestaande gevallen zal verergeren. We moeten serieus en zorgvuldig nadenken over of en hoe we het gebruik hiervan kunnen toestaan en naar alle redelijkheid kunnen beperken, en hoe we dit gebruik kunnen monitoren en evalueren.
Maar ik denk dat er een andere meer significante conclusie getrokken kan worden en dat is dat wij, wetenschappers, practitioners, burgers, mensen, welke categorie ook voor jou van toepassing is, een stap terug moeten zetten. We moeten kijken naar de systemen die we hebben opgetuigd om onze sociale interacties te overzien en wat voor effect die daadwerkelijk op onszelf en anderen hebben. En we moeten ons afvragen of dit het waard is om ermee door te gaan. We ervaren allerlei druk op systeemniveau waarvan ik betwijfel of we dat eerlijk willen toegeven en door net te doen alsof alles ‘ok’ is, en ook zal blijven, staan we toe dat, ook in onze naam, doorlopend grote schade, onrecht, leed, en zelfs onheil, wordt aangericht. Gebaseerd op een vaak verwarrende combinatie van wat we deze systemen vragen te doen en wat we gebruiken om ze mee te trainen. Als we niet zorgen dat we onze zaakjes op orde hebben, zal er geen enkel middel zijn dat in staat is ons tegen onszelf te beschermen.’
Wat betekent deze award voor jou als persoon?
Young: ‘Als ik heel eerlijk ben, betekent het veel meer voor me dan ik had verwacht. Ik zie mijzelf vaak als iemand met een redelijk dikke huid aangezien ik een vakgebied heb gekozen waarbinnen falen en afwijzing de meest gangbare ervaring zijn. Maar dat een project waaraan ik en mijn medeauteurs zo hard gewerkt hebben ongevraagd op zo’n niveau waardering krijgt, geeft wel ontzettend veel voldoening en wij als wetenschappers zouden dit wellicht veel vaker voor elkaar moeten doen.
Daarnaast geeft het ook ontzettend veel voldoening om deze prijs te winnen voor een theoretisch artikel nadat mensen me keer op keer hebben geadviseerd om me alleen te richten op incrementalistisch empirisch onderzoek omdat dat ‘the One True Path’ is om een aanstelling te krijgen binnen dit vakgebied zou zijn. Ik heb een uiterst comfortabele carrière in de private sector achtergelaten om te kunnen profiteren van dat geweldige privilege dat academische vrijheid is, dus is wel zo prettig dat ik niet alleen in staat ben om tegen die bepaalde stroom van denken op te zwemmen dat ik er ook de erkenning van mijn peers voor krijg.’
Lees het winnende artikel (in het Engels) van Young en zijn medeauters hier.