AI-Lab van start voor effectief en verantwoord toezicht
Hoe kan je de slagkracht van inspecteurs vergroten met behulp van verantwoorde artificiële intelligentie (AI)? Met deze vraag gaat het Innovation Center for Artificial Intelligence (ICAI) Lab AI4Oversight zich bezighouden. Door het ontwikkelen van algoritmes en werkwijzen proberen ze inspecteurs van bijvoorbeeld de overheid optimaal te ondersteunen.
Het ICAI Lab AI4Oversight is een samenwerking tussen verschillende inspectiediensten van de overheid en twee universiteiten. In plaats van zelf het wiel uit te vinden, bundelen deze partijen hun krachten. Cor Veenman van het LIACS heeft de wetenschappelijke leiding en is mede-initiatiefnemer samen met Jasper van Vliet (Inspectie Leefomgeving en Transport). Door dit project krijgt het LIACS er twee PhD-studenten bij onder supervisie van Thomas Bäck en Catholijn Jonker.
Samenwerking
Het ICAI Lab AI4Oversight bestaat uit vijf partners en twee universiteiten: Inspectie Leefomgeving en Transport (ILT), de Nederlandse Arbeidsinspectie, Inspectie van het Onderwijs, de Nederlandse Voedsel- en Warenautoriteit en de Nederlandse Organisatie voor toegepast-natuurwetenschappelijk onderzoek (TNO), Universiteit Utrecht en Universiteit Leiden.
Gezamenlijk doel
Het bundelen van de krachten zorgt niet alleen voor verantwoorde en transparante AI, maar ook dat inspecteurs en AI-systemen zo optimaal mogelijk met elkaar samenwerken en elkaars sterke kanten benutten.
Toezicht houden betekent niet dat je alles continu inspecteert, want dat is onmogelijk. We moeten dus keuzes maken en het is daarbij de kunst om precies te inspecteren waar de maatschappelijke bijdragen het grootst is. Maar hoe kom je tot een risicogestuurde aanpak waarbij inspecteurs zoveel mogelijk op het juiste moment en op de juiste plek worden ingezet? Dat is de opgave waar de verschillende partijen gezamenlijk een oplossing voor zoeken. AI speelt daarbij een grote rol nu die steeds geavanceerder wordt.
Optimale ondersteuning door algoritmes
‘Waar mogelijk maken we al gebruik van AI voor een verantwoorde, selectieve en effectieve inzet van onze inspecteurs. Maar er liggen nog meer kansen in het verschiet’, zegt Inspecteur-Generaal van de ILT Mattheus Wassenaar,. ‘Samen met de twee universiteiten gaan we methodes ontwikkelen die ervoor zorgen dat onze mensen optimaal door algoritmes worden ondersteund. Wel willen we ongewenste selectievoorkeur voorkomen. We doen er alles aan om gezamenlijk tot een AI te komen die we op een verantwoorde en betrouwbare manier in het inspectiedomein kunnen inzetten.’
Nieuwe methodes ontwikkelen en testen
De praktijk heeft duidelijk gemaakt dat er nieuwe AI- methodes nodig zijn binnen het toezichtdomein. Zo vinden er altijd eerst uitgebreide testen plaats om te bepalen in hoeverre een AI-toepassing op een effectieve en verantwoorde manier in praktijksituaties kan worden ingezet. De onderzoeksagenda van het lab richt zich daarom op de volgende thema’s: samenwerking tussen mens en machine, sneller en eerlijker lerende algoritmes en de bijdrage van AI bij het verbeteren van het gedrag van de inspecteurs.
Meer informatie over Lab AI4Oversight.