Hoe gaat het algoritmeregister voor gemeenten werken?

Expeditie algoritmes

• Wanneer kun (moet) je een algoritme in het register opnemen?

• Hoe kom je die algoritmes op het spoor in je gemeente?
• Wat kost dat?

(Oh ja, waarom ook alweer ;-)

Wanneer kun (moet) je een algoritme in het register opnemen?

Categorie A: Hoog risico volgens AI-Verordening

Wanneer een algoritme voldoet aan de twee eisen: het is een AI-systeem (zie definitie in de bijlage) én valt onder een van de acht toepassingsgebieden (zie 3.2 en uitgebreider in de bijlage), neem dan het proces waarin het algoritme gebruikt wordt op in het Algoritmeregister. De lijst van toepassingen is aan verandering onderhevig.  

Categorie B: Impact op betrokkenen 

Het kan zijn dat een algoritme niet onder categorie A valt, maar wel zodanig impact heeft op betrokkenen dat publicatie wenselijk is. 

Dit is het geval wanneer er in processen met directe gevolgen voor betrokkenen één of meerdere algoritmes worden gebruikt welke een significant effect hebben op de uitkomst van het proces. 

Wanneer onderstaande drie vragen met ‘ja’ te beantwoorden zijn dan betekent dit dat ze in ieder geval onder categorie B opgenomen kunnen worden in het Algoritmeregister.

Categorie C: Andere overwegingen voor publicatie 

Indien A en B niet van toepassing zijn kunnen er in de organisatie uiteenlopende reden zijn om deze algoritmes toch te publiceren in het Algoritmeregister, te denken valt aan: 

• Algoritmes die (technisch) complex zijn en/of intensief data gebruiken en waarbij publicatie kan bijdragen aan demystificatie van algoritmes en AI.  

• Algoritmes die onderwerp zijn van maatschappelijk debat, bijvoorbeeld bij media-aandacht;  

Denk aan: stikstofmodellen, uitwerking coronamaatregelen. 

• Algoritmes die onderwerp zijn (geweest) in onderzoek door een toezichthouder of inspectie; 

Denk aan: algoritmes onderzocht door de Algemene Rekenkamer 

• Algoritmes op thema’s waar burgers of media frequent navraag naar doen. 

Denk aan: toeslagen en visumaanvragen. 

• Algoritmes met een (in)directe impact op de omgeving. Denk aan: omgevingseffecten van algoritmes of wetenschappelijk onderzoek waar beleid op wordt gebaseerd.  

• Algoritmes waarbij door een Woo-verzoek om transparantie gevraagd wordt. 

Denk aan: opsporen bijstandsfraude bij gemeenten. 

• Langdurig lopende experimenten die veel maatschappelijke aandacht genereren. 

Categorie D: Uitzonderingsgronden 

In de aanloop naar verplichtstelling stimuleert het kabinet overheidsorganisaties om processen te publiceren waarin impactvolle algoritmes gebruikt worden. Dergelijke publicatie kan wel begrensd worden door wettelijke of gerechtvaardigde uitzonderingen bij bijvoorbeeld opsporing, (rechts)handhaving, defensie of inlichtingenverzameling. Dit kan betekenen dat deze algoritmes niet of slechts gedeeltelijk gepubliceerd kunnen worden.  

De uitzonderingsgronden ontslaan organisaties niet van het inzichtelijk hebben van de algoritmes die zij inzetten. Zij moeten door toezichthouders gecontroleerd kunnen worden. In het Algoritmeregister kan worden aangegeven dat er gebruik wordt gemaakt van algoritmes en op welke wijze deze worden gecontroleerd. Op die manier ontstaat er toch een mate van transparantie die bijdraagt aan meer vertrouwen.

Hoe kom je die algoritmes op het spoor in je gemeente?

🤔

Wat kost dat?

🤔

Maak gebruik van de aansluit sessies!!

Sarajane.Moehamadkasbi@ictu.nl

Suit aan op de klankbordgroep!

paul.suijkerbuijk@vng.nl