2018Z06864
Vragen van de leden Raemakers en Verhoeven (beiden D66) aan de
Staatsecretarissen van Sociale Zaken en Werkgelegenheid en van
Binnenlandse Zaken en Koninkrijksrelaties over het bericht «Algoritme
voorspelt wie fraude pleegt bij bijstandsuitkering» (ingezonden 12 april 2018).
Vraag 1
Bent u bekend met het bericht «Algoritme voorspelt wie fraude pleegt bij
bijstandsuitkering»?1
Vraag 2
Bij hoeveel en welke gemeenten wordt dergelijke software gebruikt om
bijstandsfraude op te sporen?
Vraag 3
Klopt het dat deze gemeenten de software inkopen bij bedrijven? Kunt u
aangeven bij welke bedrijven?
Vraag 4
Welke historische data wordt gebruikt voor de analyse van mogelijke
bijstandsfraude? Kunnen inwoners de gebruikte data inzien en eventueel,
bijvoorbeeld bij fouten, wijzigen? Hebben de ingeschakelde bedrijven toegang
tot deze data?
Vraag 5
Ziet u ook het risico dat het gebruik van algoritmes discriminerend kan zijn
voor bepaalde groepen mensen als de werking van de algoritmes niet
transparant en controleerbaar is of gebaseerd is op data die door selectieve
handhaving tot stand is gekomen? Bent u bekend met voorbeelden hiervan,
zoals het gebruik van discriminerende recidiverisico software in de Verenigde
Staten?
Vraag 6
Is de werking van de gebruikte algoritmes transparant en controleerbaar?
Wordt de werking van de gebruikte algoritmes door onafhankelijke derden
gecontroleerd?
Vraag 7
Deelt u de mening dat de technologie die overheden gebruiken onze normen
en waarden en onze wetten moeten eerbiedigen en niet, wellicht onbedoeld,
discriminerend mogen zijn? Deelt u derhalve de mening dat door overheden
gebruikte algoritmes transparant en controleerbaar moeten zijn om te
voorkomen dat algoritmes discriminerend werken?
Vraag 8
Op welke wijze vindt terugkoppeling van de resultaten uit de data-analyses en
de daaruit volgende onderzoeken naar bijstandsfraude plaats, en hoe leidt dit
tot aanpassingen van de gebruikte algoritmes? Hoe wordt een vicieuze cirkel
voorkomen, bijvoorbeeld als het rekenmodel versterkt wordt in foutieve
initiële aannames op basis van gekleurde historische data door nieuwe data
uit de handhavingspraktijk?
Vraag 9
Wanneer is het onderzoek van de Staatssecretaris van Binnenlandse Zaken en
Koninkrijksrelaties over het gebruik van algoritmes door overheden afgerond?
1 Nrc.nl, 8 april 2018 https://www.nrc.nl/nieuws/2018/04/08/algoritme-voorspelt-wie-fraudepleegt-bij-bijstandsuitkering-a1598669