Tweedemonitor / Kamervraag / Het bericht dat algoritmes van de gemeente Rotterdam kunnen leiden tot vooringenomen uitkomsten



Het bericht dat algoritmes van de gemeente Rotterdam kunnen leiden tot vooringenomen uitkomsten

Keywords:
Zaaknummer: 2021Z06272

Vragen van de leden Bouchallikh en Bromet (beiden GroenLinks) aan de Minister en de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties over het bericht dat algoritmes van de gemeente Rotterdam kunnen leiden tot vooringenomen uitkomsten (ingezonden 16 april 2021).

Vraag 1

Heeft u kennis genomen van de berichten «Algoritmes gemeente Rotterdam kunnen leiden tot «vooringenomen uitkomsten»»1 en «Harde kritiek op algoritmes voor opsporing van bijstandsfraude?»2

Vraag 2

Wat is uw reactie op het rapport «Gekleurde technologie» van de Rekenkamer Rotterdam?

Vraag 3

Is het waar dat de gemeente Rotterdam in het kader van het project «Analytics Uitkeringsfraude» gebruik maakt van algoritmes die op eigen houtje zoeken naar kenmerken van fraudeurs? Is er daarmee sprake van de inzet van zelflerende algoritmes?

Vraag 4

Deelt u de conclusie dat dit kan leiden tot vooringenomenheid omdat het model, via een omweg langs andere variabelen zoals laaggeletterdheid, ook etnische achtergrond mee kan nemen en sommige mensen als gevolg daarvan een grotere kans hebben te worden onderworpen aan controles? Zo nee, waarom niet? Zo ja, wat vindt u hiervan?

Vraag 5

Wat onderneemt u, in navolging van de motie-Klaver c.s., om te verzekeren dat zelflerende algoritmes die worden gebruikt door de overheid geen gevoelige variabelen zoals nationaliteit of etniciteit hanteren, direct of indirect?3

Vraag 6

Deelt u de bevinding van de Rekenkamer Rotterdam dat bijstandsontvangers onmogelijk kunnen weten waarom het algoritme hen aanmerkt voor nadere controle? Zo nee, waarom niet? Zo ja, in hoeverre is dat verenigbaar met de privacywetgeving die stelt dat burgers het recht hebben om inzicht te krijgen in de achtergrond van belangrijke beslissingen? Kunt u het antwoord juridisch onderbouwen met verwijzing naar de relevante wet- en regelgeving?

Vraag 7

Hoe verhoudt het gebruik van algoritmes binnen het project «Analytics Uitkeringsfraude» zich tot de rechterlijke uitspraak van 5 februari 2020 die het gebruik van het fraude-opsporingssysteem SyRI verbiedt?

Vraag 8

Wat vindt u ervan dat het project «analytics uitkeringsfraude» al vier jaar bestaat, in toenemende mate wordt gebruikt om uitkeringsgerechtigden te selecteren voor controles, maar nog altijd de status van een pilot heeft?

Vraag 9

Bent u bereid, op basis van het rapport van de Rekenkamer Rotterdam, deze uitgerekte pilot met onmiddellijke ingang stop te laten zetten? Zo nee, waarom niet?

Vraag 10

Hoe is het mogelijk dat er algoritmes worden ingezet zonder dat de betrokken ambtenaren, volgens de Rekenkamer Rotterdam, ook maar beseffen dat daar ethische risico’s aan zijn verbonden?

Vraag 11

Deelt u de mening dat de verantwoorde inzet van algoritmes onmogelijk is zonder besef van de risico’s? Zo nee, waarom niet? Zo ja, wat onderneemt u om bewustwording en kennis onder rijksambtenaren en medeoverheden op dit vlak te vergroten?

Vraag 12

Wat vindt u ervan dat de gemeente Rotterdam nog geen overzicht heeft van de algoritmes die de gemeente zelf gebruikt? Wat onderneemt u om een overzicht te krijgen van alle overheidsalgoritmes? Bent u bijvoorbeeld bereid om er bij medeoverheden op aan te dringen dat zij ieder een centrale regisseur en eindverantwoordelijke benoemen voor het gebruik van algoritmes?

Vraag 13

Hoe staat het met de uitvoering van de motie-Klaver c.s. die de regering verzoekt om een algoritmeregister op te zetten zodat iedereen, ook experts van buiten, toezicht kan houden op mogelijk discriminerende algoritmes? Kunt u een nauwkeurig tijdpad geven van de uitvoering van deze motie?

Vraag 14

In hoeverre denkt u dat de door de Rekenkamer geconstateerde problemen rond het gebruik van algoritmes in Rotterdam ook spelen in andere gemeenten? Hoe houdt u daar zicht op?

Vraag 15

Welke instanties houden toezicht op het gebruik van algoritmes bij de rijksoverheid en medeoverheden? Hoeveel modellen zijn door een toezichthouder getoetst en hoeveel zijn aangemerkt als problematisch?

Vraag 16

Deelt u de conclusie van de Rekenkamer Rotterdam dat de bestaande AVG-wetgeving niet toereikend is voor goede borging van de ethiek en kwaliteit van algoritmes? Zo nee, waarom niet? Zo ja, op welke wijze zou de wetgeving moeten worden aangepast?

Vraag 17

Bent u bereid om de aanbeveling van de Rekenkamer Rotterdam, om voor alle algoritmes regels, richtlijnen en instructies te formuleren die toezien op transparantie en eerlijkheid en die voorzien in de systematische beoordeling en evaluatie van in gebruik zijnde algoritmes, Rijksbreed op te volgen?


X Noot
1

De Volkskrant, 15 april 2021

X Noot
2

Het Financieele Dagblad, 15 april 2021

X Noot
3

Kamerstuk 35 510, nr. 16 | Overheid.nl > Officiële bekendmakingen (officielebekendmakingen.nl)


Gerelateerd

Het bericht dat algoritmes van de gemeente Rotterdam kunnen leiden tot vooringenomen uitkomsten

Gemeenten die mogelijk discriminerende algoritmen gebruiken

Herindelingen in het algemeen en de herindeling Groningen, Haren, Ten Boer in het bijzonder.

Angstcultuur en doorgeslagen flexwerk bij de gemeente Rotterdam

Het bericht ‘Onderzoek naar groei vliegveld Rotterdam rammelt’

Het bericht ‘Algoritme voorspelt wie fraude pleegt bij bijstandsuitkering’

Studentenwoningen niet meetellen als sociale huurwoningen

Het bericht dat Rotterdam The Hague Airport alle vogels op de luchthaven wil en mag doden

© 2017-2021 Tweedemonitor

Contact: Info [at] tweedemonitor.nl