De verschillende socialezekerheidswetten voorzien in uitkeringen ten behoeve van hen die dat nodig hebben en waarvan de wet voorschrijft dat zij daar recht op hebben. De bestuursorganen die tot taak hebben deze socialezekerheidswetten uit te voeren zijn daarvoor financieel verantwoordelijk. Deze bestuursorganen zullen er daarom op gebrand zijn fraude van uitkeringen te voorkomen. Met het oog daarop is voorzien in een breed palet aan toezicht- en onderzoeksbevoegdheden waarover zij de beschikking hebben.

Als het gebruik van nieuwe technologieën toeneemt en steeds meer bekend wordt welke kinderziektes er nog zijn en welke bijwerkingen er kunnen optreden, is het niet meer dan logisch dat de roep om toezicht steeds luider wordt. Onder de noemer ‘toezicht op algoritmen’ is er sinds de zomer van 2019 een politiek debat gaande waarin bijvoorbeeld wordt gepleit voor het oprichten van een Algoritme-autoriteit en de invoering van een meldplicht voor het gebruiken van ingrijpende algoritmen. In dit artikel zal verkend worden hoe de zorgplicht voor bestuursorganen een bijdrage zou kunnen leveren aan effectief toezicht in de bestaande toezichtrelaties.

Op 5 februari 2020 deed de Rechtbank Den Haag uitspraak in de veelbesproken SyRI-zaak. Volgens de rechtbank is het Systeem Risico Indicatie (SyRI), het veelbesproken systeem dat kan worden ingezet om fraude binnen het socialezekerheidsdomein op te sporen, in strijd met het recht op bescherming van privéleven zoals neergelegd in artikel 8 EVRM. Naast (vele) andere vragen roept de SyRI-uitspraak ook de vraag op wat de betekenis is van het bestuursrecht als het gaat om de rechtsontwikkeling ten aanzien van overheidstoezicht met behulp van zelflerende systemen.

Automatische systemen en zelflerende algoritmen rukken steeds verder op in de samenleving. De toepassing ervan is niet onomstreden: er is een groot aantal initiatieven, die ten doel hebben de rol van deze systemen in goede banen te leiden. Het toepassen van AI door toezichthouders heeft veel politieke en maatschappelijke aandacht: zo is tegen het gebruik van Syri, het systeem om fraude in de sociale zekerheid op te sporen, succesvol een rechtszaak aangespannen, en de effectiviteit van het systeem wordt betwist. Ook in de toeslagenfraudeaffaire zijn er al vragen opgekomen over het gebruik van data en de discriminerende werking van de algoritmes.