Publieke Controle op Algoritmes

Dat overheden techniek niet altijd verantwoord inzet, is onlangs breed in het nieuws uitgemeten bij de toeslagenaffaire. Onder de vlag van het programma Publieke Controle op Algoritmes werkt een consortium van 12 overheden aan beleidsinstrumenten om de controle op deze systemen te vergroten.

Algoritmekader

Hoe borgen we waarden en kaders in het toepassen van algoritmes? Welke risico’s gaan er gepaard met het gebruiken van algoritmes en hoe gaan we daarmee om?

Het Algoritmekader geeft antwoord op deze vragen en moet ervoor zorgen dat wij verantwoord algoritmes gebruiken. Dit doen wij door onze richtinggevende ethische waarden vast te stellen en overzicht te bieden van de spelregels – de geldende wettelijke, ethische en technische kaders. Daarnaast beschrijven we de besturing, vastlegging, verantwoording en toetsing van het geheel en brengen we in kaart hoe we grip houden op de risico’s.

Contactpersoon – Rotterdam: ys.raghoenath@rotterdam.nl

Algoritmeregister

Hoe zijn wij transparant in ons handelen? Hoe communiceren wij over de inzet van algoritmes? Welke informatie is nuttig om te delen met burgers, bedrijven en andere geïnteresseerden?

We werken aan een overzicht van algoritmes, een Algoritmeregister. Door in deze registratie aspecten van algoritmes op een begrijpelijke manier vast te leggen kunnen wij transparantie bieden en verantwoording af leggen. In het register kun je technische elementen terugvinden, zoals de dataverwerking of broncode, maar bijvoorbeeld ook afspraken tussen overheden en leveranciers of bijvoorbeeld een beschrijving van de werking van het algoritme.

Contactpersoon – Zuid-Holland: id.jansendings@pzh.nl

Contactpersoon – Noord-Brabant: aschoenmakers@brabant.nl

Inkoopvoorwaarden

Wanneer er algoritmes ingekocht worden zijn er speciale inkoopvoorwaarden nodig om te garanderen dat de leverancier aan aanvullende eisen voor algoritmes voldoet.

Er zijn bijvoorbeeld aanvullende afspraken nodig over de transparant en uitlegbaarheid van het product en over de toetsbaarheid van algoritmes in het geval van audits. Er zijn reeds Inkoopvoorwaarden geïmplementeerd bij de gemeente Rotterdam; die voorwaarden worden doorontwikkeld.

Contactpersoon – Rotterdam: ys.raghoenath@rotterdam.nl

Bezwaarprocedures

Burgers en bedrijven kunnen via een bezwaarprocedure bezwaar maken op een besluit van de overheid. Je wilt het besluit begrijpen en je wilt zien dat het eerlijk gegaan is. Maar hoe zit dat als een besluit is genomen door een algoritme?

Als je het niet eens bent met een besluit van de gemeente (zoals een boete of belasting) kun je bezwaar maken. We onderzoeken of burgers en bedrijven duidelijke en volledige informatie krijgen als ze bezwaar maken tegen een besluit waar een algoritme bij betrokken was. 

Contactpersoon – Amsterdam: l.fliert@amsterdam.nl

Instructiekit

Er gebeurt zoveel in dit beleidsveld. Hoe kun je als overheid hoofd- van bijzaak scheiden? Welke instrumenten heb je je als overheid nodig?

De instructiekit biedt overzicht in hoe Publieke Controle ingericht moet worden. Zo wordt er een routekaart ontwikkeld om van informatiebehoefte naar product te gaan en wordt er getoond welke vraagstukken beantwoord moeten worden en welk instrumenten daar een helpende hand biedt. Dit consortium ontwikkeld bijvoorbeeld al een hand vol instrumenten, maar ook op landelijk en Europees niveau komen continue nieuwe instrumenten uit. Het doel is om een gebruiksvriendelijk prototype op te leveren.

Contactpersoon – Rotterdam: ys.raghoenath@rotterdam.nl


Wil je meer weten?