Algoritme Effect Beoordeling

De kick-off data-ethiek is vooral gericht op het overkoepelende verhaal. In de Algoritme Effect Beoordeling (AEB) nemen we een specifieke toepassing onder de loep.

Inzicht in risico's van algoritmegebruik in een toepassing

Het gebruik van algoritmen wordt steeds gebruikelijker bij besluitvorming, signaalgestuurd werken, inzet van capaciteiten en het toewijzen van diensten, goederen en regelingen. Algoritmen kunnen ingezet worden bij de uitvoering van een complexe taak, of juist bij een repeterende taak. Een goed algoritme is snel, consistent, effectief en altijd beschikbaar. Een algoritme is alleen informatief of geeft een sterke aanbeveling, waarna een mens de besluitvorming doet. In andere situaties wordt het besluit of de actie automatisch uitgevoerd op basis van het algoritme.
Bij personen of groepen die te maken krijgen met een besluit of actie kan ook ongerustheid ontstaan over dit algoritme. Wat is de werking? Kunnen je gegevens ook tegen je worden gebruikt, of op een manier die je niet verwacht? Met wie of wat worden je gegevens vergeleken? Als de mens in de toepassing alleen nog maar als een stuk data of als een machine wordt beschouwd, ligt ook het risico van ontmenselijking op de loer. Dit risico bestaat ook als het categoriseren een te groot zelfversterkend effect krijg in de behandeling van een persoon of een groep. Fouten, vooroordelen en risico’s kunnen alom aanwezig zijn vanuit de gebruikte vergelijkingsdata en de beslisregels van het algoritme, maar ook in het gebruik en beheer van het algoritme in de toepassing.

Hoe ga ik om met algoritmerisico's?

Er bestaan diverse principes voor het intege ontwerpen en toepassen van algoritmen en AI. Een algoritme moet uitlegbaar zijn, controleerbaar zijn en aantoonbaar doeltreffend.
Het algoritme moet rechtvaardig zijn zonder voorkeursbehandeling of discriminatie. Door bij medewerkers en besluitvormers de kennis hierover te vergroten, wordt het toepassen en inpassen van algoritmen in de bedrijfsprocessen en de sturing hierop genormaliseerd.
De directie dient de verantwoording (accountability) over het gebruik in te richten en uit te voeren. De Algoritme Effect Beoordeling legt daarvoor de basis.

Doel van de AEB

Met de Algoritme Effect Beoordeling brengen wij de impact van het gebruik van een algoritme binnen een toepassing in kaart. Dus naast de risico's ook de voordelen, want het gaat om het hele plaatje. Maar we houden niet op bij het vaststellen van de risico's: we benoemen ook maatregelen die je kunt nemen om die risico’s te beheersen. Hiermee krijgen de besluitvormers meer inzicht in het te voeren beleid rond de toepassing. Ook is de rapportage bruikbaar als onderdeel van de verantwoording van het algoritmegebruik.

Pre-beoordeling

De pre-beoordeling is een vragenlijst die je helpt om voor jezelf een beeld op te bouwen van de soorten risico’s of aspecten die nog onduidelijk zijn. Op basis hiervan kun je besluiten of, en zo ja op welke wijze en met welke mate van diepgang het wenselijk is om een Algoritme Effect Beoordeling uit te voeren. We lopen de vragenlijst samen met je langs. Hiervoor berekenen wij geen kosten.

Algoritme Effect Beoordeling

De Algoritme Effect Beoordeling is een kort traject met de onderstaande stappen.
  • Intake
  • Workshop van een halve dag. Hierin worden awareness op algoritmegebruik en AI-principes besproken. Daarnaast beoordelen we samen met de deelnemers vijftien soorten risico's, op de gebieden impact, draagvlak, verantwoording, en ontwerp en uitvoering.
  • Opstellen van een rapportage bestaande uit de karakterisering en risico’s van de algoritmetoepassing en aanbevelingen voor mitigerende maatregelen.
  • Bespreking van de rapportage met de opdrachtgever.

Inpassing in DPIA

Het sturen op algoritmegebruik heeft een sterke parallel met het sturen op dataprotectie en privacy. Beide zijn mens- en risicogeoriënteerd en vragen om verantwoording, transparantie, sturing en engineering. In veel situaties zal een algoritmetoepassing ook een Data Protection Impact Assessment (DPIA) eisen. De Algoritme Effect Beoordeling kan naadloos worden ingepast in het DPIA-proces, zodat je dubbel werk voorkomt.

Eerste stap

Wil je de Algoritme Effect Pre-Beoordeling aanvragen? Neem dan contact met ons op. Via deze snelle beoordeling en korte bespreking krijg je een goed eerste beeld van de mogelijke risico’s van het algoritmegebruik in een toepassing. Aan deze beoordeling en kennismaking zijn geen kosten verbonden.

Samenwerking

De Algoritme Effect Beoordeling is een gezamenlijk initiatief van Goedzo data-ethiek en Privacy Management Partners.
Neem contact met ons op

Kick-off data-ethiek

Data-ethiekpresentatie voor bestuur/directie
Data-ethiekworkshop
Data-ethische code/beleid
Catalogus van data-ethische dilemma's
Training medewerkers
Algoritme Effect Beoordeling
Data-ethiek governance
Eindrapportage