Algoritme Effect Beoordeling


Inzicht in risico’s van algoritmegebruik in een toepassing

Het gebruik van algoritmen wordt steeds gebruikelijker bij besluitvorming, signaalgestuurd werken, inzet van capaciteiten en het toewijzen van diensten, goederen en regelingen. Algoritmen kunnen ingezet worden bij de uitvoering van een complexe taak, of juist bij een repeterende taak. Een algoritme is snel, consistent, effectief en altijd beschikbaar. Een algoritme is alleen informatief of geeft een sterke aanbeveling, waarna een mens de besluitvorming doet. In andere situaties wordt het besluit of de actie automatisch uitgevoerd op basis van het algoritme.

 

aeb-afbeelding-1.png

Bij personen of groepen die te maken krijgen met een besluit of actie kan ook ongerustheid ontstaan op dit algoritme. Wat is de werking? Kunnen je gegevens ook tegen je worden gebruikt of op een manier die je niet verwacht? Met wie of wat worden je gegevens vergeleken? Als de mens in de toepassing alleen nog maar als een stuk data of als een machine wordt beschouwd, ligt ook het risico van ontmenselijking op de loer. Dit risico bestaat ook als het categoriseren een te groot zelfversterkend effect krijg in de behandeling van een persoon of een groep. Fouten, vooroordelen en risico’s kunnen alom aanwezig zijn vanuit de gebruikte vergelijkingsdata en de beslisregels van het algoritme, maar ook in het gebruik en beheer van het algoritme in de toepassing.

 

Hoe ga ik om met algoritmerisico’s?

Op de aanpak van risico’s is in ieder geval het volgende van belang:

  • Er bestaan diverse acceptabele principes op het gebruik en toepassen van algoritmen en artificial intelligence. Door bij medewerkers en besluitvormers de kennis hierop te vergroten, wordt het toepassen en inpassen van algoritmen in de bedrijfsprocessen en de sturing hierop genormaliseerd.
  • De directie dient de verantwoording (accountability) op het gebruik in te richten en uit te voeren. De Algoritme Effect Beoordeling is daar één onderdeel van.
  • Een algoritme moet uitlegbaar zijn, controleerbaar zijn en aantoonbaar doeltreffend.
  • Het algoritme moet rechtvaardig zijn zonder voorkeursbehandeling of discriminatie.

 

Doel van de Algoritme Effect Beoordeling

Met de Algoritme Effect Beoordeling brengen wij de risico’s van het algoritmegebruik binnen een toepassing in kaart. Bovendien geeft de beoordeling richting op maatregelen om die risico’s te beperken. Hiermee krijgen de besluitvormers meer inzicht in het te voeren beleid rond die toepassing. Ook is de rapportage bruikbaar als onderdeel van de verantwoording van het algoritmegebruik.

 

Algoritme Effect Pre-Beoordeling

De Pre-Beoordeling is een vragenlijst waarmee u zelf al een beeld opbouwt van de type risico’s of aspecten die nog onduidelijk zijn. Op basis hiervan kunt u besluiten óf en op welke wijze (scope/diepgang) een Algoritme Effect Beoordeling moet worden uitgevoerd. Voor deze Pre-Beoordeling en de bespreking hiervan berekenen wij geen kosten.

 

Algoritme Effect Beoordeling

De Algoritme Effect Beoordeling is een kort traject met de volgende stappen:

  1. Intake
  2. Workshop van een halve dag. Hierin worden awareness op algoritmegebruik en AI-principes besproken. Daarnaast beoordelen we samen met de deelnemers een vijftiental risicotypes op impact, draagvlak, verantwoording en ontwerp- en uitvoering.
  3. Opstellen van een rapportage bestaande uit de karakterisering en risico’s van de algoritmetoepassing en aanbevelingen op mitigerende maatregelen.
  4. Bespreking van de rapportage met de opdrachtgever.

 

Inpassing in DPIA-proces

Het sturen op algoritmegebruik heeft een sterke parallel met het sturen op gegevensbescherming/privacy. Beide zijn mens georiënteerd, risico georiënteerd en vragen verantwoording, transparantie, sturing en engineering. In veel situaties zal een algoritmetoepassing ook een Data Protection Impact Assessment (DPIA) eisen. De Algoritme Effect Beoordeling kan worden ingepast in het DPIA-proces.

 

Eerste stap

Wilt u de Algoritme Effect Pre-Beoordeling aanvragen? Neem dan contact met ons op. Via deze snelle beoordeling en korte bespreking heeft u een eerste beeld van de mogelijke risico’s van het algoritmegebruik in een toepassing. Aan deze beoordeling en kennismaking zijn geen kosten verbonden.