Dat algoritmische toepassingen steeds meer mogelijkheden bieden, is oud nieuws. Dat overheden deze toepassingen steeds meer inzetten voor hun dienstverlening, is allang bekend. Dat de Paus van mening is dat artificiële intelligentie (AI) de wereld een betere plek kan maken, hebben we ook al zo vaak gehoord.
Wacht, de Paus die zich positief uitspreekt over AI?
Jazeker. De Paus heeft laatst in een videoboodschap laten weten dat artificiële intelligentie de wereld een betere plek kan maken. Mits deze wordt ingezet voor het algemene goed. In deze boodschap vraagt hij ook aan alle (1,3 miljard) christenen om te bidden dat deze technologische ontwikkeling altijd ten dienste van de mens zal blijven staan.
De Paus slaat de spijker op z’n kop
Een bijzondere uitspraak vanuit het Vaticaan, vooral gezien de historische relatie van de kerk met technologische ontwikkelingen. Door de geschiedenis heen is te zien dat menig wetenschapper, zacht uitgedrukt, tot een halt is geroepen door de kerk. Maar deze historische plottwist is niet het enige opmerkelijke aan zijn uitspraak. Hij benoemt in zijn boodschap nog iets. Namelijk: “mits deze wordt ingezet voor het algemene goed”. Waaraan hij toevoegt dat technologische ontwikkelingen die ongelijkheden in de maatschappij vergroten, geen ware vooruitgang betekenen. Daarmee slaat de Paus de antieke spijker op z’n kop.
AI voor een mooiere wereld
Het inzetten van algoritmische toepassingen brengt ons veel goeds. Het helpt overheden om efficiëntere en effectievere diensten te leveren aan de burger. Een mooi voorbeeld hiervan vind je in Amsterdam. Daar kunnen burgers meldingen over de openbare ruimte op een simpele manier doorgeven, via een applicatie. Denk bijvoorbeeld aan een melding over rondslingerend afval. Het algoritme zorgt ervoor dat deze melding direct naar de juiste afdeling wordt doorgezet en afval kan zo al binnen 24 uur worden opgehaald. Daarnaast stellen ze door middel van analyses slimmere afvalroutes op.
Maar er is ook een keerzijde…
Helaas kan datzelfde mooie idee ook ongelijkheid creëren. Bijvoorbeeld voor burgers die niet zo handig zijn met digitale formulieren. En wat als jij en je buren nooit iets doorgeven? Dat zou kunnen betekenen dat afval minder of niet wordt opgehaald in je buurt. Gelukkig komt dit laatste nog niet voor, omdat er altijd nog een ambtenaar bovenop zit om dit soort ongelijkheden te voorkomen. Aan dit eenvoudige voorbeeld is te zien hoe het gevaar voor ongelijkheid zich kan nestelen in de meest onverwachte en vriendelijke hoeken van een algoritmische toepassing. Zoals Louis Brandeis (bedenker en schrijver van het eerste privacy artikel eind 1800) ooit zei¹: “Experience should teach us to be most on our guard to protect liberty when the government’s purposes are beneficent. Men born to freedom are naturally alert to repel invasion of their liberty by evil-minded rulers. The greatest dangers to liberty lurk in insidious encroachment by men of zeal, well-meaning but without understanding.”
Er is meer mogelijk dan alleen bidden
Om dit soort nadelige effecten te voorkomen vragen AI en andere algoritmische toepassingen om nauwkeurige toetsing. PMP heeft daarom de Algoritme Effect Beoordeling ontwikkeld. Hiermee helpen we organisaties om de risico’s van hun toepassing in kaart te brengen en adviseren we over maatregelen. Want al zijn we het helemaal met de Paus eens dat ongelijkheden voorkomen moeten worden, er is natuurlijk meer mogelijk dan slechts bidden.
Meer weten over Algoritme Effect Beoordeling? Neem contact met ons op.
¹ Zoals uitgesproken in de zaak Olmstad v US (1928), quote via: https://www.goodreads.com/quotes/26449-experience-should-teach-us-to-be-most-on-our-guard
