‘Computer says no...’ : Een verbod op geautomatiseerde besluitvorming?

Het beroemde ‘computer says no’ fragment uit Little Britain waar een baliemedewerkster van een ziekenhuis weigert een vrouw in bevalling te laten opnemen omdat de bevallingsdatum in de computer een week later staat ingeroosterd, illustreert op humoristische wijze de mogelijke schaduwkanten van geautomatiseerde besluitvorming. Het elimineren van menselijke tussenkomst in het besluitvormingsproces kan tot zeer onbevredigende resultaten leiden. In de huidige praktijk maken echter steeds meer organisaties gebruik van deze vorm van besluitvorming. Dit is niet zonder reden!


Big-data-analyse en profilering

Door de opkomst van big-data-analyse en profileringstechnieken die veelal een accurate voorspelling omtrent bepaald gedrag of persoonlijke kenmerken van een klant kunnen weergeven (zoals het voorspellen van de kredietwaardigheid van een potentiële klant), zien organisaties dikwijls weinig tot geen reden om nog een ‘menselijke schakel’ in het besluitvormingsproces te implementeren. Zo kunnen banken of webshops op basis van profielen geautomatiseerde besluiten nemen over het wel of niet accepteren van een consument als klant, terwijl op deze wijze ook de meest geëigende voorwaarden en tarieven van een bepaald krediet bepaald kunnen worden. Uit onderzoek is inmiddels gebleken dat sterk geautomatiseerde Europese bedrijven 7 keer meer kans hebben op een omzetgroei van meer dan 15%. In andere woorden: het minimaliseren van menselijke tussenkomst in besluitvormingsprocessen lijkt te lonen! De Europese Wetgever stelt zich vooralsnog terughoudend op ten opzichte van het gebruik van geautomatiseerde besluitvorming. In de AVG geldt als uitgangspunt dat organisaties mensen niet mogen onderwerpen aan een louter op geautomatiseerde verwerking (waaronder profilering behoort) gebaseerd besluit indien

i) hier voor hem rechtsgevolgen aan zijn verbonden of,
ii) het besluit hem anderszins in aanmerkelijke treft.

Het is op dit moment nog onzeker wat de Europese wetgever precies heeft bedoeld met 'anderszins in aanmerkelijke mate'. Het lijkt er op dat directe marketing door organisaties, zoals het aanbieden van een reis naar Florence nadat iemand hieromtrent informatie op Google heeft opgezocht, niet onder het verbod valt. Ook als het een besluit betreft dat rechtsgevolgen heeft voor de betrokkene of hem in aanzienlijke mate treft, zijn er in de AVG situaties opgenomen waarin het verbod niet geldt. In totaal zijn er drie uitzonderingen op het verbod op geautomatiseerde besluitvorming opgenomen.


Uitzonderingen op het verbod op geautomatiseerde besluitvorming

i) Wanneer dit noodzakelijk is voor de totstandkoming of de uitvoering van een overeenkomst tussen de betrokkene en een verwerkingsverantwoordelijke. 
ii) Wanneer de betrokkene zijn uitdrukkelijke toestemming heeft gegeven
iii)Wanneer dit is toegestaan bij een Unierechtelijke of lidstaatrechtelijke bepaling die op de verwerkingsverantwoordelijke van toepassing is en die ook voorziet in passende maatregelen ter bescherming van de rechten, vrijheden en gerechtvaardigde belangen van de betrokkene. 

Is er een uitzondering van toepassing, dan mag je in beginsel als organisatie gebruik maken van geautomatiseerde besluitvorming. Dit betekent echter niet dat hier geen nadere voorwaarden door de wetgever aan verbonden zijn! Zo heeft de betrokkene het recht om, via indiening van een inzageverzoek bij de desbetreffende organisatie, informatie op te vragen over de gebruikte persoonsgegevens en onderliggende logica van het genomen besluit. Ten slotte heeft de betrokkene altijd het recht om alsnog om een 'menselijk oordeel' te vragen over het reeds genomen besluit.

Het is aldus zeker van belang dat -indien u als organisatie gebruik maakt van geautomatiseerde besluitvorming- goed oppast of u wel aan de nieuwe regelgeving voldoet! Spaans&Spaans helpt u hier graag bij.