Boekbespreking. Artificiële intelligentie en algoritmes krijgen veel belangstelling van zowel de politiek als de samenleving. Onder de noemer ‘AI’ worden veel algoritmes ingezet en wordt gebruikgemaakt van bijvoorbeeld machine learning. Zowel overheden als private organisaties zetten AI in. Deze inzet zorgt voor ongekende mogelijkheden, maar brengt overheden en grote techbedrijven ook in een nog machtigere positie dan nu al het geval is. De inzet van algoritmes door zowel overheden als bedrijven kan grote gevolgen hebben voor burgers. Dit kan risico’s met zich brengen en leidt tot een sterkere roep om passend toezicht op systemen die gebruik maken van AI en algoritmes, zo concludeerde bijvoorbeeld ook de Autoriteit Persoonsgegevens in december 2020 in het beleidsdocument ‘Toezicht op AI & algoritmes’.

In dit boek plaatst Passchier de opkomst van AI in een rechtsstatelijk perspectief. De verschuivingen en concentraties van macht bij zowel overheden als grote techbedrijven die AI met zich brengt, roepen vragen op. In het boek gaat Passchier in op een aantal van die vragen, waarbij hij focust op de rechtsstaat. Centraal staat de betekenis van de opkomst van AI voor de constitutionele borging van de rechtsstaat.

Na een korte omschrijving van de opkomst van AI, worden in een aantal hoofdstukken de belangrijkste rechtsstatelijke problemen besproken. Deze hoofdstukken bouwen steeds op elkaar voort en bevatten tezamen een analyse van de eerdergenoemde betekenis van AI voor de rechtsstaat.

Allereerst gaat Passchier in op de invloed die AI heeft op het evenwicht binnen de trias politica. In dat hoofdstuk – gebaseerd op een eerder in Ars Aequi gepubliceerd artikel (AA20200916) – bespreekt hij hoe vooral het overheidsbestuur profiteert van AI en dat dit gebruik van algoritmes het bestuur tegelijkertijd complexer en moeilijker te controleren maakt. Vervolgens behandelt Passchier de verhouding tussen AI en wetgeving. Hij concludeert dat verregaande digitalisering legaliteitskwesties met zich brengt waar het bestuursrecht nog geen antwoord op lijkt te hebben. In de woorden van Passchier: ‘een onuitgewerkt beginsel zegt een computer niets’, waardoor programmeurs die de beginselen van behoorlijk bestuur moeten ombouwen tot een algoritme belangrijke rechtsvormende keuzes maken en zo regelgevende macht over burgers uitoefenen. Daarna constateert Passchier dat AI het primaat van de wetgever verder kan ondermijnen. Hij onderscheidt hierbij elf belangrijke gevaren die op de loer liggen, zoals een verdere verknoping van de overheid met private ondernemingen, de creatie van een Black Box Society, en de mogelijkheden voor grote techbedrijven om eenzijdig dwingende regels (zoals code of algoritmes) vast te stellen voor burgers.

Ten slotte voegt Passchier nog een element toe aan zijn analyse, namelijk het vermogen van de overheid om voldoende te handhaven binnen haar eigen territorium. Globalisering wordt gezien als een ontwikkeling die de slagkracht van overheden beperkt. Hier speelt als nadeel dat overheden sterk aan een territorium gebonden zijn, terwijl techbedrijven globaal handelen. Enerzijds kan AI de overheid versterken (door analysetools in te zetten bij de handhaving van rechtsregels met betrekking tot burgers), anderzijds kan AI het handhavende vermogen van de overheid ondermijnen (doordat overheden niet in staat zijn om ook bij ‘corporate AI-kampioenen’ te handhaven). Bij dit laatste punt wordt verwezen naar een aantal voorbeelden, zoals het onvermogen voor overheidsorganen om Facebook politieke verantwoording te laten afleggen voor het Cambridge Analytica-schandaal of het vermeende markmisbruik door Google aan te pakken.

Gelukkig stopt het boek niet na deze opsomming van problemen en risico’s. In het laatste hoofdstuk doet Passchier een aantal suggesties voor ‘constitutioneel onderhoud’. Hij is hoopvol: er valt nog iets te doen aan de ondermijning van de constitutionele borging van de rechtsstaat door AI. Voor elk van de hierboven genoemde problemen (disbalans binnen de trias, effectiviteit van wetgeving, het primaat van de wetgever, en de handhaving van de rechtsstaat) bestaan de nodige potentiële oplossingen. Genoemd worden onder meer: meer ondersteuning voor parlementariërs en rechters, een juridische status voor algoritmes, preciezer wetgeven door wetten algoritmisch te omschrijven, en nadenken over de juridische regulering van data.

Het boek leest eenvoudig en prettig weg. Op overzichtelijke wijze – onder meer door de zeer toegankelijke schrijfstijl – passeert een flink aantal grote problemen de revue. Het doel van het boek is duidelijk niet om deze problemen op doorwrochte wijze van een juridische analyse te voorzien. In plaats daarvan gaat het boek in vogelvlucht, als een soort verkenning, door tal van onderwerpen. Het boek lijkt dan ook minder bedoeld voor juristen, maar meer voor bezorgde burgers, politici, beleidsmakers, en beleidsadviseurs. Voor deze partijen is het een zeer geschikt boek om te leren over de betekenis van de opkomst van AI voor de effectiviteit van de rechtsstatelijke instituties.

Wellicht dat het boek vooral ook gezien kan worden als een waarschuwing voor de overheid om AI nu toch écht aan te gaan pakken en verder te reguleren. Het is dan ook positief dat het boek van Passchier past in een lijn van aandacht voor AI en algoritmes. Naast het eerdergenoemde beleidsdocument van de AP, heeft ook de Ombudsman recent een ‘ombudsvisie op behoorlijk gebruik van data en algoritmen door de overheid’ gepubliceerd, heeft de rechtbankuitspraak in de zaak SyRI (ECLI:NL:RBDHA:2020:865) veel aandacht gekregen en houdt ook het Europees Parlement zich actief bezig met de regulering van AI.

Het boek van Passchier geeft een overzichtelijk beeld van de huidige problemen op het kruispunt van AI en de rechtsstaat. Zoals Passchier ook concludeert is zijn heldere boodschap dat er moet worden nagedacht over hoe de rechtsstaat ‘ook in de toekomst duurzaam en effectief kan worden geborgd’. (MR)

R. Passchier
Artificiële intelligentie en de rechtsstaat. Over verschuivende overheidsmacht, Big Tech en de noodzaak van constitutioneel onderhoud
Den Haag: Boom juridisch 2021, 149 p., € 24,90