Bart Custers: 'AI kan vonnissen voorspellen, maar pas wel op voor Kafka'

Wat rechters kunnen, kan een kunstmatig intelligent systeem in principe ook. Zo'n systeem kan een objectief voorstel doen voor een vonnis. Een rechter moet dat voorstel wel altijd checken, vindt prof. dr. Bart Custers, hoogleraar Law and Data Science en afdelingshoofd van eLaw, rechtenfaculteit Universiteit Leiden.

Volgens Custers, zowel jurist als technisch natuurkundige, duurt het nog even voordat AI de rechtszaal betreedt. 'In de VS voorspellen zulke tools al wel of het rendabel is om een advocaat in de arm te nemen. Bij een tegenvallende eBay-aankoop van honderd dollar is procederen sowieso niet de moeite, maar kan AI snel en goedkoop vonnissen.'

Bart Custers, hoogleraar Law and Data Science en afdelingshoofd van eLaw

AI-systemen helpen junior-advocaten

In Nederland helpen AI-systemen junior-advocaten die bij advocatenkantoren het uitzoekwerk doen: zij hoeven niet meer zelf alle relevante eerdere rechtspraak en wetgeving op te zoeken. Custers: 'Problematisch is nu nog wel dat zulke systemen net zoals Google niet iedereen dezelfde resultaten aanbieden. Ik laat studenten tijdens college soms allemaal hetzelfde googelen en elkaars resultaten bekijken. Dan ontdekken ze dat ze allemaal in hun eigen bubbel leven.'

Vermalen tussen de raderen

Custers richt zich behalve op technische mogelijkheden ook op de regulering van kunstmatige intelligentie. 'Buren op nummer 187 en 187A ontdekten dat de premie voor hun woonverzekering verschilde. De verzekeraar had uit een databank gehaald dat bewoners van A-huisnummers een afwijkend risicoprofiel hebben. Juridisch mag dat. Maar moreel vinden we misschien van niet. Dan moeten we de regels aanpassen, zodat mensen niet vermalen kunnen worden tussen de raderen van de techniek. We willen geen Kafka-samenleving.'

Tekst: Rianne Lindhout
Foto: Patricia Nauta

Lees het hele artikel op de AI-themapagina van de Universiteit Leiden

AI Leiden

 

Meer informatie vindt u op:
Artificial Intelligence Universiteit Leiden
eLaw - Centrum voor Recht en Digitale Technologie