MR. 4 2024 / 49 artificial intelligence CHATGPT KAN GEEN VONNISSEN SCHRIJVEN (MAAR WEL HANDIG ZIJN VOOR RECHTERS) Bij digitale geschilbeslechting denken mensen vaak aan de voordelen: procedures gaan sneller, zijn goedkoper, effectiever en efficiënter. “Allemaal waar”, zegt Elke Olthuis, universitair docent recht en samenleving aan de Universiteit van Amsterdam. “Maar we weten niet of mensen dat waardevoller vinden dan menselijke rechtspraak.” Om dat te onderzoeken heeft ze samen met collega-onderzoeker Anna van Duin (universitair hoofddocent aan de UvA) een studie opgezet. Ze vragen in een kwantitatief onderzoek aan bijna tweeduizend mensen wat ze vinden van een menselijke en een digitale rechter, en kijken later naar het waarom achter de antwoorden. Otlhuis, die als wetenschapper onderzoek doet naar rechterlijke besluitvorming, ziet kansen voor AI. “Als je via je telefoon een hele procedure kunt voeren is dat in potentie heel fijn. Je weet alleen niet wat de procedurele waarborgen zijn.” Ethische vragen Olthuis kan op basis van eerdere studies voor- en nadelen noemen van ‘AI-vonnissen’, vooral voor de toegang tot het recht. “In Australië en het Verenigd Koninkrijk heb je gebieden waar steeds meer rechtbanken verdwijnen, of waar ze nooit zijn geweest”, stelt ze. “Voor burgers daar kan digitale geschilbeslechting een enorme verbetering zijn vanuit het oogpunt van toegang tot het recht.” Ze benoemt ook de nadelen: “We kunnen niet altijd de waarborgen garanderen die we hebben ingebouwd in de rechtspraak. Kun je rechterlijke waarden vertalen in een AI-systeem? Ik weet het niet, het is toch mensenwerk. Een rechter kan de persoon zien om wie het gaat en waarom die persoon bepaalde keuzes heeft gemaakt. Dat kan AI op dit moment niet.” Ook vanuit de ethiek zijn er serieuze vragen: “Wij juristen weten niet altijd hoe AI werkt, maar we implementeren het al wel in sommige beroepen. Daar moeten we meer naar kijken voordat we de AI-trend omarmen. Verder is deskundigheid van de makers ook noodzakelijk. Weten ze hoe de rechtspraktijk werkt en wat daarvoor noodzakelijk is?” Commotie Dat AI-gebruik door rechters tot commotie kan leiden, bleek na het bekend worden van een uitspraak van de kantonrechter van de rechtbank Gelderland. Toen duidelijk werd dat de kantonrechter ChatGPT had gebruikt om de gemiddelde levensduur van zonnepanelen vast te stellen, volgde op (sociale) media een stortvloed aan commentaren, waarvan een aantal zeer negatief. Rachel Rietveld, UvA-docent en onderzoeker gespecialiseerd in AI en recht, noemde de Gelderse uitspraak ‘zorgwekkend’. Volgens Rietveld is ChatGPT niet meer dan een statistisch model dat woorden voorspelt. “Het leent zich daarom slecht voor toepassing in de rechtspraak”, zei ze tegen BNR Radio. De kantonrechter wil geen commentaar geven op het vonnis omdat “rechters door hun vonnis spreken.” De woordvoerster van de rechtbank Gelderland geeft wel een toelichting. “In deze zaak moest de rechter bepalen of de eiser recht had op een schadevergoeding omdat de opbrengst van zijn zonnepanelen was verminderd door de nieuwe opbouw van zijn buurman. De rechter heeft naast de jurisprudentie en de informatie van partijen ook ChatGPT geraadpleegd. Doorslaggevend voor de afwijzing van de vordering zijn deze gegevens echter niet geweest.” Na het bekend worden van het vonnis zette Marc de Werd (raadsheer bij het gerechtshof Amsterdam en hoogleraar Europese rechtspleging aan de UvA) op LinkedIn een paar kritische kanttekeningen bij AI-gebruik door rechters: “Kunstmatige intelligentie is verre van ‘intelligent’. AI kan niet denken en niet juridisch redeneren.” De Werd ziet gevaren als ChatGPT in een vonnis als een kennisbron wordt opgevoerd. “Dan rijst al snel de principiële vraag of nog wel sprake is van een (deugdelijke) motivering, en zelfs de vraag of we nog wel van een ‘rechter’ kunnen spreken.” Terughoudend De Rechtspraak is terughoudend met de toepassing van AI. “AI brengt complexe juridische en ethische vragen met zich mee”, verklaart een woordvoeder van de Raad voor de rechtspraak. “Op deze vragen moet eerst antwoord komen voordat AI-systemen ingezet kunnen gaan worden.” Er wordt daarom gewerkt aan een visie over AI binnen de Rechtspraak. “In ieder geval zal AI in de nabije toekomst nog geen rol spelen bij oordeelsvorming”, zegt de woordvoerder. “Maar AI-systemen kunnen rechters en gerechtsjuristen wél ondersteunen bij hun werk.” Elke Olthuis (Universiteit van Amsterdam) daar uit via drag en drop (verslepen van tekst uit bestaande basiscontracten) kiezen welke definities en welke artikelen we willen gebruiken”, licht Bakermans toe. De advocaten van Penrose gebruiken de AI-uitkomst als een startpunt. “Je kunt het niet een-op-een doorsturen, je moet het controleren”, zegt Bakermans. Witsenburg noemt de AI-suggesties “een vliegende start van het werkproces”. “Ik moest laatst vragen beantwoorden over een Europese richtlijn van 360 pagina’s. Zonder AI kost het me uren om dat te doorgronden. AI helpt je meteen de Mede door het gebruik van ChatGPT in een vonnis van een kantonrechter van de rechtbank Gelderland is AI-gebruik door rechters de laatste tijd volop onderwerp van discussie. De Rechtspraak is terughoudend met de toepassing van kunstmatige intelligentie. “Er moet eerst antwoord komen op een aantal complexe juridische en ethische vragen voordat AI-systemen ingezet kunnen gaan worden.”
RkJQdWJsaXNoZXIy ODY1MjQ=