MR. SPECIAL VOORJAAR 2026 / 21 AI & transparantie Volgens Van de Kooi zijn er nog de nodige hordes te nemen voordat technologie als AI het werk van een jurist écht efficiënter of makkelijker maakt. Dat heeft niet in de laatste plaats te maken met het feit dat AI voor de gemiddelde jurist nog een complete black box is: je stopt er input in, er komt output uit, maar wat er ondertussen gebeurt? Dat kan niemand je echt goed uitleggen. En dat kan de jurist dus ook de cliënt niet goed uitleggen. Hoog tijd dus om AI te ‘demystificeren’, zoals Van de Kooi het noemt. Demystificeren begint met definiëren. Hoe zou u legal AI definiëren, en welke verkeerde interpretaties gaan hierover rond? “Legal AI is het gebruik van AI binnen juridische processen en besluitvorming. Dat kan variëren van generatieve AI, die juridische teksten samenvat of concepten opstelt, tot toepassingen die met behulp van AI juridische informatie doorzoeken, analyseren of structureren. Een belangrijk probleem bij legal AI is dat veel juristen onvoldoende zicht hebben op wat er achter zulke systemen schuilgaat. AI-toepassingen bevatten ontwerpkeuzes, trainingsdata en belangen waar juristen vaak beperkt zicht op hebben. Juristen hoeven geen AI-engineers te worden, maar moeten wel kritisch kunnen beoordelen hoe AI-systemen functioneren en welke gevolgen dat heeft voor juridisch werk. Verkeerde interpretaties ontstaan vaak door een gebrek aan kennis. Daardoor ontstaan misvattingen zoals: “AI is neutraal en objectief”, “AI begrijpt recht zoals een jurist”, “meer data leidt automatisch tot betere juridische kwaliteit”, “AI is een puur technisch vraagstuk”, “als AI tijd bespaart of geld oplevert, is dat automatisch een verbetering” en “AI-geletterdheid betekent leren prompten”. Op al die, veelgehoorde, interpretaties is veel af te dingen.” We hebben deze serie de Legal AI Black Box genoemd, juist omdat het voor veel juristen lastig is om op verschillende |facetten van AI goed grip te krijgen. Waarom is dat zo, denkt u? “AI raakt veel verschillende facetten tegelijk: technologie, data, ethiek, ontwerpkeuzes, organisatieprocessen, Ilona van de Kooi (Provincie Zuid-Holland en Justice by Design Lab TU Delft) “DOOR EEN GEBREK AAN KENNIS ONTSTAAN ER MISVATTINGEN OVER OBJECTIVITEIT VAN AI” communicatie en commerciële belangen. Dat vraagt een bredere blik dan juristen traditioneel gewend zijn. Veel organisaties ontdekken daardoor dat AI niet simpelweg aan bestaande werkprocessen kan worden toegevoegd. Eerst moet duidelijk zijn hoe die processen eigenlijk functioneren. Daarnaast ontwikkelt AI zich sneller dan veel organisaties organisatorisch kunnen bijbenen. Disciplines kijken fundamenteel anders naar AI, waardoor misverstanden ontstaan over risico’s en verantwoordelijkheden. Verantwoord AI-gebruik vraagt multidisciplinaire samenwerking en institutionele reflectie.” In een column op Mr. Online noemde u AI-geletterdheid onder juristen onlangs een “collectieve randvoorwaarde om het beroep zorgvuldig uit te oefenen”. Niet alleen voor juristen die bewust de keuze maken veel met AI te gaan doen, maar voor álle juristen. Kunt u dat toelichten? “AI-geletterdheid is geen specialistische vaardigheid meer, maar een basisvoorwaarde voor zorgvuldige beroepsuitoefening. AI beïnvloedt inmiddels vrijwel iedere juridische werkomgeving: in zoekmachines, tekstverwerkers, e-mailsystemen en digitale werkprocessen. Juist daarom moeten juristen voldoende begrijpen van de werking, beperkingen en aannames van zulke systemen om
RkJQdWJsaXNoZXIy ODY1MjQ=