MR. SPECIAL VOORJAAR 2026 / 45 AI & kernwaarden “SNELHEID, GEMAK EN EFFICIËNTIE KUNNEN BOTSEN MET ANDERE BELANGRIJKE WAARDEN” tenminste in theorie. In de praktijk roept het principe van menselijke controle nog vele open vragen op: welke kennis, bevoegdheden en voorzieningen moet een mens hebben om een AI-systeem effectief te kunnen controleren? Wie moet de controle uitoefenen: een rechter? Een IT-expert? Een onafhankelijke instantie? En is controle aan de achterkant wel genoeg? Moet de “human in the loop” niet veel eerder worden ingeschakeld, bijvoorbeeld al bij de vraag welk AI-systeem om welke redenen wordt ingekocht? Ook weten we dat het vermogen van mensen om effectief toezicht uit te oefenen door vele factoren beïnvloed kan worden, bijvoorbeeld door ‘automation bias’ (het vertrouwen dat de AI bij twijfel gelijk heeft) of ‘de-skilling’ (het verlies van kennis en het vermogen om kritisch op het AI-systeem te kunnen reflecteren). De verantwoordelijkheid van de AI-fabrikant houdt daarom zeker niet op bij het leveren van het systeem. Zonder doorgaande informatie-uitwisseling en actieve samenwerking met de fabrikant is het nauwelijks mogelijk om effectieve menselijke controle uit te oefenen, en menselijke controle alleen is geen voldoende garantie voor de betrouwbaarheid van de output.” U heeft recentelijk ook onderzoek gedaan naar aanbieders van AI-ondersteunde juridische startups in onder meer de VS. Wat was de meest opvallende bevinding uit dat onderzoek? “Vooral in de VS, maar ook in Europa, zien we meer en meer ‘justice as a service’-diensten opkomen. Online dienstverlening die juridische hulp belooft bij huur- of arbeidsconflicten, een echtscheiding, parkeerboetes en meer. Het is bijzonder interessant om te kijken welke partijen of welke expertises een rol spelen bij het oprichten van deze diensten. Wat opvallend is, is dat aan veel van deze diensten geen of nauwelijks juridische expertise te pas komt, maar dat het vooral technische experts zijn die de dienst ontwikkelen en aanbieden.” Wat is het meest hardnekkige misverstand over legal AI dat u graag uit de wereld zou helpen? “Een veelgehoord misverstand is dat het bij AI en innovatie met AI vooral om technologische uitdagingen gaat. AI is echter evenzeer een maatschappelijke en institutionele uitdaging als een technische. Wanneer het gaat over juridische AI, ligt de focus te vaak uitsluitend op de technische mogelijkheden en wat de technologie wel of niet kan, en veel minder op de manier waarop het functioneren van de technologie het resultaat is van de wisselwerking met mensen, en van de institutionele, juridische en organisatorische vernieuwingen die nodig zijn om juridische AI te laten leiden tot eerlijkere en betere beslissingen en juridische dienstverlening. Er bestaat geen verantwoorde AI zonder instellingen en professionals die in staat zijn AI op een verantwoorde manier in te zetten.” Is er ook een ontwikkeling op het gebied van legal AI waar u zich zorgen over maakt? “Ik vind het zorgelijk dat we steeds weer horen hoe advocaten en rechters AI inzetten zonder goed te begrijpen wat de technologie wel of niet kan. De mogelijke gevolgen voor het vertrouwen in de rechtspraak, maar ook in AI, zijn funest. AI-geletterdheid is niet alleen voor burgers, maar vooral ook voor juridische professionals van belang. In dit kader was ik ook onaangenaam verrast dat in de discussies rond de Europese AI Omnibus werd voorgesteld om de juridische verplichtingen rond AI-geletterdheid voor professionele gebruikers te verzwakken. Een significant deel van juridische AI-systemen valt niet onder de hoog-risicobepalingen van de AI Act. Voor dit soort AI-systemen is de verplichting voor aanbieders en professionele gebruikers om te zorgen voor voldoende AI-geletterdheid bij hun medewerkers de meest relevante juridische verplichting in de AI Act om ervoor te zorgen dat AI op een verantwoorde en geïnformeerde manier wordt ingezet.” Als u het voor het zeggen had, welke regel of wet rondom AI-gebruik zou u dan vandaag nog invoeren? “Een recht om ‘in the loop’ te zijn: een recht voor burgers én professionele gebruikersgroepen om vanaf begin actief gehoord te worden en betrokken te zijn bij de ontwikkeling van juridische AI. Vóór de ontwikkeling kan dit bijvoorbeeld de vorm aannemen van participatieve ontwerpvereisten voor ontwikkelaars van juridische AI, waarbij betrokken burgers en domeinexperts worden ingeschakeld. Ná de ontwikkeling zou dit het recht kunnen omvatten om feedback te geven, gehoord te worden en bezwaar te kunnen maken. De rechtspraak is een kerninstitutie van iedere democratische samenleving. Juridische AI kan de rechtspraak ten goede komen, bijvoorbeeld door de drempel voor toegang tot het recht te verlagen, rechters en advocaten te ondersteunen bij juridisch onderzoek, en bij te dragen aan eerlijkere beslissingen. Maar juist omdat de rechtspraak zo centraal staat in iedere democratie, kan de ontwikkeling van juridische AI niet worden overgelaten aan technologieontwikkelaars alleen.” Is de juridische sector straks beter of slechter af dankzij AI, denkt u? “Dat hangt in grote mate af van de vraag of we AI ontwikkelen en inzetten met als voornaamste doel snelheid en efficiëntiewinst, of om het rechtssysteem eerlijker, transparanter en toegankelijker te maken.” • Natali Helberger (Universiteit van Amsterdam en Public Values in the Algorithmic Society)
RkJQdWJsaXNoZXIy ODY1MjQ=