MR. SPECIAL NAJAAR 2025 / 31 AI & grondrechten “AI-GEGENEREERDE DEEPNUDES ZOUDEN GEWOON VERBODEN MOETEN WORDEN EN STRAFBAAR MOETEN ZIJN” publiceert waarover in de media is geschreven, is het voor AI-tools een koud kunstje om dit aan elkaar te koppelen.” Kunt u een concreet voorbeeld geven van een AI-tool die u zelf gebruikt? “In mijn onderzoek maak ik regelmatig gebruik van ChatGPT en andere tools. Niet om teksten te genereren, maar om ideeën te genereren. Laatst vroeg ik ChatGPT welke van mijn publicaties nou eigenlijk een beetje impact hadden. De tool noemde vijf publicaties die geen van alle bestonden, maar wel allemaal leuke ideeën waren. Daar ga ik nog mee aan de slag.” Heeft u zelf richtlijnen opgesteld voor het gebruik van AI in uw werk? “In ons onderwijs worden we geconfronteerd met studenten die AI-tools zoals ChatGPT gebruiken voor hun opdrachten en scripties. Dat is niet per definitie verboden, zolang de studenten maar weten waarmee ze bezig zijn. Met fictieve wetsartikelen of arresten vallen ze natuurlijk door de mand, maar voor een concept-vertaling, spellingscheck, ontdubbeling of stroomlijning van een betoog kan het zeker helpen. Inmiddels hebben we ook digitale-vaardighedenonderwijs voor rechtenstudenten ontwikkeld, specifiek gericht op AI. Bovendien draaien we soms ons onderwijs om: dan laten we AI een tekst opstellen en studenten beoordelen wat ervan klopt. Dat zijn geen nieuwe richtlijnen, maar het is wel een nieuwe aanpak.” Zijn er juridische kaders of regelgeving die u vindt ontbreken op dit moment? “Het verzamelen en verwerken van persoonsgegevens is sterk gereguleerd via de AVG, maar er zijn slechts weinig regels voor data-analyses. De AI-verordening is hier wel op gericht, maar daar moeten we niet te veel van verwachten. Een voorbeeld hiervan is de manier waarop de AI-verordening deepfakes en deepnudes reguleert: volgens de AI-verordening zijn dit beperkte risico’s en is een transparantieverplichting (deepfakes labelen als zodanig) voldoende. Echter, we weten inmiddels er grote zeer risico’s zijn, bijvoorbeeld wanneer deepfakes worden gebruikt om democratische verkiezingen te manipuleren. Slachtoffers van deepnudes kunnen naast reputatieschade last hebben van langdurige psychologische klachten, waaronder angststoornissen, spanningsklachten, depressie, PTSS en suïcidale gedachten. Dat zijn geen beperkte risico’s. Met name deepnudes zouden gewoon verboden moeten worden en strafbaar moeten zijn.” Welk advies zou u geven aan juristen die AI willen gaan gebruiken? “Ten eerste: AI is momenteel een hype. Veel van wat AI wordt genoemd, is helemaal geen AI, maar gewoon min of meer traditionele data-analyse. Regelmatig is het window dressing of een oplossing waarbij nog een probleem moet worden gezocht. Laat je niet gek maken. Juristen doen er goed aan de focus te houden op gedegen juridisch advies- en uitzoekwerk. Ten tweede: AI is gereedschap. Net als een rekenmachine kan helpen bij wiskunde, zo kan AI helpen bij bepaald juridisch werk. Maar een rekenmachine lost geen problemen in de hogere wiskunde op. Net zomin gaat ChatGPT of een andere tool alle juridische problemen oplossen of juristen vervangen. Voor sommige juridische problemen kunnen AI-tools helpen, voor andere niet. Als je weet wanneer je AI wel en juist niet moet gebruiken en wat de voor- en nadelen van bepaalde AI-tools zijn, kun je de juiste keuzes maken en een voorsprong nemen op anderen.” • Bart Custers
RkJQdWJsaXNoZXIy ODY1MjQ=