AI lokaal en op eigen hardware: wat het een praktijk vraagt
/Ot van Daalen kreeg een e-mail van OpenAI: zijn account was per direct afgesloten wegens strijd met het gebruiksbeleid. Hij maakte bezwaar en kreeg te horen dat het besluit bleef staan en dat verdere verzoeken niet in behandeling werden genomen. Het antwoord op zijn bezwaar bevatte geen toelichting. Van Daalen is advocaat bij Root Legal en onderzoeker bij het Instituut voor Informatierecht. Op dinsdag 8 december vertelt hij op het congres Wat AI vraagt van de juridische praktijk in Den Haag wat hij daarna deed: hij ging zelf AI draaien, op eigen hardware.
Zijn sessie gaat over de vraag of lokale AI een alternatief is voor de cloud. Hieronder staat waarom die vraag speelt voor iedereen die met vertrouwelijke dossiers werkt, en wat je van de sessie kunt verwachten.
De dienst kan morgen weg zijn
Wie zijn werk op de dienst van één aanbieder bouwt, kan die dienst van de ene op de andere dag kwijt zijn. Van Daalen ondervond dat zelf. Een afgesloten account kan ook betekenen dat de gesprekken en bestanden die erin stonden niet meer bereikbaar zijn. Een bekender voorbeeld is het Internationaal Strafhof, waar Amerikaanse sancties tegen de aanklager volgens nieuwsberichten het werk stillegden. Voor een praktijk met lopende zaken en termijnen is dat een bedrijfsrisico. De dossiers, de aantekeningen en de werkwijze zitten dan in een omgeving waarover een ander beslist.
Wat bij een derde ligt, kan worden opgevraagd
Het tweede argument kent de lezer van deze site. In de zaak Box Consultants kreeg het Openbaar Ministerie via een hostingbedrijf een grote hoeveelheid e-mails in handen, waaronder duizenden berichten tussen de vermogensbeheerder en zijn advocaten. In oktober 2023 seponeerde het OM de zaak en erkende het dat het verschoningsrecht onvoldoende was gerespecteerd. Gegevens die bij een derde staan, kunnen daar worden opgevraagd, en dan hangt de bescherming af van wat er daarna mee gebeurt. Een AI-dienst in de cloud is ook zo'n derde. Hoe groot dat risico is en wat een aanbieder contractueel toezegt, verschilt per dienst. Van Daalen kiest voor de variant waarin de vraag zich niet voordoet.
Wat een eigen opstelling vraagt
Van Daalen laat zien hoe zo'n opstelling eruitziet: een computer met een zware grafische kaart, een open taalmodel dat daarop draait en software eromheen. De invoer verlaat de machine niet. Hij begon met werk dat in elke praktijk tijd kost, zoals uren schrijven, e-mails in het juiste dossier opbergen en documenten samenvatten. Root Legal werkt inmiddels met een eigen, lokaal ontwikkeld AI-platform, dat volgens de praktijk de kwaliteit verhoogt en de kosten voor cliënten verlaagt met behoud van vertrouwelijkheid.
Voor de toehoorder is de vraag wat dit kost aan kennis, tijd en onderhoud. Lang niet elke praktijk heeft iemand die zelf een machine bouwt en bijhoudt. De sessie stelt daarom de vraag centraal of dit een alternatief is, en voor wie.
Lokaal is niet hetzelfde als neutraal
Een eigen opstelling lost niet alles op, en ook dat komt aan bod. Een open model neemt de keuzes van zijn maker mee. Een model van een Chinese maker weigert bijvoorbeeld vragen over de protesten op het Plein van de Hemelse Vrede, terwijl het een vraag over een demonstratie tegen de Nederlandse koning uitvoerig en stellig beantwoordt.
Die stelligheid zegt niets over de juistheid. Wat een model over het recht beweert, moet een jurist nalopen, in de cloud en op de eigen machine. Een goed ingerichte assistent helpt daarbij door te melden wat hij niet heeft gevonden.
Verder op het programma
Van Daalen spreekt in het plenaire middagprogramma. In de ochtend behandelen Sander Denneman en Kerem Canatan, allebei afkomstig uit de fraudepraktijk, dataveiligheid en AI. Wie in de cloud blijft werken, kan in de workshop van Edo Zecha zien wat er met Microsoft Copilot mogelijk is. Eva Bosma van &samhoud opent de dag met een keynote over wat AI met de opbouw en het verdienmodel van een praktijk doet.
Het congres duurt van 10.00 tot 17.15 uur, kost € 599 exclusief btw en levert 6 PO/PE-punten op, waarvan 3 juridisch. Je kunt in Den Haag aanwezig zijn, en het plenaire programma is ook online te volgen.
