Aansprakelijkheid van een LLM

Ben jij benieuwd hoe de overheid er in de toekomst uit kan zien? In het DIT-lab (Discover Innovations of Tomorrow) werk je samen met andere studenten én professionals van DUO aan vernieuwende vraagstukken rond digitale identiteit en publieke dienstverlening.

Het DIT-lab is gevestigd in de Digital Society Hub en biedt jou de kans om te leren, experimenteren en bijdragen aan echte innovaties. Denk bijvoorbeeld aan het digitaal uitgeven van diploma’s, dat grote impact kan hebben op hoe DUO haar diensten inricht. Of het testen van een persoonlijke datakluis die automatisch gegevens deelt met je aanvraag voor studiefinanciering allemaal projecten die nog volop in ontwikkeling zijn.

Je gaat aan de slag met actuele, complexe vraagstukken waarvoor we gebruikmaken van een gestructureerde innovatieaanpak. Samen onderzoeken we wat er technisch mogelijk is én wat gebruikers nodig hebben.

• In multidisciplinaire teams met studenten en DUO-medewerkers
• Met opkomende technologieën zoals Large Language Models, Self Sovereign Identity (SSI), Verifiable Credentials(VC) en datakluizen
• In een open en dynamische leeromgeving waar experimenteren en samenwerken centraal staan

Kortom: wil jij praktijkervaring opdoen in een innovatief lab waar je meewerkt aan de digitale overheid van de toekomst? Dan is het DIT-lab dé plek voor jou

Innovatie bij de overheid is noodzakelijk maar juridisch complex. Binnen het DITlab van DUO ontwikkelen we momenteel de Meedenkservice Proof of Concept. Deze service fungeert als een intelligente gids die burgers helpt bij het navigeren door het complexe landschap van overheidsaanvragen. Door de inzet van een Large Language Model LLM en Verifiable Credentials VCs krijgt de burger gepersonaliseerd advies. Maar in deze keten van data algoritmes en uitvoering ontstaan nieuwe juridische vragen. Als een burger een verkeerd besluit neemt op basis van AI-advies wie is dan verantwoordelijk

Als juridisch stagiaire of afstudeerder duik je in de ketenaansprakelijkheid van onze digitale dienstverlening. Je onderzoekt de juridische houdbaarheid van onze POC en brengt in kaart hoe we de burger kunnen beschermen zonder de innovatie te stoppen

1. Foutieve Broninformatie: De uitvoeringsdienst zoals DUO levert de regels aan. Wat als deze broninformatie onjuist is maar door de AI als waarheid wordt gepresenteerd?
2. De Black Box Hallucinaties: Wie is aansprakelijk als het LLM de informatie verkeerd interpreteert of feiten verzint hallucinaties? Ligt de schuld bij de ontwikkelaar de dataeigenaar of de eindverantwoordelijke dienst?
3. Bewijskracht van VCs: Wat is de juridische status van Verifiable Credentials? Hoe gaan we om met de aansprakelijkheid bij onbewust frauduleuze of verouderde credentials in het aanvraagproces?
4. Zorgplicht Rechtsbescherming: In hoeverre heeft de overheid een resultaatverplichting bij een meedenkservice? Hoe borgen we dat de burger altijd een bezwaarmogelijkheid behoudt humanintheloop conform de Algemene wet bestuursrecht Awb?
5. AI Act Compliance: Je kijkt met een schuin oog naar de komende Europese AI Act. In welke risicocategorie valt onze service en aan welke transparantieeisen moeten we voldoen?

Wat ga je doen?

• Juridische Analyse: Je voert een verdiepend onderzoek uit naar de huidige wetgeving Awb AVG en de impact van nieuwe digitale wetgeving AI Act eIDAS 2.0
• Scenariomapping: Je werkt concrete casussen uit waarin het proces misloopt en bepaalt per stap de juridische positie van de betrokken partijen.
• Adviesrapport: Je schrijft een praktisch advies over hoe DUO deze service juridisch kan inkaderen. Denk aan disclaimers algemene voorwaarden maar ook aanpassingen in het procesontwerp.
• Sparren met Experts: Je werkt nauw samen met onze specialisten van de afdeling Compliance en de ontwikkelaars van het DIT-lab.

• Studierichting: HBO-Rechten 3e of 4e jaars.
• Interesse: Je hebt een sterke affiniteit met ICT-recht Bestuursrecht en Privacy. Je vindt het leuk om juridische kaders te scheppen voor technologie die nu nog in de kinderschoenen staat.
• Mentaliteit: Je bent analytisch sterk en kunt complexe juridische teksten vertalen naar helder advies voor niet-juristen zoals developers en product owners