De Autoriteit Persoonsgegevens (AP) maakt zich verder klaar voor het toezicht op artificiële intelligentie (AI). Met de start van de nieuwe directie Toezicht en Coördinatie AI/Algoritmes (TCA) krijgt de taakopbouw steeds concreter vorm.
De nieuwe directie gaat verder met het coördinerend toezicht op AI en algoritmes dat de AP sinds 2023 uitvoert. Daarnaast bereidt TCA het AI-markttoezicht voor en geeft TCA samen met de Rijksinspectie Digitale Infrastructuur (RDI) vorm aan de ‘AI sandbox’ en het gezamenlijke AI Coördinatiecentrum.
Toezichthouder
De AP is beoogd markttoezichthouder op AI, maar is nog niet aangewezen. De AP beschikt pas over bevoegdheden in het AI-markttoezicht zodra de Nederlandse Uitvoeringswet AI-verordening van kracht is. Daarnaast is de AP al wel bezig met samenwerking, voorlichting en ondersteuning van verantwoorde innovatie. De AP bouwt daarbij kennis en expertise op over onder meer AI-veiligheid en draagt bij aan de inrichting van de Europese toezichtaanpak.
Goed georganiseerd, proactief en deskundig toezicht nodig
AI heeft veel mogelijkheden, maar kan ook grote gevolgen hebben voor mensen, organisaties en onze samenleving. AI-systemen kunnen mensen beïnvloeden, selecteren en beoordelen. Ook kan AI steeds zelfstandiger taken uitvoeren.
De recente incidenten met AI Agents die ongeautoriseerd toegang krijgen tot private en publieke online omgevingen, benadrukken het belang van het effectieve en vroegtijdige toezicht op AI-systemen dat de AI-verordening met zich meebrengt. Dat maakt duidelijk waarom niet alleen regels nodig zijn, maar ook goed georganiseerd, proactief en deskundig toezicht.
‘Verkeersregels’ voor AI gelden al
De Europese AI-verordening moet ervoor zorgen dat iedereen kan profiteren van de mogelijkheden van AI, maar ook wordt beschermd tegen de risico’s ervan. Bepaalde toepassingen van AI zijn daarom al verboden. Ook gelden transparantieverplichtingen voor bijvoorbeeld AI-gegenereerde content als video’s, afbeeldingen of teksten.
Katja Mur, bestuurslid van de AP: “De ‘verkeersregels’ voor AI worden steeds concreter en het verkeer wordt iedere dag drukker en sneller. Wij kunnen daarom niet wachten tot het laatste verkeersbord is geplaatst. We zijn 3 jaar geleden gestart en met de nieuwe directie bouwen we verder aan de organisatie, kennis en expertise die nodig zijn om goed toezicht te houden.“
AP bereidt zich verder voor
Het kabinet is van plan de AP samen met de RDI een centrale rol te geven in het Nederlandse toezicht op de AI-verordening. De start van TCA is een volgende stap in de voorbereiding hierop. Binnen TCA komt het bestaande coördinerende toezicht op AI en algoritmes samen met de voorbereiding op het toekomstige markttoezicht. TCA bestaat uit 2 afdelingen.
Afdeling ARC
De afdeling AI/Algoritmes Risicoanalyse & Coördinatie (ARC) kijkt breed naar de impact van AI en algoritmes op mensen, grondrechten en de samenleving. ARC signaleert ontwikkelingen en risico’s, doet onderzoek, bouwt kennis op en werkt samen met andere toezichthouders en deskundigen.
Afdeling MTA
De afdeling Markttoezicht AI (MTA) bereidt het toekomstige toezicht op de AI-verordening voor. MTA bouwt daarvoor onder meer kennis en technische expertise op om AI-systemen te kunnen onderzoeken en testen. Ook is MTA bezig met voorlichting en ondersteuning van verantwoorde innovatie.
ARC en MTA versterken elkaar
De perspectieven van ARC en MTA versterken elkaar. Wat de AP in de samenleving signaleert, helpt straks om het toezicht te richten. En kennis over de werking en risico’s van AI helpt om voorbereid te zijn op nieuwe ontwikkelingen.
Beschermen én ruimte geven aan innovatie
Goed AI-toezicht gaat niet alleen om ingrijpen wanneer het misgaat. Het moet organisaties ook duidelijkheid geven over wat wél kan en ruimte bieden om AI verantwoord te ontwikkelen en toe te passen. Een concreet voorbeeld is de ‘AI sandbox’ die de RDI en AP gezamenlijk opzetten. In deze gecontroleerde omgeving kunnen organisaties samen met de toezichthouders werken aan innovatieve AI-systemen en deze in lijn brengen met de AI-verordening.
Van AVG naar AI-verordening
In het toezicht op AI begint de AP niet op nul. Vanuit de AVG beschermt de AP mensen al jaren tegen risico’s bij het gebruik van persoonsgegevens, ook als algoritmes en AI worden ingezet. De AP bouwt in het nieuwe AI-toezicht ook voort op de opgedane ervaring met de AVG en als coördinerend toezichthouder op AI en algoritmes.
Klaarstaan voor volgende stap
Over de aanwijzing, bevoegdheden en financiering van de AP als toezichthouder op de AI-verordening worden op meerdere niveaus gesprekken gevoerd. De AP toetste eerder dit jaar de Uitvoeringswet AI-verordening. Hierbij heeft de AP in kaart gebracht welke capaciteit en financiering nodig zijn om de toezichttaak uit te voeren. De AP heeft daarbij de omvang en ontwikkeling van de Nederlandse AI-markt onderzocht.
In Nederland wordt op dit moment nog gewerkt aan de Uitvoeringswet AI-verordening. De deadline voor het aanwijzen van de toezichthouders was 2 augustus 2025.
