Dit blog is geschreven door Abenar Mebrahtu, student-stagiair bij Turing Advocaten
Artificial intelligence (AI) is in korte tijd niet meer weg te denken uit ons dagelijks leven, van apps en online dienstverlening tot organisaties die processen met AI ondersteunen of (deels) automatiseren. Dat kan efficiëntie opleveren, maar brengt ook risico’s met zich mee. Denk aan uitkomsten die onjuist zijn of beslissingen die bepaalde groepen onbedoeld benadelen. Daarom is het belangrijk dat professionals die AI inzetten de beperkingen van een systeem begrijpen en de uitkomsten kritisch kunnen beoordelen. De AI-verordening (hierna: AIA) is in augustus 2024 in werking getreden en wordt gefaseerd van toepassing. Vanaf 2 februari 2025 geldt een verplichting tot AI-geletterdheid voor organisaties en ondernemers die AI professioneel gebruiken. Maar wat houdt AI-geletterdheid precies in? In dit artikel leggen we uit wat AI-geletterdheid inhoudt en wat organisaties en ondernemers moeten doen om hieraan te voldoen.
De wettelijke basis
De AIA verstaat onder AI-geletterdheid: ‘Vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken.‘
Met aanbieders worden partijen bedoeld die een AI-systeem (laten) ontwikkelen en dit op de markt brengen. Gebruiksverantwoordelijken zijn daarbij partijen die AI professioneel inzetten, zoals bedrijven en overheidsinstanties.[1] De verplichting tot AI-geletterdheid geldt dus niet automatisch voor elke organisatie, maar alleen wanneer AI-systemen worden aangeboden of gebruikt in de eigen bedrijfsprocessen. Aanbieders en gebruiksverantwoordelijken worden verplicht om maatregelen te nemen die zorgen voor voldoende AI-geletterdheid bij medewerkers en anderen die namens de organisatie met AI werken. Daarbij moet rekening worden gehouden met hun kennis en ervaring, de gebruikscontext en de mensen die door het AI-systeem geraakt kunnen worden.
Wat betekent dit in de praktijk?
De verplichting is vooral praktisch van aard. De kern is simpel: mensen kunnen AI pas verantwoord inzetten binnen een bedrijf als ze goed geïnformeerd zijn. Het gaat daarbij niet alleen om kennis over hoe de AI werkt. Gebruikers moeten ook beperkingen en risico’s kunnen herkennen, de uitkomsten correct kunnen interpreteren en mogelijke gevolgen voor betrokkenen kunnen inschatten.[2] Denk bijvoorbeeld aan juridisch adviseurs die AI inzetten voor het opstellen of samenvatten van adviesbrieven. Zij moeten zich bewust zijn van het feit dat een AI-systeem overtuigend geformuleerde, maar feitelijk onjuiste informatie kan genereren en dat menselijke controle noodzakelijk blijft. De AP plaatst AI-geletterdheid in een bredere context. Het draagt bij aan maatschappelijke weerbaarheid en helpt organisaties om AI te sturen en controleren. Zo hangt AI-geletterdheid direct samen met het beschermen van mensen op wie het AI-systeem invloed kan hebben, zoals het voorkomen van schending van fundamentele rechten.
Er is geen uniforme set aan maatregelen die zorgt voor een passend niveau van AI-geletterdheid. Welke kennis en vaardigheden nodig zijn hangt af van het type AI-systeem, de rol van de gebruiker en de impact op betrokkenen.[3] Een recruiter die AI gebruikt om sollicitatiebrieven sneller te lezen, moet bijvoorbeeld begrijpen dat zo’n systeem bepaalde groepen onbewust kan discrimineren. Zonder die kennis kunnen oneerlijke beslissingen ontstaan.[4] De AP benoemt (in lijn met artikel 4 AIA) drie factoren die het benodigde kennisniveau bepalen:
- De technische kennis, ervaring en opleiding van betrokkenen;
- De omgeving waarin het systeem wordt gebruikt;
- De personen of groepen op wie het systeem invloed heeft.[5]
Naarmate de impact op betrokkenen toeneemt, wordt het belangrijker dat de gebruiker van het AI-systeem de werking en risico’s adequaat begrijpt.[6] Dit sluit aan bij de risicobenadering van de verordening: hoe groter de risico’s van het AI-systeem, hoe hoger het benodigde kennisniveau.[7] Daarnaast is het belangrijk te benadrukken dat AI-geletterdheid breder is dan alleen de technische werking van AI-systemen. Het gaat ook om sociale, ethische en praktische aspecten, zoals het kunnen interpreteren van uitkomsten en begrijpen hoe AI-ondersteunde beslissingen mensen kunnen raken.[8]
Rollen
Artikel 4 AIA legt de plicht tot AI-geletterdheid neer bij zowel aanbieders als gebruiksverantwoordelijken. Dit geldt niet alleen voor eigen personeel, maar ook voor andere personen die namens de organisatie met AI-systemen werken.[9] Aanbieders (ontwikkelaars) en gebruiksverantwoordelijken hebben ten aanzien van de bevordering van AI-geletterdheid verschillende verantwoordelijkheden. De aanbieder is verantwoordelijk voor de ontwikkeling en het beschikbaar stellen van het AI-systeem, de gebruiksverantwoordelijke voor de inzet ervan binnen de organisatie. De aanbieder moet daarom ervoor zorgen dat de personen die namens hem betrokken zijn bij ontwerp, ontwikkeling, testen en beheer voldoende kennis hebben om het systeem correct en veilig te realiseren. De gebruiksverantwoordelijke moet borgen dat de personen die ermee werken het systeem volgens de gebruiksinstructies inzetten, weten wanneer aanvullende menselijke controle nodig is en de mogelijke risico’s voor betrokkenen kunnen herkennen.[10]
Dit is goed te illustreren met hetzelfde recruitmentvoorbeeld, omdat het precies laat zien hoe AI-geletterdheid per rol verschilt. Als een leverancier een AI-tool aanbiedt die sollicitaties helpt rangschikken, moet hij ervoor zorgen dat zijn ontwikkel- en supportteams de risico’s en beperkingen begrijpen en dit goed verwerken in ontwerp en instructies. De werkgever die de tool inzet, moet vervolgens waarborgen dat recruiters de output kritisch beoordelen en tijdig ingrijpen om benadeling van kandidaten te voorkomen.
Een organisatie moet daarom eerst helder hebben welke AI-systemen zij ontwikkelt of gebruikt en welke rol zij zelf heeft: is zij ontwikkelaar of gebruiker? Dit rolonderscheid bepaalt welke maatregelen nodig zijn en hoe diepgaand de kennis en vaardigheden moeten zijn om tot een passend niveau van AI-geletterdheid te komen.[11]
Wat moet uw organisatie concreet regelen?
Om organisaties te helpen AI-geletterdheid op te bouwen heeft de AP een meerjarig actieplan gepubliceerd.[12] Dit actieplan helpt organisaties in vier stappen AI-geletterdheid te ontwikkelen en periodiek te toetsen. De AP benadrukt dat deze stappen geen checklist vormen, maar een structuur bieden om gericht te werken aan AI-geletterdheid.[13] Voor de uitvoering verwacht de AP dat het actieplan op bestuurs- of directieniveau wordt vastgesteld en dat hiervoor budget wordt gereserveerd.[14] Daarnaast moet duidelijk zijn wie binnen de organisatie verantwoordelijk is en hoe het plan wordt aangestuurd.[15] In de volgende alinea’s wordt het actieplan beknopt toegelicht.
Stap 1: Identificeren
Allereerst moet er in kaart worden gebracht welke AI-systemen binnen de organisatie worden gebruikt en wat de bijbehorende risico’s zijn.[16] Houd hierbij rekening met ‘schaduw-AI’: AI-tools of AI-functionaliteiten die medewerkers gebruiken zonder dat dit gebruik binnen de organisatie is goedgekeurd, vastgelegd of onder toezicht staat, bijvoorbeeld via eigen accounts of losse online tools.[17] Dit kan ertoe leiden dat AI in de praktijk wordt ingezet zonder duidelijke afspraken, instructies of training, waardoor het risico toeneemt dat (persoons)gegevens onbedoeld worden gedeeld of dat risico’s onvoldoende worden onderkend. Leg vast wie met welke systemen werkt en wat de effecten op betrokkenen kunnen zijn. Breng daarnaast in kaart wat het huidige kennisniveau van betrokken medewerkers is en welke kansen en ambities de organisatie heeft op het gebied van AI.
Stap 2: Doel bepalen
Stel vervolgens meetbare doelen op en prioriteer deze op basis van het risiconiveau van elk AI-systeem. Bepaal welke kennis en vaardigheden nodig zijn per functie.[18] Medewerkers die direct met AI-systemen werken hebben doorgaans verdiepte kennis nodig. Andere medewerkers volstaan met basiskennis over wat AI is en welke systemen de organisatie gebruikt.[19] Bepaal concrete maatregelen en leg verantwoordelijkheden vast bij bepaalde functies.
Maak daarbij onderscheid naar impact. Bij intern gebruik, zoals het ordenen van vergaderverslagen of e-mails, volstaan vaak basisafspraken over wanneer je de output controleert, hoe je fouten herkent en wanneer je de tool niet gebruikt. Wordt AI ingezet voor besluiten die mensen direct raken, zoals het bepalen welke meldingen voorrang krijgen bij handhaving of ondersteuning bij werving en selectie, dan is meer nodig.[20] Betrokken medewerkers moeten begrijpen welke fouten kunnen optreden (bijvoorbeeld bias of schijnzekerheid), wanneer menselijke controle nodig is en wat de gevolgen zijn van een onjuiste uitkomst. Dit sluit aan bij de factoren die artikel 4 AIA noemt: de gebruikscontext, de betrokken personen of groepen en het kennis- en ervaringsniveau van de gebruiker.
Stap 3: Uitvoeren
Ontwikkel een concreet programma met trainingen en bewustwordingsactiviteiten. Hoe dit wordt georganiseerd, bepaalt de organisatie zelf.[21] In de praktijk volstaat voor medewerkers die AI gebruiken als ondersteunend hulpmiddel voor interne administratie, zoals het samenvatten van documenten, vaak een korte instructie en werkwijze. Medewerkers die AI gebruiken in processen met directe gevolgen voor mensen, zoals bij werving en selectie van sollicitanten of het inschatten van risico’s bij meldingen, hebben uitgebreidere training en begeleiding nodig. Het gaat dan niet alleen om hoe het AI-systeem werkt, maar ook om het herkennen van beperkingen, het kritisch interpreteren van output en het tijdig signaleren van fouten of bias. Zo blijft menselijke controle effectief.[22]
Zorg ervoor dat verantwoordelijkheden helder zijn vastgelegd en dat de voortgang wordt gevolgd. Wees binnen de organisatie transparant over het gebruik van AI-systemen, zodat medewerkers zich ook kritisch en proactief kunnen opstellen. Evalueer regelmatig of doelstellingen worden behaald en of AI-systemen correct worden ingezet.[23] Gebruik de evaluatieresultaten om doelen en aanpak waar nodig aan te passen.
Stap 4: Evalueren
Voer regelmatig een analyse uit of de doelstellingen worden gehaald. De resultaten laten zien of de huidige maatregelen werken of dat er aanpassingen nodig zijn. Controleer daarnaast of AI-systemen binnen de organisatie correct worden gebruikt. Documenteer de aanpak en voortgang, aangezien het ontbreken van documentatie bij toezicht of incidenten zwaar kan wegen.[24]
Naarmate het gebruik van AI binnen uw organisatie groeit, neemt ook de behoefte aan AI-geletterdheid toe.[25] Dit betekent dat uw organisatie verplicht is om structureel aandacht te besteden aan het op peil houden en verder ontwikkelen van kennis en vaardigheden op het gebied van AI.
[1] Artikel 3 lid 4 AIA.
[2] Overweging 20 AIA.
[3] Verder bouwen aan AI-geletterdheid, p. 2.
[4] Overweging 20 AIA.
[5] Aan de slag met AI-geletterdheid, p. 2.
[6] Aan de slag met AI-geletterdheid, p. 2.
[7] Artikel 4 AIA.
[8] Aan de slag met AI-geletterdheid, p. 2.
[9] Verder bouwen aan AI-geletterdheid, p. 2.
[10] Art. 4 AIA.
[11] AI Literacy – Questions & Answers.
[12] Aan de slag met AI-geletterdheid.
[13] Verder bouwen aan AI-geletterdheid, p. 2.
[14] Verder bouwen aan AI-geletterdheid, p. 5.
[15] Verder bouwen aan AI-geletterdheid, p. 3.
[16] Verder bouwen aan AI-geletterdheid, p. 3.
[17] ‘Schaduw-ai en het risico voor organisaties’, computable.nl.
[18] Verder bouwen aan AI-geletterdheid, p. 4.
[19] Verder bouwen aan AI-geletterdheid, p. 4.
[20] Overweging 20 AIA.
[21] Verder bouwen aan AI-geletterdheid, p. 2.
[22] Overweging 20 AIA & AI Literacy – Questions & Answers.
[23] Verder bouwen aan AI-geletterdheid, p. 6.
[24] Verder bouwen aan AI-geletterdheid, p. 2.
[25] Aan de slag met AI-geletterdheid, p. 3.
