De AI Act (AI wet) is op 1 augustus 2024 in werking getreden. De verplichtingen worden echter niet allemaal tegelijk ingevoerd. De Europese Unie heeft gekozen voor een gefaseerde invoering.
Wat geldt nu al?
Sinds 2 februari 2025 moeten organisaties die AI gebruiken ervoor zorgen dat medewerkers voldoende kennis hebben om AI verantwoord te gebruiken. Dit wordt ook wel AI-geletterdheid (AI literacy) genoemd. De wet schrijft niet voor hoe je dit organiseert, maar medewerkers moeten begrijpen wat AI is, welke risico's eraan verbonden zijn en wanneer menselijke controle nodig is.
Daarnaast zijn sinds die datum bepaalde AI-toepassingen met een onaanvaardbaar risico verboden. Denk bijvoorbeeld aan AI die mensen manipuleert, een sociaal puntensysteem (social scoring) of bepaalde vormen van emotieherkenning op de werkvloer. Deze toepassingen komen in de praktijk vrijwel niet voor op een zorgboerderij, maar ook voor gewoon gebruik zijn er dus al eisen.
Voor zorgboerderijen betekent dit dat er nu al aandacht moet zijn voor:
- medewerkers bewust maken van verantwoord AI-gebruik;
- AI-uitvoer altijd controleren voordat deze wordt gebruikt;
- zorgvuldig omgaan met persoonsgegevens volgens de AVG.
Wat geldt vanaf 2 augustus 2026?
Vanaf 2 augustus 2026 wordt het grootste deel van de AI Act van toepassing. De strengste verplichtingen gelden vooral voor organisaties die hoog-risico AI-systemen ontwikkelen of aanbieden. Ook gaan dan verschillende transparantieverplichtingen gelden voor specifieke AI-systemen.
Voor de gemiddelde zorgboerderij verandert er op dat moment waarschijnlijk weinig. Een zorgboerderij gebruikt AI meestal alleen als hulpmiddel, bijvoorbeeld voor het schrijven van rapportages, zorgplannen of e-mails. Dat zijn doorgaans geen hoog-risico AI-toepassingen.
Wel is het verstandig om vanaf dat moment vast te leggen:
- welke AI-toepassingen binnen de organisatie worden gebruikt;
- waarvoor AI wel en niet wordt ingezet;
- wie verantwoordelijk is voor de controle van de uitkomsten;
- hoe medewerkers zijn geïnstrueerd over verantwoord gebruik.
Wat wordt later van toepassing?
Na augustus 2026 volgen nog aanvullende verplichtingen voor specifieke categorieën AI-systemen, met name voor aanbieders van hoog-risico AI en aanbieders van algemene AI-modellen (General Purpose AI). Ook de Europese toezichthouders krijgen stapsgewijs meer bevoegdheden om op de naleving toe te zien. Deze verplichtingen zijn vooral bedoeld voor softwareontwikkelaars en leveranciers van AI en niet voor zorgboerderijen die AI alleen gebruiken als hulpmiddel.
Wat betekent dit voor jouw zorgboerderij?
Voor de meeste zorgboerderijen ligt de nadruk op verantwoord gebruik van AI. Dat betekent dat medewerkers voldoende kennis hebben van AI, dat AI-uitkomsten altijd door een medewerker worden gecontroleerd en dat persoonsgegevens zorgvuldig worden verwerkt en beschermd volgens de geldende regels van de Algemene verordening gegevensbescherming (AVG) en de interne privacy- en informatiebeveiligingsafspraken van de zorgboerderij. Door deze basis op orde te hebben, voldoet een zorgboerderij grotendeels aan de verplichtingen die nu al gelden en is zij goed voorbereid op toekomstige ontwikkelingen.
Voldoende kennis:
Volgens artikel 4 van de AI Act moeten medewerkers die AI gebruiken voldoende kennis en vaardigheden hebben om AI verantwoord te gebruiken. De Europese Commissie noemt als minimale onderdelen dat medewerkers begrijpen:
- Wat AI is en waarvoor de organisatie AI gebruikt.
- Dat AI fouten kan maken of onjuiste informatie kan geven.
- Dat AI-uitkomsten altijd kritisch beoordeeld moeten worden en niet automatisch mogen worden overgenomen.
- Welke risico's er zijn, zoals vooroordelen (bias), hallucinaties en verkeerde conclusies.
- Welke persoonsgegevens wel en niet in een AI-systeem mogen worden ingevoerd.
- Dat een medewerker zelf verantwoordelijk blijft voor de uiteindelijke beslissing.
In de Academie bieden wij twee AI cursussen aan: AI in de praktijk – een startpunt voor jouw organisatie en AI Verdieping – Laat AI echt voor je werken. Daarbij is er de gratis online nationale AI cursus