Wat is het Toetsingskader AI?

De Europese AI-Verordening (ook wel: de AI Act) is de nieuwe Europese wet die regels stelt voor het ontwikkelen en gebruiken van AI-systemen. De wet heeft directe gevolgen voor elke organisatie die AI gebruikt, dus ook scholen.

Het Toetsingskader AI vertaalt die wetgeving naar de onderwijspraktijk. Het helpt schoolbesturen en leveranciers concreet antwoord te geven op drie vragen:

1. Valt mijn systeem überhaupt onder de AI-Verordening?
2. Zo ja, welk risico brengt het met zich mee?
3. Welke maatregelen moet ik nemen?

Zonder dit kader zou je zelf de Europese wetgeving moeten uitpluizen en vertalen naar jouw situatie. Dat is een flinke klus. Het toetsingskader neemt dat werk uit handen.

Voor wie is het bedoeld?

Het toetsingskader richt zich primair op leveranciers van IT-systemen met AI. Zij zijn als eerste aan zet: zij moeten bepalen of hun product onder de AI-Verordening valt en welke stappen ze moeten nemen. Maar ook scholen en schoolbesturen hebben hier een rol. Want als een leverancier een hoogrisico-AI-systeem levert, moet de school zelf ook extra maatregelen nemen. Je kunt de verantwoordelijkheid dus niet volledig bij de leverancier leggen.

En dan is er nog een extra aandachtspunt dat veel scholen over het hoofd zien. Stel: een docent gebruikt ChatGPT en stelt het zo in dat het systeem automatisch beoordeelt of een leerling klaar is voor de volgende module. Dat klinkt als slim gebruik van een bestaande tool, maar in de ogen van de wet heeft die docent zojuist een nieuw AI-systeem gecreëerd. En dus wordt de school gezien als aanbieder van dat systeem, met dezelfde verplichtingen als een softwareleverancier.

Vier stappen van het toetsingskader

Het toetsingskader werkt via een logisch stappenplan. Zo weet je altijd precies waar je staat.

Stap 1: valt het systeem onder de AI-Verordening?

Niet elk systeem met een beetje automatisering is een AI-systeem in de zin van de wet. De eerste stap is bepalen of jouw systeem aan de definitie voldoet. Het toetsingskader legt uit wat die definitie precies inhoudt.

Stap 2: is het een verboden toepassing?

Sommige AI-toepassingen zijn simpelweg niet toegestaan. Denk aan systemen die gedrag beïnvloeden op manieren die de onafhankelijkheid van mensen ondermijnen.

Stap 3: is er sprake van een hoog-risicotoepassing?

Dit is de stap waar de meeste schoolbesturen goed op moeten letten. De AI-Verordening definieert een aantal categorieën als 'hoog risico'. Voor het onderwijs gaat het concreet om:

• AI-systemen voor toelating tot (beroeps)onderwijs (bijv. de selectie van leerlingen: wie laten we toe?)
• AI-systemen voor het evalueren van leerresultaten
• AI-systemen voor het beoordelen van het onderwijsniveau van leerlingen
• AI-systemen voor het monitoren van leerlingen tijdens examens

Gebruikt jouw school of leverancier één van deze toepassingen? Dan gelden er extra verplichtingen, voor zowel de leverancier als de school.

Stap 4: Zijn er uitzonderingen van toepassing?

Niet elke toepassing die op het eerste gezicht hoog-risico lijkt, valt er ook écht onder. Er zijn uitzonderingen. Het toetsingskader helpt je beoordelen of jouw situatie onder zo'n uitzondering valt. Op basis van deze vier stappen weet je precies welke maatregelen je moet nemen, en welke niet.

Wetgeving in ontwikkeling

Eén kanttekening is belangrijk: de AI-Verordening is nieuw, en de precieze invulling van de wet is nog niet op alle punten duidelijk. Vanaf augustus 2026 start het toezicht op AI-systemen met een hoog risico en in augustus 2027 zal de AI Act volledig van kracht moeten zijn. SIVON en Kennisnet houden het toetsingskader actief bij en updaten het zodra nieuwe wetgeving of toelichting beschikbaar komt. Dat betekent ook: zorg dat je niet eenmalig kijkt naar dit onderwerp en het daarna vergeet. Net als bij de AVG en ISO 27001 is compliance geen momentopname, maar een proces.

Wat moet jij nu doen?

Of je nu schoolbestuurder bent of leverancier van onderwijssoftware: het is slim om nu al actie te ondernemen. Niet wachten tot de wet volledig is uitgewerkt, maar alvast in kaart brengen welke AI-systemen je gebruikt of levert, en of die onder de verordening vallen.

Concreet:

• Schoolbesturen: breng in kaart welke AI-systemen jullie gebruiken. Vraag leveranciers actief naar hun toetsing op de AI-Verordening. Wees bewust van de hoogrisicotoepassingen, want daar zijn extra maatregelen verplicht.
• Leveranciers: doorloop het toetsingskader voor elk product met AI-functionaliteit. Leg vast wat je hebt beoordeeld en welke maatregelen je neemt.
• Iedereen: houd de updates van het toetsingskader bij – de wet evolueert nog.

Hulp nodig bij de EU AI Act?

De AI-Verordening en het Toetsingskader AI hoef je niet alleen uit te zoeken. Bij Fendix helpen we organisaties, in en buiten het onderwijs, bij het begrijpen én implementeren van AI-wetgeving. Van een eerste inventarisatie tot het inrichten van de juiste processen.

Wil je weten wat de AI Act voor jouw organisatie betekent? Plan een vrijblijvend adviesgesprek in. Dan kijken we samen naar jouw situatie.

‍