AI-verordening: regels voor AI-systemen met een hoog risico

Samenvatting

De AI-verordening deelt AI-systemen in naar risico. Systemen met een hoog risico mogen alleen op de markt komen en worden gebruikt als ze aan strenge eisen voldoen. Bijlage III noemt de toepassingsgebieden: biometrie, kritieke infrastructuur, onderwijs, werkgelegenheid en personeelsbeheer, toegang tot essentiële particuliere en publieke diensten, rechtshandhaving, migratie en grenstoezicht, en rechtspraak en democratische processen.

Oorspronkelijk zouden deze regels op 2 augustus 2026 ingaan. De digitale omnibus inzake AI (Verordening (EU) 2026/1744) heeft dat gewijzigd: voor systemen uit bijlage III gelden de regels vanaf 2 december 2027, voor AI-systemen in producten uit bijlage I vanaf 2 augustus 2028.

De aanbieder zorgt onder meer voor risicobeheer, goede data, technische documentatie, logging, duidelijke gebruiksinstructies, menselijk toezicht, nauwkeurigheid en cyberbeveiliging, een kwaliteitsbeheersysteem en een conformiteitsbeoordeling. De gebruiksverantwoordelijke, de organisatie die het systeem inzet, gebruikt het systeem volgens de instructies, regelt menselijk toezicht, volgt de werking en bewaart de logbestanden. Overheidsorganisaties en sommige andere gebruikers beoordelen vooraf wat het systeem betekent voor de grondrechten.

De belangrijkste punten

• Bijlage III: vanaf 2 december 2027
• Bijlage I, AI in producten: vanaf 2 augustus 2028
• Voorbeelden: werving en selectie, kredietbeoordeling, onderwijs en de toegang tot essentiële diensten
• Aanbieder: risicobeheer, data, documentatie, logging, menselijk toezicht en een conformiteitsbeoordeling
• Gebruiksverantwoordelijke: gebruik volgens de instructies, menselijk toezicht, monitoring en logbestanden
• Overheid: vooraf een beoordeling van de gevolgen voor grondrechten

Voordelen en nadelen

Wat betekent dit voor inkoop?

• Stel bij elke AI-aanbesteding vast of het systeem onder bijlage III kan vallen.
• Vraag naar de conformiteitsbeoordeling, de technische documentatie en de gebruiksinstructies.
• Toets of het systeem menselijk toezicht en logging technisch mogelijk maakt.
• Gebruik de Europese modelclausules voor het inkopen van AI als basis.

Wat betekent dit voor contractmanagement?

• Leg vast dat het systeem op de toepassingsdatum voldoet, ook als het contract eerder ingaat.
• Spreek af hoe de leverancier wijzigingen en incidenten meldt.
• Regel toegang tot logbestanden en documentatie, tijdens de looptijd en daarna.

Advies van Ad Rem Consultants

1. Maak een overzicht van AI-toepassingen die beslissingen over mensen ondersteunen.
2. Bepaal per toepassing of die onder bijlage III valt en wie aanbieder en gebruiksverantwoordelijke is.
3. Neem de eisen nu al op in aanbestedingen voor systemen met een lange looptijd.
4. Plan bij overheidsorganisaties tijd in voor de beoordeling van de gevolgen voor grondrechten.

Lees ook

AI inkopen: de Europese modelclausules en de AI-verordening na de Digital Omnibus

Achtergrond in de kennisbank van Ad Rem Consultants.