Kunstmatige intelligentie (AI), ja we kunnen er al heel lang niet meer omheen: de chatGPTs vliegen je om de oren (met de benodigde risico’s). Maar ook de slimme assistent op je telefoon en geavanceerde medische diagnostiek vallen onder AI. Het was wachten totdat er regulatie op zou komen en tadaaa, de Europese Unie (EU) heeft een wettelijk kader opgesteld. Maar waarom eigenlijk? Wat houden die regels precies in? Én hoe controleer je dat jouw organisatie eraan voldoet? Best taaie kost als je het mij vraagt, maar toch tijd om er dieper in te duiken!
Wat is de EU AI Act?
Om lekker formeel te beginnen: de EU Artificial Intelligence Act, officieel bekend als Regulation (EU) 2024/1689, is een wettelijk kader dat op 1 augustus in werking is gesteld. Deze wet zorgt voor regels over hoe AI-systemen in de EU ontwikkeld en gebruikt mogen worden, zodat zowel bedrijven als consumenten erop kunnen vertrouwen dat de technologie veilig en betrouwbaar is.
Maar waarom hebben we eigenlijk regels voor AI nodig?
De EU AI Act is ontstaan vanuit de behoefte om een balans te vinden tussen innovatie en bescherming. Aan de ene kant willen we natuurlijk dat bedrijven de vrijheid hebben om te experimenteren en te innoveren met AI, maar aan de andere kant moeten we ook zorgen dat deze technologie niet ten koste gaat van fundamentele rechten en vrijheden. Hoewel de meeste AI-systemen weinig tot geen risico vormen en kunnen bijdragen aan het oplossen van maatschappelijke uitdagingen, creëren bepaalde AI-systemen wél risico’s en juist die willen we aanpakken om ongewenste uitkomsten te voorkomen.
Bescherming tegen onrechtvaardige AI-beslissingen: wetgeving moet mee evolueren
Het lastige met AI is dat bijvoorbeeld vaak niet mogelijk om te achterhalen waarom een AI-systeem een bepaalde beslissing of voorspelling heeft gedaan. Zoals al eerder gezegd is dat bij de meeste AI-systemen niet een groot probleem, maar bij een sollicitatie of een aanvraag voor een overheidsuitkering komen er uiteraard wel vraagtekens boven het hoofd cirkelen en kan je een flinke ethische discussie voeren. In dat soort gevalen kan je lastig tot niet beoordelen of iemand oneerlijk benadeeld is. Ja, dat moeten we niet hebben…!
Hoewel eerdere wetgeving enige bescherming biedt, was deze onvoldoende om de specifieke uitdagingen die AI-systemen met zich mee kunnen brengen aan te pakken. Daarom zijn de nieuwe regels noodzakelijk. Niet alleen om risico’s specifiek veroorzaakt door AI-toepassingen te adresseren, maar ook om AI-praktijken die onaanvaardbare risico’s vormen te verbieden, en duidelijke vereisten vast te stellen voor hoogrisico AI-systemen.
Hoe gaat die EU AI Act in z’n werking dan…
Ja ja, I know, je wilt dolgraag weten wát er dan in die EU AI Act staat. Nou komt ie! De EU AI Act classificeert AI-systemen op basis van het risico dat ze vormen, variërend van minimaal tot onaanvaardbaar risico. Komen ze alle vier:
Minimaal risico: Dit zijn AI-systemen die weinig tot geen risico vormen, zoals spamfilters. Deze hebben weinig tot geen regulering nodig.
Beperkt risico: AI-systemen die bepaalde transparantievereisten moeten volgen, zoals chatbots die duidelijk moeten maken dat je met een machine praat.
Hoog risico: Dit zijn AI-toepassingen die een significante impact kunnen hebben op ons leven, zoals AI in recruitment of in de gezondheidszorg. Deze systemen moeten strikte eisen volgen om toegang te krijgen to de EU-markt, zoals het hebben van een menselijke toezichthouder. Het is ook de bedoeling dat er een registratiebank komt voor AI-systemen met een hoog risico.
Onacceptabel risico: AI-toepassingen die een onaanvaardbaar risico vormen, zoals systemen die gedrag manipuleren of social scoring wat kan leiden tot discriminatie en ongelijkheid zijn verboden.
Wanneer is het belangrijk voor jou?
Als je met AI werkt of AI-oplossingen wilt gebruiken, is het belangrijk om deze regels te kennen. Niet alleen om aan de wet te voldoen, maar ook om ervoor te zorgen dat je AI-systemen ethisch en verantwoord zijn. Een aantal voorbeelden van sectoren die ermee te maken krijgen:
- Onderwijs: Als scholen AI-technologieën gebruiken voor gepersonaliseerd leren, adaptieve leermiddelen of beoordeling, moeten deze systemen voldoen aan de richtlijnen van de AI Act, vooral als ze risico’s met zich meebrengen voor studenten.
- Recruitment: AI-systemen die worden ingezet bij selectie- en toelatingsprocessen, bijvoorbeeld voor selectiecriteria of aanbevelingen, moeten voldoen aan de regels voor eerlijkheid en non-discriminatie om ervoor te zorgen dat ze geen vooroordelen of ongelijkheden in het toelatingsproces introduceren.
- Transport en Logistiek: AI-toepassingen in zelfrijdende voertuigen, route-optimalisatie, of logistieke planning moeten voldoen aan de regelgeving op het gebied van veiligheid en ethiek. Dit omvat ook het gebruik van AI voor verkeersmanagement en openbaar vervoer.
- Gezondheidszorg: AI-systemen die worden gebruikt voor medische diagnoses, behandeling aanbevelingen, of patiëntmonitoring moeten voldoen aan de AI Act. Dit omvat AI-gestuurde beeldanalyse, elektronische medische dossiers, en voorspellende modellen voor ziektepreventie.
- Detailhandel: Retailbedrijven die AI gebruiken voor voorraadbeheer, prijsbepaling, of gepersonaliseerde marketing moeten zich houden aan de richtlijnen van de EU AI Act, vooral met betrekking tot gegevensbescherming en consumentenrechten.
Hulp bij naleving: Compliance Manager van Microsoft Purview
Nu weet je wat de EU AI Act is en jep… ik weet het: weer nieuwe wetgeving om te moeten naleven. Hóé houd je het overzicht er nog in? Nou goed nieuws, help is around the corner. Er zijn tools die je hierbij kunnen helpen. Microsoft Purview kent de functionaliteit ‘Compliance Manager’. Deze Compliance Manager beoordeelt en beheert automatisch of je voldoet aan de wet- en regelgeving in je multicloud-omgeving. Je kon al frameworks kiezen zoals NIS2 en de AVG en – surpriseeee – nu ook de EU AI ACT. Dit betekent dat je eenvoudig kunt monitoren of je AI-systemen voldoen aan de nieuwe regelgeving, en waar nodig aanpassingen kunt doen om compliant te worden of blijven.
Je vindt wat voorbeelden van het dashboard van de compliance manager hieronder
Conclusie
De EU AI Act is een Europees wettelijk kader om ervoor te zorgen dat AI op een verantwoorde manier wordt gebruikt. Door duidelijke regels en richtlijnen te bieden, helpt EU AI Act om innovatie blijven te stimuleren maar tegelijkertijd ook onze rechten en privacy te beschermen. Het voelt misschien als gedoe, weer zo’n wet, maar gelukkig wordt met tools zoals Microsoft Purview Compliance Manager het naleven van deze regels een stuk eenvoudiger. Ik hoop dat dit heeft geholpen om een beeld te krijgen van wat de EU AI Act inhoudt en wat dit voor jouw organisatie kan betekenen.
