EU AI Act
De Europese Unie heeft een nieuwe wet aangenomen, de AI Act, om het gebruik van kunstmatige intelligentie (AI) te reguleren. Deze wet heeft als doel om betrouwbare en veilige AI-systemen te bevorderen die de grondrechten van burgers respecteren.
Waarom is de AI Act nodig?
AI-systemen bieden veel mogelijkheden, maar brengen ook risico's met zich mee. Soms is het moeilijk te achterhalen waarom een AI-systeem een bepaalde beslissing heeft genomen, wat kan leiden tot oneerlijke behandeling van mensen, bijvoorbeeld bij sollicitaties of aanvragen voor uitkeringen. De AI Act moet ervoor zorgen dat Europeanen kunnen vertrouwen op wat AI te bieden heeft en tegelijkertijd de risico's beperken.
Voor wie geldt de AI Act?
De regels gelden voor iedereen die AI ontwikkelt, op de markt brengt of gebruikt. Dit omvat bedrijven, overheden en instellingen in alle sectoren.
De EU AI Act heeft de grootste impact op sectoren die intensief gebruik maken van AI-systemen met hoge risico's, zoals:
Gezondheidszorg: AI voor medische diagnoses en behandelingen
Financiële dienstverlening: AI voor kredietscoring en risicobeoordeling
Onderwijs: AI voor studentenevaluatie en toelating
Rechtshandhaving: AI voor gezichtsherkenning en voorspellend politiewerk
Transport: AI voor zelfrijdende voertuigen
Recruitment: AI voor CV-screening en selectie
Deze sectoren moeten voldoen aan strenge eisen op het gebied van risicobeoordeling, transparantie, menselijk toezicht, gegevensbeheer en documentatie. Ze zullen aanzienlijke investeringen moeten doen in compliance en mogelijk hun AI-systemen moeten aanpassen om aan de nieuwe regelgeving te voldoen.
EU AI Act definieert drie hoofdrisico niveaus:
Onaanvaardbaar risico: AI-systemen die als bedreiging worden gezien voor veiligheid, rechten en levensonderhoud zijn verboden. Voorbeelden zijn sociale scoring door overheden en manipulatieve AI.
Hoog risico: AI-systemen die significante risico's vormen voor gezondheid, veiligheid, grondrechten of milieu. Deze moeten voldoen aan strenge eisen, zoals risicobeheersing en menselijk toezicht. Zoals AI voor biometrische identificatie en recruitment.
Beperkt of minimaal risico: AI-systemen met beperkte risico's moeten voldoen aan transparantieverplichtingen, zoals het informeren van gebruikers dat ze met AI interacteren. AI met minimaal risico, zoals spamfilters, kan vrij worden gebruikt.
Wat zijn de belangrijkste punten van de AI Act?
Verbod op bepaalde AI-praktijken:
AI-systemen die in strijd zijn met de waarden en grondrechten van de EU, zoals sociale scoring door overheden en het manipuleren van gedrag, zijn verboden.Regels voor 'hoog-risico' AI-systemen
Voor AI-systemen die een hoog risico vormen, zoals die gebruikt worden in kritieke infrastructuur, onderwijs, werkgelegenheid en wetshandhaving, gelden strenge eisen. Ontwikkelaars moeten zorgen voor transparantie, menselijk toezicht, veiligheid en het voorkomen van discriminatie.Verplichtingen voor ontwikkelaars
Aanbieders van 'hoog-risico' AI-systemen moeten voldoen aan verschillende verplichtingen, zoals het opzetten van een kwaliteitsbeheersysteem, het verstrekken van technische documentatie en het registreren van het systeem in een publieke database.Verplichtingen voor gebruikers
Gebruikers van 'hoog-risico' AI-systemen, zoals scholen, moeten ervoor zorgen dat het systeem wordt gebruikt volgens de instructies van de aanbieder en eventuele problemen melden.Toezicht en handhaving
Er komt een Europees 'AI-Office' dat toezicht gaat houden op AI-systemen die op de markt komen. Overtredingen van de AI Act kunnen leiden tot hoge boetes.
Wanneer gaat de AI Act in?
De definitieve tekst van de AI Act is op 12 juli 2024 gepubliceerd en treedt per 1 augustus 2024 in werking. De meeste verplichtingen voor bedrijven en instellingen gaan twee jaar later in, maar voor bepaalde 'hoog-risico' AI-systemen gelden kortere termijnen. De AI Act is een belangrijke stap om ervoor te zorgen dat de ontwikkeling en toepassing van AI in Europa op een verantwoorde en betrouwbare manier plaatsvindt. Het is aan bedrijven, overheden en instellingen om zich goed voor te bereiden op de nieuwe regels en samen te werken aan een toekomst waarin de mens centraal staat bij het gebruik van AI.
Klik hier om naar de officiële site van het Europees Parlement te gaan die over de AI Act gaat. De gehele EU AI Act (wet) is hier te lezen. Er is nog een mooie site om in de gaten te houden: https://artificialintelligenceact.eu/.
Deze bijdrage is geschreven door Peer Goudsmit met behulp van AI.