Navigeren door de EU AI Act

De AI Act stelt eisen op basis van de rol van een organisatie en het type AI-systeem. Er is een onderscheid tussen single-purpose AI (SPAI) en algemene AI-modellen.

Single-purpose AI (SPAI)

• Verboden AI: AI-systemen die mensenrechten schendt, zijn verboden. Bijvoorbeeld manipulatieve en discriminerende AI.
• Hoog-risico AI: Strenge eisen voor aanbieders, gebruikers en distributeurs:
  • Aanbieders: Moeten risicobeheer implementeren, transparantie waarborgen, menselijk toezicht inbouwen en technische documentatie onderhouden.
  • Gebruikers: Moeten instructies van aanbieders volgen, invoergegevens valideren en het AI-systeem monitoren.
  • Importeurs & distributeurs: Moeten zorgen voor naleving, conformiteitscertificaten bijhouden en niet-conforme AI-systemen terugtrekken.
    

Algemene AI-modellen

• Algemene AI-modellen: Moeten technische documentatie bijhouden, transparantie over mogelijkheden en beperkingen waarborgen en voldoen aan EU-auteursrechten.
• AI-modellen met grote impact: Hebben extra verplichtingen, zoals uitgebreide risicobeoordelingen, cybersecuritymaatregelen en rapportage van ernstige incidenten.

De AI Act zorgt ervoor dat AI op een veilige en verantwoorde manier wordt ontwikkeld en gebruikt, met regels die passen bij het risico en de impact van elk systeem. 

De AI Act geeft organisaties duidelijke richtlijnen voor het verantwoord inzetten van AI. Bedrijven moeten voldoen aan de volgende eisen:

Governance en toezicht: Zorg voor duidelijke regels en toezicht op AI-gebruik, inclusief risicobeheer, datatransparantie en menselijk toezicht.

• Risicobeheer: Analyseer en monitor risico’s van AI-systemen en houd bij welke AI-toepassingen in gebruik zijn.
• Cybersecurity en nauwkeurigheid: Zorg voor veilige en betrouwbare AI-systemen met effectieve cybersecuritymaatregelen.
• Kwaliteitsbeheer: Werk met strikte kwaliteitsnormen tijdens de hele levenscyclus van AI.
• Impactbeoordelingen: Controleer de invloed van AI op mensenrechten en zorg dat AI-systemen ethisch en wettelijk verantwoord zijn.
• Duidelijke rolverdeling: Leg vast wie binnen de organisatie verantwoordelijk is voor welke taken rondom AI.

Door risico’s actief te beheren en een goed governance-framework op te zetten, kunnen bedrijven AI op een veilige en verantwoorde manier gebruiken.

Lidstaten en de Europese Commissie handhaven de AI Act. De Commissie krijgt exclusieve bevoegdheid voor toezicht op AI-modellen voor algemene doeleinden. Bij overtredingen kunnen bedrijven flinke boetes en andere sancties krijgen.

De hoogte van de boete hangt af van de ernst van de overtreding en het risiconiveau van het AI-systeem:

• Verboden AI: Tot €35 miljoen of 7% van de wereldwijde omzet.
• Hoog-risico AI: Tot €15 miljoen of 3% van de omzet.
• Niet naleven van transparantie-eisen: Tot €15 miljoen of 3% van de omzet.
• Onjuiste of misleidende informatie: Tot €7,5 miljoen of 1% van de omzet.

Nationale autoriteiten houden bij het bepalen van boetes rekening met de ernst en duur van de overtreding en met eerdere overtredingen. KMO’s en start-ups worden proportioneel behandeld.

Handhavingsmaatregelen:

• Onderzoek en sancties: Toezichthouders kunnen AI-systemen controleren, verbieden of eisen dat ze worden aangepast.
• Klachten en transparantie: Burgers kunnen klachten indienen en hebben recht op uitleg over AI-besluiten.
• Collectieve actie en klokkenluidersbescherming: Groepen kunnen juridische stappen ondernemen namens gedupeerden. Klokkenluiders worden beschermd.

Deze aanpak zorgt voor verantwoorde en transparante AI-toepassingen binnen de EU.