De vereisten die in de AI-verordening zijn vastgelegd, kunnen verschillen afhankelijk van de rol die iemand vervult met betrekking tot het AI-systeem. Een AI-systeem kan een specifiek doel hebben (Specific Purpose AI - SPAI), of voor algemene doeleinden bedoeld zijn. De in de wet vastgelegde vereisten kunnen variëren afhankelijk van de rol die men vervult met betrekking tot het AI-systeem.

Single-Purpose AI (SPAI) Systemen

• AI-systemen met een onaanvaardbaar risico: Deze AI-systemen zijn volledig verboden vanwege hun potentieel om schade te veroorzaken of fundamentele waarden zoals menselijke waardigheid, vrijheid, gelijkheid, democratie, gegevensprivacy, en de rechtsstaat te schenden.
• AI-systemen met een hoog risico:
  • Aanbieders: Implementeer een risicobeheersysteem en zorg voor databeheer, onderhoud kwaliteitssystemen en technische documentatie, zorg voor transparantie, nauwkeurigheid en cyberbeveiliging, verstrek informatie aan gebruikers, implementeer menselijk toezicht en onderhoud automatisch gegenereerde logs.
  • Gebruikers: Volg de instructies van de aanbieder op en garandeer menselijk toezicht, valideer invoergegevens en monitor AI-systeemactiviteit, rapporteer storingen, bewaar logs indien mogelijk en voer impactbeoordelingen van fundamentele rechten uit indien nodig.
  • Importeurs en Distributeurs: Verifieer AI-systeemconformiteit met de AI-verordening, onderhoud conformiteitscertificeringen voor tien jaar, trek niet-conforme AI-systemen terug en werk samen met autoriteiten.

AI-modellen voor algemene doeleinden

• AI-modellen voor algemene doeleinden: Onderhoud up-to-date technische documentatie, bescherm intellectuele eigendomsrechten, zorg voor transparantie over de beperkingen en mogelijkheden van het model, voldoe aan EU-auteurswetten en verstrek gedetailleerde samenvattingen van trainingsinhoud. samenvattingen van trainingsinhoud.
• AI-modellen voor algemene doeleinden met een grote impact: Voldoe aan alle algemene vereisten, voer uitgebreide model-evaluaties en adversariële testen uit, beoordeel en beperk systemische risico's, zorg voor robuuste cyberbeveiliging, rapporteer ernstige incidenten aan de Europese Commissie en rapporteer over energie-efficiëntie en verbruik tijdens de training.

Over het geheel genomen streeft de AI-verordening ernaar ervoor te zorgen dat AI-systemen op verantwoorde wijze worden ontwikkeld en gebruikt, met vereisten die zijn afgestemd op de potentiële risico's en gevolgen van elke categorie.

De AI-verordening vormt een belangrijke stap vooruit in het beheer van kunstmatige intelligentie en biedt organisaties een helder kader voor het verantwoord inzetten van AI-systemen. Organisaties hebben de volgende verantwoordelijkheden:

• Governance Frameworks: Robuuste governance-structuren implementeren die risicobeheer, datatransparantie en menselijk toezicht omvatten.
  
• Risicobeheer: Grondige beoordelingen van AI-risicoclassificaties uitvoeren en een uitgebreide inventaris van AI-assets bijhouden om potentiële risico's te identificeren en te beperken.
• Systeemnauwkeurigheid en Cyberbeveiliging: Ervoor zorgen dat AI-systemen nauwkeurig en veilig zijn, met noodzakelijke cyberbeveiligingsmaatregelen ter bescherming van gegevens en operaties.
• Kwaliteitsmanagementsystemen: Hoge standaarden handhaven door middel van kwaliteitsmanagementsystemen die de gehele AI-levenscyclus overzien.
• Impactbeoordelingen: Impactbeoordelingen uitvoeren om de effecten van AI-systemen op fundamentele rechten te evalueren, zodat ze in overeenstemming zijn met ethische en wettelijke normen.
• Roldefiniëring: De rollen en verantwoordelijkheden van elke operator die betrokken is bij het AI-implementatieproces duidelijk definiëren.

Door zich aan deze verantwoordelijkheden te houden, kunnen organisaties het regelgevende landschap navigeren met een robuust governance-framework en een proactieve benadering van risicobeheer, waardoor AI-systemen op een verantwoorde en ethische manier worden ingezet.

Handhaving zal een gezamenlijke inspanning worden van de lidstaten en de Europese Commissie, waarbij de Commissie de exclusieve bevoegdheid krijgt om toezicht te houden op- en regels te handhaven voor AI-modellen voor algemene doeleinden. Niet-naleving kan leiden tot aanzienlijke boetes en handhavingsmaatregelen. Het boeteregime van de AI-verordening is gestructureerd op basis van de ernst en aard van de overtreding, waarbij de boetes toenemen naargelang de risicocategorie van het AI-systeem. Hoe hoger het risico, hoe hoger de boete. Bovendien moeten de lidstaten consistent rekening houden met de belangen van kleine en middelgrote ondernemingen (KMO's) en start-ups. Nationale autoriteiten zijn verplicht om bij het bepalen van de hoogte van elke boete rekening te houden met de aard, ernst en duur van elke overtreding, evenals of de betrokken entiteit een recidivist is.

Sancties:

• AI-systemen met een onaanvaardbaar risico: Boetes tot 35 miljoen EUR of 7% van de wereldwijde jaarlijkse omzet (WJO) van het bedrijf voor het inzetten van verboden AI-systemen.
• AI-systemen met een hoog risico: Boetes tot 15 miljoen EUR of 3% van de WJO voor overtredingen met betrekking tot hoog-risico AI-verplichtingen.
• AI-modellen voor algemene doeleinden: Boetes tot 15 miljoen EUR of 3% van de WJO voor het niet voldoen aan transparantieverplichtingen.
• Misleidende/Onjuiste Informatie: Boetes tot 7,5 miljoen EUR of 1% van de wjo voor het verstrekken van onjuiste, onvolledige of misleidende informatie.

Handhavingsmaatregelen:

• Onderzoek en Remediëring: Autoriteiten kunnen AI-systemen onderzoeken, hun werking stopzetten en noodzakelijke wijzigingen eisen. Niet-conforme AI-systemen kunnen gedwongen van de markt worden verwijderd.
• Klachten en Transparantie: Individuen kunnen klachten indienen over elk aspect van de AI-wet. Getroffen personen hebben recht op duidelijke en betekenisvolle uitleg over de rol van AI-systemen in besluitvormingsprocessen.
• Collectieve Actie en Klokkenluidersbescherming: Collectieve acties door groepen die getroffen personen vertegenwoordigen zijn mogelijk, en klokkenluiders zijn beschermd.