Door Mitzie Samuels | Algemeen | 23 april 2026 | 7 min. leestijd
Sinds de inwerkingtreding van de AI-act (Verordening (EU) 2024/1689) zijn er nieuwe elementen ontstaan die niet mogen ontbreken in jouw contractuele afspraken. Vóór de inwerkingtreding van de verordening was automatisering van processen in jouw software een vrije bedrijfskeuze. Vanaf de inwerkingtreding van de verordening is de aanbieder van AI-software gebonden aan een aantal eisen. Zo bestaat er in sommige gevallen de verplichting voor natuurlijke, bekwame personen, om de output van de software te controleren. Wie AI-systemen op de Europese markt aanbiedt, wordt met het ontstaan van dergelijke verplichtingen geacht om zijn Algemene Voorwaarden te herzien. In deze blog (deel 1/3) lees je meer over de algemene juridische waarborgen die je als Europese aanbieder van AI-software in jouw algemene voorwaarden moet verankeren.
Doel en structuur
In de preambule van de AI Verordening staat kort gezegd dat de wetgever de werking van de interne markt binnen Europa wil verbeteren door het gebruik van AI. Gebruik van AI kan ondernemingen immers een belangrijk concurrentievoordeel opleveren. Tegelijkertijd mag dit niet ten koste gaan van de waarden van de Unie en de bescherming van de gezondheid, veiligheid en grondrechten van de Europese burger. AI moet volgens deze visie dienen als een instrument voor mensen, met als uiteindelijk doel het welzijn van de mens te vergroten. Om een balans te vinden tussen deze belangen, is er een uniform rechtskader vastgesteld. Aan de hand van dit kader mogen de systemen, behoudens de nodige waarborgen, worden ontwikkeld en vrij in de handel gebracht. Dit wordt gedaan door grofweg vier risicocategorieën te hanteren met ieder zijn eigen set aan waarborgen:
1. Verboden categorie
De eerstgenoemde categorie bestaat uit systemen die het doel of gevolg hebben om menselijk gedrag wezenlijk te verstoren en schade toe te brengen aan de belangen van de Europese burger. Hierbij valt te denken aan AI-systemen die door publieke of private actoren worden gebruikt om o.a. social scoring, emotieherkenning of real-time biometrische categorisering uit te voeren. Gebruik van deze systemen zou bijv. discriminerende resultaten en uitsluiting van bepaalde groepen tot gevolg kunnen hebben. Het in de handel brengen of gebruiken
van dergelijke AI-systemen in Europa is dan ook verboden.
2. Hoog Risico
Deze categorie bestaat uit twee pijlers. De eerste pijler ziet op AI-systemen die worden gebruikt in kritieke infrastructuren van de maatschappij. Denk aan het beheer van het wegverkeer of de levering van water en gas. Ook vallen AI-systemen die worden ingezet in de zorg, de arbeidsmarkt, het onderwijs of de rechtspraak in deze categorie.
Een voorbeeld van dergelijk gebruik is een systeem dat in het onderwijs wordt gebruikt om het onderwijsniveau voor een persoon te beoordelen en daarmee invloed uit te oefenen op de soort opleiding waartoe die persoon toegang zal kunnen krijgen.
De tweede pijler bestaat uit AI-systemen die worden gebruikt in bepaalde aangewezen producten. Denk aan liften, speelgoed, medische apparatuur of producten uit de luchtvaartsector.
3. Beperkt Risico
Deze categorie bestaat uit AI-systemen die zijn bedoeld voor directe interactie met natuurlijke personen. Denk aan Chatbots, Siri of Deepfake generatoren.
4. Minimaal Risico
Dit is de bulk aan ‘Open Source’ AI-toepassingen zoals aanbevelingsalgoritmes, voorspellende tekstinvoer of spamfilters die worden gebruikt in onder andere: Spotify, Netflix of Google Translate.
In mijn volgende blogs ga ik verder in op deze categorieën en de vereisten voor jouw algemene voorwaarden. In deze blog staat de volgende vraag centraal: welke bepalingen moet iédere AI-aanbieder opnemen?
Algemene waarborgen
Er is een aantal onderwerpen die bij ieder soort AI-model door de aanbieder in de algemene voorwaarden moet worden gereguleerd. Hierna volgt een niet-limitatieve opsomming:
a. AI-definities
Ten eerste is het belangrijk om duidelijkheid te scheppen over de rolverdeling en de aansprakelijkheid. Vaak is de klant, als afnemer van de aanbieder, de partij die de data-input beheert en via de specifieke parametrisering bepaalt of er bijvoorbeeld wel of geen discriminerende output wordt gegenereerd door de software.
Als aanbieder wil je niet verantwoordelijk kunnen worden gehouden voor het gedrag van jouw klanten. Door de verantwoordelijkheden vooraf helder te scheiden met behulp van definities, creëer je een schild tegen schadeclaims die voortvloeien uit onjuist gebruik door de klant.
b. Doorgifte verplichtingen aan derden
Op de tweede plaats is het van belang om in jouw algemene voorwaarden verplichtingen op te leggen jegens de uiteindelijke gebruiker. Zo moet de aanbieder van het platform de klant de verplichting opleggen ervoor te zorgen dat de uiteindelijke gebruiker van de software wordt geïnformeerd over het AI gebruik. De klant moet de gebruiker op een duidelijke en ondubbelzinnige wijze informeren over het feit dat hij interacteert met een AI-systeem. De aanbieder moet de klant daarnaast in zijn algemene voorwaarden verplichten om een kanaal in te richten waar derden (gebruikers of betrokkenen) fouten, onbedoelde effecten of discriminatoire output van het AI-systeem kunnen melden.
c. Transparantie
De aanbieder wordt geacht transparant te zijn over de werking van de algoritmes. Daarnaast moet de klant ook door de aanbieder worden geïnformeerd over het gebruik van AI. Indien je bijv. AI-software aanbiedt om personeel te rekruteren, dan is het raadzaam in de voorwaarden aan de klant te vermelden dat er bij het structureren van CV’s gebruik wordt gemaakt van een “NLP-model”. De aanbieder van een chatbot moet ervoor zorgen dat de klant duidelijk maakt aan de gebruikers dat ze met een AI-bot communiceren. Eveneens moet de aanbieder van deepfake-generatoren bekendmaken dat de content kunstmatig is gegenereerd.
d. AI-geletterdheid
Een belangrijke verplichting die voor álle aanbieders van AI-software (van start-up tot groot platform) geldt, is dat haar medewerkers en gebruikers verplicht zijn om van “aantoonbare AI-geletterdheid” te beschikken.
Aanbieders en klanten moeten maatregelen nemen die zorgen voor een toereikende kennis over AI bij hun personeel. De verplichting geldt in sommige gevallen zelfs ook voor de personen of groepen ten aanzien van wie de systemen worden gebruikt. Wanneer is het toereikend genoeg? Dat is afhankelijk van de context. De mate van toereikendheid kan zien op de toepassing van technische elementen in de ontwikkelingsfase, de maatregelen tijdens het gebruik, de interpretatie van de output of de invloed van de genomen beslissingen op personen. Het is in ieder geval van belang op te nemen in de algemene voorwaarden dat er aan deze verplichting wordt voldaan en waaruit dat blijkt.
e. Aansprakelijkheidsverdeling
Daarnaast is het raadzaam om in de algemene voorwaarden een aansprakelijkheidsbepaling op te nemen met betrekking tot AI. Dit is een bepaling waarin de aansprakelijkheidsverdeling omtrent AI output tussen aanbieder en afnemer kan worden geregeld. Dit kun je doen door vast te leggen voor welke schendingen, behoudens de wettelijke kaders, de aanbieder wél aansprakelijk is en voor welke niét. Je kunt bijvoorbeeld afspreken dat de klant aansprakelijk is voor de schade die voortvloeit uit: het gebruik van het platform in strijd met de gebruiksinstructies, het achterwege laten van menselijk toezicht of het niet of onjuist informeren van kandidaten.
f. Verboden gebruiksclausule
Jouw algemene voorwaarden vereisen een expliciete verbodsbepaling waarin staat dat de klant het systeem niet voor doeleinden mag inzetten die staan omschreven in de “verboden categorie”.
g. Toepassingsgebied
Tot slot moet het toepassingsgebied van de regels in de algemene voorwaarden worden verankerd. Simpel gezegd zijn de regels uit de verordening niet van toepassing op systemen die buiten de EU in de handel worden gebracht. De verordening is echter wél van toepassing op systemen die in een derde land (zoals de VS) zijn gevestigd en waarvan hun AI-output bestemd is voor gebruik binnen de EU. Een Amerikaans bedrijf dat een AI-tool verkoopt aan Europese bedrijven valt dus gewoon onder de AI Act.
Vraag jij je af of jouw software in de ‘hoog-risico’ categorie valt en wat de impact daarvan is op jouw bestaande contracten? In mijn volgende blog ga ik verder in op de specifieke eisen van deze categorie. Kun je niet wachten? Schroom dan niet om contact met me op te nemen, ik neem jouw huidige voorwaarden graag onder de loep!
