AI-Verordening van kracht; rol OR bij kunstmatige intelligentie
We krijgen steeds meer te maken met kunstmatige intelligentie (AI). De roep om hier spelregels over af te spreken wordt steeds groter. In de Europese Unie is dan ook de AI-verordening ingevoerd sinds 1 augustus 2024. Hieruit volgt wetgeving waaraan gebruikers en ontwikkelaars van AI moeten gaan voldoen. Belangrijk om als OR goed van op de hoogte te zijn omdat de OR bij invoering (of wijziging) van nieuwe technologische voorzieningen een adviesrol heeft. Daarnaast ziet de OR toe op regels rondom privacy en welke gevolgen er kunnen zijn voor arbeidsomstandigheden of werkgelegenheid.
AI-verordening
De AI-verordening is de eerste wetgeving op dit gebied wereldwijd en stelt eisen aan gebruikers (denk aan de overheid en bedrijfsleven) en ontwikkelaars om verantwoord om te gaan met kunstmatige intelligentie. De AI-verordening is in het leven geroepen zodat iedereen in Europa erop kan vertrouwen dat grondrechten beschermd zijn en AI-systemen veilig werken en hier toezicht op komt.
De AI-verordening zal gefaseerd worden ingevoerd en een aantal systemen zullen verboden worden per februari 2025. Voor overheden komt er een Europese database voor AI-systemen. Overheden die systemen gebruiken met een hoog risico moeten een grondrechteneffectbeoordeling doen en vanaf 2 augustus 2026 hun gebruik registreren in die database.
De AI-verordening kijkt naar de risico’s voor burgers en de samenleving en deelt AI-systemen in aan de hand van risicogroepen; toepassingen die een onaanvaardbaar risico met zich meebrengen worden verboden of systemen die een hoog risico vormen worden aan strengere regels gebonden. AI-systemen die bedoeld zijn voor rechtshandhaving of voor werving- en selectie zijn hier voorbeelden van. Zie ook de lijst van andere voorbeelden van hoogrisicosystemen.
Verder komen er toezichthouders die hierop kunnen toetsen en eventueel handhaven.
Rol OR
Advies
De OR heeft een belangrijke rol bij de implementatie van een technologische voorziening en eventuele belangrijke investering die hiermee gemoeid kan zijn. Conform de WOR, artikel 25 lid 1 h en k heeft de OR adviesrecht.
Verder kan de invoering van AI iets betekenen voor de werkgelegenheid. Zo kan een gedeelte van het werk worden overgenomen door computers (volgens de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO) kan dat voor 27 procent van de banen gelden. Daarbij kan de organisatie anders worden ingericht en heeft de OR adviesrecht conform de WOR, artikel 25 lid 1 e.
Instemming
De AI-verordening geeft ook aan dat organisaties hun medewerkers goed op de hoogte moeten brengen met welke systemen er wordt gewerkt en welke kansen en risico’s hierbij zijn. Dit kan wat betekenen voor het scholingsbeleid en als dit wijzigt heeft de OR instemmingsrecht conform WOR artikel 27 1 f.
De OR heeft een bevoegdheid als het gaat om verwerking van persoonsgegevens en daarbij gaat het dan om de privacy van werknemers. Bij de invoering van een systeem dat persoonsgegevens verzamelt, bewaart en gebruikt (denk aan aanstellingsbeleid, ziekte verzuim, etc.) heeft de OR conform de WOR artikel 27 lid 1k instemmingsrecht. Voer het gesprek met de bestuurder over het waarborgen van privacy van gegevens en zie erop toe dat invoering aan de Algemene verordening gegevensbescherming (AVG) voldoet.
Tot slot kan de OR dit onderwerp op de agenda van de overlegvergadering plaatsen om te bespreken hoe de organisatie zich gaat houden aan de AI verordening en zich scholen op dit gebied. Avm biedt hierop binnenkort ook sessies aan.
Stappenplan organisaties
Om aan de AI-verordening te voldoen is er een stappenplan opgesteld die te vinden is op de site van Autoriteit Persoonsgegevens.
Bron: autoriteitpersoonsgegevens.nl