Hoog risico AI: de dagelijkse praktijk
Video uit module 1: de AI Act in het kort
De AI Act heeft een vaste lijst met toepassingen die in beginsel als hoog risico gelden. Die lijst staat in Bijlage III bij de wet. Artikel 6 lid 3 kent wel uitzonderingen: doet een systeem alleen voorbereidend werk of een beperkte procedurele taak, dan kan het buiten de hoog risico categorie vallen. Ga daar niet zomaar van uit; die uitzondering moet u kunnen onderbouwen en vastleggen. Meerdere categorieƫn op die lijst raken organisaties direct.
Werving en selectie: cv screening en matching
AI systemen die sollicitanten werven, cv's rangschikken, kandidaten matchen of voorselecteren vallen uitdrukkelijk onder de hoog risico categorie. Bijlage III noemt AI voor werving en personeelsselectie expliciet. Dit geldt voor de matchingtools van een recruitmentbureau net zo goed als voor het screeningssysteem van een eigen HR afdeling, en ook wanneer een opdrachtgever zo'n systeem loslaat op kandidaten die u aanlevert.
Beoordeling van werkenden
Ook AI die meebeslist over promotie, beoordeling, taakverdeling of het beƫindigen van een arbeidsrelatie valt onder hoog risico. Zulke systemen raken de rechtspositie en de kansen van werkenden immers direct. En dat er aan het eind een mens tekent, maakt het systeem zelf niet minder risicovol.
Emotieherkenning: verboden terrein
AI die emoties afleidt van medewerkers of sollicitanten, bijvoorbeeld videoanalyse die tijdens een sollicitatiegesprek enthousiasme of stress zou meten, is op de werkplek en in het onderwijs verboden onder artikel 5. De wet kent hierop alleen een smalle uitzondering voor systemen die om medische of veiligheidsredenen worden ingezet; voor werving, beoordeling of monitoring van mensen geldt die uitzondering niet. Dit is voor recruitment extra belangrijk: sommige buitenlandse tools bieden deze functies gewoon aan. Gebruik ze niet.
Detachering en bemiddeling: AI bij uw opdrachtgever
Detacheert of bemiddelt u mensen die bij een opdrachtgever met AI systemen werken? Dan geldt de AI geletterdheidsplicht uit artikel 4 ook voor hen, en is de vraag wie gebruiksverantwoordelijke is: de opdrachtgever die het systeem inzet, of uw bureau dat de mensen levert. Maak hierover afspraken in het contract. Aantoonbaar AI geletterde medewerkers zijn bovendien een verkoopargument richting opdrachtgevers.