Un outil de recrutement classé à haut risque

Le règlement (UE) 2024/1689 sur l’intelligence artificielle (AI Act) classe à haut risque les systèmes d’IA destinés au recrutement ou à la sélection de personnes physiques, notamment pour publier des offres d’emploi ciblées, analyser et filtrer les candidatures et évaluer les candidats (annexe III, point 4, a).

L’article 6, paragraphe 3, permet d’écarter cette qualification lorsqu’un système ne présente pas de risque important, par exemple s’il n’accomplit qu’une tâche procédurale étroite. Cette dérogation ne s’applique jamais à un système qui effectue un profilage de personnes physiques. Levelia, qui évalue les productions d’un candidat, est donc traité ici comme un système à haut risque.

Deux rôles, deux séries d’obligations

Le fournisseur développe le système et le met sur le marché sous son nom. Il doit notamment disposer d’un système de gestion des risques et d’un système de gestion de la qualité, établir la documentation technique, prévoir la journalisation et le contrôle humain, faire réaliser l’évaluation de conformité, établir la déclaration UE de conformité, apposer le marquage CE et enregistrer le système dans la base de données de l’Union (articles 9 à 17, 43 et 47 à 49).

Pour Levelia, AutomatisIA est fournisseur. À ce jour, aucune évaluation de conformité n’a été réalisée, aucune déclaration UE de conformité n’a été établie et le système n’est pas enregistré dans la base de données de l’Union.

L’employeur qui utilise l’outil est déployeur. Ses obligations figurent à l’article 26 :

  • utiliser le système conformément à sa notice d’utilisation (paragraphe 1) ;
  • confier le contrôle humain à des personnes compétentes, formées et dotées de l’autorité nécessaire (paragraphe 2) ;
  • veiller à la pertinence des données d’entrée qu’il contrôle (paragraphe 4) ;
  • surveiller le fonctionnement du système et signaler les risques au fournisseur (paragraphe 5) ;
  • conserver les journaux générés automatiquement qu’il contrôle pendant au moins six mois (paragraphe 6) ;
  • informer les représentants du personnel et les travailleurs concernés avant la mise en service sur le lieu de travail (paragraphe 7) ;
  • informer les personnes concernées qu’elles font l’objet d’un système d’IA à haut risque lorsqu’il aide à prendre une décision les concernant (paragraphe 11).

Le droit à l’explication

L’article 86 donne à toute personne visée par une décision prise par le déployeur sur la base des sorties d’un système à haut risque de l’annexe III, lorsque cette décision produit des effets juridiques ou l’affecte de manière significative, le droit d’obtenir des explications claires et pertinentes sur le rôle du système dans la procédure décisionnelle et sur les principaux éléments de la décision prise.

Ce qui s’applique déjà et ce qui viendra

Les pratiques interdites par l’article 5 s’appliquent depuis le 2 février 2025. Elles incluent la reconnaissance des émotions sur le lieu de travail, hors raisons médicales ou de sécurité. Levelia n’analyse ni l’image, ni la voix, ni les émotions des candidats.

Pour les systèmes à haut risque de l’annexe III, dont le recrutement, les obligations s’appliquent à partir du 2 décembre 2027. Cette date résulte du règlement dit « omnibus numérique » sur l’IA, entré en vigueur le 27 juillet 2026, qui a reporté l’échéance initiale du 2 août 2026.

Comment Levelia se positionne

Levelia est un dispositif conçu pour faciliter les obligations du déployeur ; évaluation de conformité non réalisée. Le protocole d’un recrutement est figé avant diffusion, les observations sont reliées à leurs preuves et à leurs limites, le rapport n’émet aucune recommandation automatique et la décision reste à une personne de l’entreprise. Le candidat est informé des conditions de l’épreuve avant de commencer.

Ces fonctions ne valent pas conformité. Elles fournissent des éléments que le déployeur peut reprendre dans sa propre documentation, dans son analyse d’impact et dans l’information des candidats et des représentants du personnel.