Tri de candidatures : déployeur ou fournisseur ?

Le règlement ne le dit pas. Le texte publié le 12 juillet 2024 ne connaît ni l’achat ni l’étagère : il définit le fournisseur par le fait de développer ou faire développer un système d’IA puis de le mettre sur le marché ou en service sous son nom, et le déployeur par l’utilisation sous sa propre autorité. Le rôle ne se lit donc pas sur l’achat : il se lit sur le développement, fait soi-même ou commandé, sur la mise sur le marché ou en service sous son nom, et sur l’utilisation sous sa propre autorité. L’article 25, paragraphe 1, énumère trois circonstances, introduites par « dans toutes les circonstances suivantes », dans lesquelles un déployeur est considéré comme fournisseur d’un système à haut risque.

L’achat et l’étagère ne sont pas des catégories du règlement. Sur ses 144 pages, « achat » n’apparaît que deux fois, à la p. 5, et aucune des deux ne désigne l’acquisition d’un système d’IA par une organisation (décision d’achat d’un consommateur, achat d’un billet ou d’un titre de transport). La recherche plein texte ne trouve ni « acheter », ni « étagère », ni « sur mesure », ni « paramétr ». Le mot du texte pour un dossier de candidat est « candidatures », non « CV ».

Un tri de candidatures est visé, sous conditions. Par l’article 6, paragraphe 2, sont à haut risque les systèmes d’IA de l’annexe III destinés à analyser et filtrer les candidatures. Le fournisseur peut invoquer une dérogation, et le profilage l’écarte toujours.

Le basculement se joue dans l’article 25. Il désigne trois cas : commercialiser sous son nom un système à haut risque déjà mis sur le marché ou en service, le modifier substantiellement de telle manière qu’il reste à haut risque, changer la destination d’un système non classé à haut risque de sorte qu’il le devienne. Le texte ne dit pas si paramétrer l’outil ou l’entraîner sur ses données en fait partie.

Le texte ne connaît ni l’achat ni l’étagère

Le règlement français compte 144 pages. La recherche plein texte n’y trouve aucune occurrence de « étagère », de « achet » (donc ni « acheter », ni « acheté », ni « acheteur »), de « prêt à l’emploi », de « sur mesure », de « paramétr », de « configur », de « scoring », de « SaaS » ni d’« abonnement ». « CV » et « curriculum » n’y figurent pas non plus. « Achat » y figure deux fois, à la p. 5, et aucune des deux ne désigne l’acquisition d’un système d’IA par une organisation : « prendre une décision d’achat », celle d’un consommateur, et « l’achat d’un billet ou d’un titre de transport ».

« Logiciel » y figure 19 fois, jamais dans les articles 25 et 26. « PME » y figure 41 fois, mais ni dans les définitions de l’article 3, ni dans l’article 6, ni dans les articles 25 et 26, ni dans l’annexe III. « Industri » y figure 8 fois, dans aucun des articles qui définissent les rôles, classent le recrutement ou répartissent les obligations.

Ces absences ne disent pas que le règlement ignore les PME. Elles disent que la notion de logiciel acheté, sur étagère ou sur mesure est une description du cas, non une catégorie du texte.

Deux définitions qui ne se lisent pas sur la vente

Est fournisseur celui qui « développe ou fait développer » un système d’IA et le met sur le marché ou le met en service « sous son propre nom ou sa propre marque, à titre onéreux ou gratuit ». La mise en service inclut la fourniture « pour usage propre dans l’Union ». Le critère n’est donc pas de vendre.

Est déployeur toute personne ou tout organisme « utilisant sous sa propre autorité un système d’IA », hors activité personnelle à caractère non professionnel. Le règlement s’applique aux déployeurs établis ou situés dans l’Union. Fournisseur et déployeur figurent côte à côte dans la notion d’« opérateur », et aucune phrase relevée ne dit que les deux rôles s’excluent.

Deux de ces définitions, juxtaposées, montrent que le rôle de fournisseur n’est pas réservé à celui qui vend : une entreprise qui fait développer un système et le met en service pour son propre usage sous son nom remplit la définition. Ce rapprochement ne s’étend pas à l’acquisition d’un produit existant, développé par un tiers pour le marché, et ne dit pas que celui qui prend une licence « fait développer ».

Enfin, le classement à haut risque ne porte que sur des « systèmes d’IA », l’article 3 définissant notamment un tel système comme un système automatisé qui « déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties ». Le considérant 12 indique que la définition « ne devrait pas couvrir les systèmes fondés sur les règles définies uniquement par les personnes physiques pour exécuter automatiquement des opérations ». C’est un considérant, non une règle du dispositif, et il ne qualifie aucun outil.

Le tri de candidatures est visé, sous conditions

L’annexe III, point 4 a), vise les « systèmes d’IA destinés à être utilisés pour le recrutement ou la sélection de personnes physiques, en particulier pour publier des offres d’emploi ciblées, analyser et filtrer les candidatures et évaluer les candidats ». L’article 6, paragraphe 2, considère les systèmes de l’annexe III comme à haut risque, sous réserve du paragraphe 3. Le critère est la destination : « destinés à », non l’usage constaté chez l’utilisateur.

Le considérant 57 motive ce classement : ces systèmes « peuvent avoir une incidence considérable sur les perspectives de carrière et les moyens de subsistance de ces personnes ainsi que sur les droits des travailleurs », et « peuvent perpétuer des schémas historiques de discrimination ». Il écrit « peuvent », ce n’est pas un constat.

L’article 6, paragraphe 3, écarte le haut risque lorsque le système ne présente pas de risque important de préjudice et qu’« une des conditions suivantes est remplie », parmi quatre. Le considérant 53 donne pour exemples de la première, la « tâche procédurale étroite », « transformer des données non structurées en données structurées, classer les documents entrants par catégories ou détecter les doublons parmi un grand nombre d’applications » ; c’est un considérant, et ce passage ne nomme pas les candidatures. Il reste haut risque « toujours » si le système effectue un profilage de personnes physiques, notion définie par renvoi au RGPD, dont le texte n’est pas dans le dossier de cette pièce. C’est le fournisseur qui considère son système comme non à haut risque : il documente son évaluation avant la mise sur le marché ou en service et reste soumis à enregistrement.

Les lignes directrices que la Commission devait fournir « au plus tard le 2 février 2026 » sur cette classification, au paragraphe 5, ne sont pas dans le texte de 2024. Cette pièce ne dit ni qu’elles existent ni ce qu’elles contiennent.

Hors du classement à haut risque, l’article 5, paragraphe 1, point f), interdit la mise sur le marché, la mise en service à cette fin spécifique ou l’utilisation de systèmes d’IA « pour inférer les émotions d’une personne physique sur le lieu de travail et dans les établissements d’enseignement », sauf raisons médicales ou de sécurité. Ce point ne nomme ni le recrutement ni les candidats, et cette pièce ne l’étend pas au tri de candidatures.

Le basculement de l’article 25

« Tout distributeur, importateur, déployeur ou autre tiers » est considéré comme fournisseur d’un système à haut risque, et soumis aux obligations de l’article 16, « dans toutes les circonstances suivantes », que le texte énumère en trois points. Le point a) : il commercialise sous son propre nom ou sa propre marque un système à haut risque déjà mis sur le marché ou en service, « sans préjudice des dispositions contractuelles prévoyant une autre répartition des obligations ». Le point b) : il y apporte une modification substantielle, de telle manière qu’il reste à haut risque. Le point c) : il modifie la destination d’un système non classé à haut risque de sorte qu’il le devienne.

Le point a) écrit « commercialise » ; le considérant 84 décrit ce cas par le fait qu’une partie « met son nom ou sa marque sur » un système à haut risque déjà mis sur le marché ou en service. Ni l’un ni l’autre ne mentionne l’usage interne sous son nom. La réserve des dispositions contractuelles n’est écrite qu’à ce premier cas : l’expression n’apparaît que deux fois dans le texte, au point a) de l’article 25 et au considérant 84, qui l’attache aussi au seul cas du nom ou de la marque. Les deux autres cas n’en portent aucune. Seule l’absence de réserve écrite est établie : le texte ne dit pas qu’un contrat est sans effet sur ces deux cas.

La « destination » est l’utilisation à laquelle le système est destiné par le fournisseur, telle que précisée dans la notice d’utilisation, les indications publicitaires ou de vente, les déclarations et la documentation technique. La « modification substantielle » est une modification postérieure à la mise sur le marché ou en service, non prévue ou planifiée dans l’évaluation initiale de la conformité réalisée par le fournisseur, qui nuit à la conformité aux exigences ou modifie la destination évaluée.

Le considérant 128 donne pour exemple de modification susceptible d’avoir une incidence « un changement de système d’exploitation ou d’architecture logicielle ». Il écarte les changements d’un système qui continue à « apprendre » s’ils ont été prédéterminés par le fournisseur et évalués au moment de l’évaluation de la conformité. Pour une modification susceptible d’avoir une incidence sur la conformité, comme pour un changement de destination, il écrit qu’« il convient de considérer ledit système d’IA comme un nouveau système d’IA devant être soumis à nouvelle procédure d’évaluation de la conformité ». C’est un considérant, non une règle du dispositif.

Lorsque les circonstances visées au paragraphe 1 se produisent, le fournisseur initial « n’est plus considéré comme un fournisseur de ce système d’IA spécifique », mais coopère étroitement avec le nouveau. Ce paragraphe 2 « ne s’applique pas dans les cas où le fournisseur initial a clairement précisé que son système d’IA ne doit pas être transformé en un système d’IA à haut risque et ne relève donc pas de l’obligation relative à la remise de la documentation ». Il ne dit pas si ce fournisseur initial reste alors fournisseur.

Le texte ne dit pas si un paramétrage, un réglage de seuils, l’ajout de critères de notation ou un entraînement sur les données de l’entreprise constituent une modification substantielle. Il ne permet pas de dire que l’une d’elles fait, ou ne fait pas, de l’entreprise un fournisseur.

Ce que porte chaque rôle

L’article 26 compte 12 paragraphes. Vise tout déployeur d’un système à haut risque : l’usage conforme à la notice (§ 1), le contrôle humain confié à des personnes compétentes (§ 2), la pertinence des données d’entrée « pour autant que le déployeur exerce un contrôle » sur elles (§ 4), la surveillance, l’information du fournisseur, la suspension de l’utilisation en cas de risque et l’information immédiate en cas d’« incident grave » (§ 5), la conservation des journaux sous son contrôle « d’au moins six mois, sauf disposition contraire » (§ 6), l’utilisation, « le cas échéant », des informations fournies en application de l’article 13 pour l’analyse d’impact relative à la protection des données que leur impose l’article 35 du RGPD (§ 9) et la coopération avec les autorités (§ 12).

L’article 4, hors de la section des obligations à haut risque, vise « les fournisseurs et les déployeurs de systèmes d’IA », sans la restriction « à haut risque » : ils prennent des mesures pour garantir « dans toute la mesure du possible » un niveau suffisant de maîtrise de l’IA pour leur personnel et les autres personnes qui utilisent les systèmes pour leur compte.

Le paragraphe 7 de l’article 26 vise les déployeurs « qui sont des employeurs » : ils informent les représentants des travailleurs et les travailleurs concernés. Le paragraphe 11 vise les déployeurs de systèmes de l’annexe III qui prennent ou facilitent des décisions concernant des personnes physiques : ils informent ces personnes. Le paragraphe 8, l’enregistrement, ne vise que les déployeurs qui sont des autorités publiques ou des institutions, organes ou organismes de l’Union.

La personne visée par une décision d’un déployeur fondée sur les sorties d’un système à haut risque « mentionné à l’annexe III, à l’exception des systèmes énumérés au point 2 de ladite annexe », qui produit des effets juridiques ou l’affecte significativement de façon similaire d’une manière qu’elle considère comme ayant des conséquences négatives sur sa santé, sa sécurité ou ses droits fondamentaux, a le droit d’obtenir du déployeur des « explications claires et pertinentes ». L’article 86 ne s’applique que dans la mesure où ce droit n’est pas prévu par ailleurs dans le droit de l’Union. Le point 2 de l’annexe III n’est pas celui du recrutement, qui est le point 4. Il ne dit pas que tout candidat écarté a ce droit.

L’article 27 impose l’analyse d’impact sur les droits fondamentaux aux déployeurs « qui sont des organismes de droit public ou des entités privées fournissant des services publics » et à ceux des systèmes de l’annexe III, « points 5), b) et c) ». Le point 4, celui du recrutement, n’y est pas nommé. Pour les organismes de droit public et les entités privées fournissant des services publics, l’article vise en revanche tout système à haut risque de l’article 6, paragraphe 2, à l’exception de ceux du point 2 de l’annexe III, donc aussi un système de recrutement. Cette analyse n’est pas l’analyse d’impact relative à la protection des données, prévue par le RGPD, à laquelle renvoie l’article 26, paragraphe 9.

L’article 16 énumère 12 points, a) à l), d’obligations du fournisseur d’un système à haut risque : conformité aux exigences de la section 2, système de gestion de la qualité, évaluation de la conformité, déclaration UE de conformité, marquage CE, enregistrement. Pour l’annexe III, points 2 à 8, l’évaluation de la conformité suit le contrôle interne de l’annexe VI, sans organisme notifié. La liste de l’article 16 renvoie à d’autres articles : elle n’épuise pas les obligations du fournisseur.

Les PME : des plafonds et des allègements, aucune dispense pour le déployeur dans les articles relevés

La non-conformité aux obligations de l’article 16 comme de l’article 26 relève du même plafond : 15 000 000 EUR ou, pour une entreprise, 3 % du chiffre d’affaires annuel mondial total de l’exercice précédent, le montant le plus élevé étant retenu. Pour les PME, « le chiffre le plus faible étant retenu ». Ce sont des plafonds, non des amendes attendues. Pour une PME, le plafond est donc 3 % du chiffre d’affaires tant que celui-ci reste sous 500 millions d’euros (calcul de cette pièce, qui ne dit pas que toute PME se situe sous ce seuil).

Les États membres déterminent le régime des sanctions, qui « tiennent compte des intérêts des PME, y compris les jeunes pousses, et de leur viabilité économique ». L’article 99, paragraphe 7, prévoit que le montant se décide cas par cas.

Les dispositions propres aux PME visent d’autres objets. Les PME peuvent fournir « des éléments » de la documentation technique d’une manière simplifiée (art. 11). Les microentreprises sans entreprise partenaire ou liée peuvent se conformer de manière simplifiée à « certains éléments » du système de gestion de la qualité, sans dispense d’autres obligations (art. 63). La mise en œuvre du système de gestion de la qualité « est proportionnée à la taille de l’organisation du fournisseur » (art. 17). Ces dispositions changent la charge du fournisseur, non son rôle. L’article 62 est intitulé « Mesures en faveur des fournisseurs et déployeurs, en particulier les PME, y compris les jeunes pousses ». Son paragraphe 1 s’adresse aux États membres (accès prioritaire aux bacs à sable, activités de sensibilisation et de formation adaptées aux besoins des PME et des déployeurs) ; son paragraphe 2 prévoit des frais d’évaluation de la conformité réduits pour les PME fournisseuses. Il ne cite pas l’article 26 et ne prévoit aucune dispense ni aucun allègement des obligations d’un déployeur.

Aucune de ces dispositions ne prévoit pour une PME déployeuse une dispense ou une version allégée de l’article 26, qui ne mentionne pas les PME.

Mon interprétation

Mon interprétation. Appliquées à une entreprise qui utilise, sous sa propre autorité, un outil développé et mis sur le marché par un tiers, les définitions désignent un déployeur. C’est une application des articles 3 et 25, non une phrase du règlement : le texte ne parle ni de l’achat d’un système d’IA ni d’étagère. La question qui décide n’est donc pas « l’ai-je acheté ? » mais « suis-je dans l’un des trois cas de l’article 25 ? ». Cette formulation est ma lecture : le chapeau de l’article 25 dit « dans toutes les circonstances suivantes », mais les points b) et c) décrivent des systèmes de statuts différents (déjà à haut risque, ou non classé) et je les lis donc comme des cas distincts, non comme des conditions cumulatives.

Mon interprétation. Le premier cas se vérifie sur le nom : commercialiser sous son nom ou sa marque. Le deuxième se vérifie sur ce que l’évaluation initiale de la conformité avait prévu ou planifié, puis sur la conformité aux exigences du chapitre III, section 2, ou sur la destination pour laquelle le système a été évalué. Le troisième se vérifie sur la destination que le fournisseur a déclarée dans sa notice, ses indications publicitaires ou de vente, ses déclarations et sa documentation technique. Sur le point qu’un dirigeant de PME se posera en premier, savoir si régler l’outil ou l’entraîner sur ses données fait basculer, le texte ne répond pas, et cette pièce ne le tranche pas.

Ce qu’un lecteur qui doit décider peut en faire

Ne pas écrire « selon le règlement, une PME qui achète un logiciel sur étagère est déployeur » : le texte ne connaît ni l’achat ni l’étagère.

Ne pas écrire que tout outil de tri de candidatures est à haut risque : le critère est la destination, l’article 6, paragraphe 3, ménage une dérogation et le classement à haut risque ne porte que sur des systèmes d’IA au sens de l’article 3, non sur tout logiciel.

Ne pas écrire que l’éditeur est libéré de toute obligation : dans les circonstances de l’article 25, paragraphe 1, il n’est plus considéré comme fournisseur de ce système spécifique mais coopère étroitement avec le nouveau. Si l’éditeur a clairement précisé que son système ne doit pas être transformé en système à haut risque, l’article 25, paragraphe 2, ne s’applique pas, et le texte écrit qu’il « ne relève donc pas de l’obligation relative à la remise de la documentation » ; ce paragraphe ne dit pas s’il reste alors fournisseur. Ne pas écrire non plus qu’un contrat suffit à écarter les cas de modification et de changement de destination : seule l’absence de réserve écrite est établie.

Ne pas écrire qu’une PME qui recrute doit réaliser une analyse d’impact sur les droits fondamentaux : l’article 27 ne vise un système de recrutement que chez un déployeur qui est un organisme de droit public ou une entité privée fournissant des services publics.

Mes réserves

Le texte de juillet 2024, non le droit d’aujourd’hui. La pièce lit le règlement tel que publié au Journal officiel du 12 juillet 2024. Elle ne contient aucune version consolidée, aucun acte modificatif, aucune ligne directrice, aucune jurisprudence, aucun droit national ni texte du RGPD. Les dates d’application (« à partir du 2 août 2026 » pour le corps du règlement dans ce texte) sont celles de cette version seule.
Un texte de loi ne décrit pas la pratique. La pièce ne dit rien de la proportion de PME qui trient leurs candidatures par IA ni des pratiques des éditeurs de ces outils.
Des recherches limitées au texte français d’origine. Les absences comptées (« achet », « étagère », « paramétr »…) valent pour les 144 pages de cette version, non pour une traduction ni pour un autre texte.
Une industrie que ces articles ne nomment pas. La recherche du motif « industri » (8 occurrences dans le texte) n’en trouve aucune dans les articles qui définissent les rôles, classent le recrutement ou répartissent les obligations ; la pièce n’écrit rien de propre à l’industrie.