Les lignes directrices de l’UE visent à aider les fournisseurs et les développeurs de systèmes d’IA, ainsi que les autorités de surveillance du marché compétentes, à évaluer si un système d’IA devrait être classé comme étant à haut risque, facilitant ainsi l’application uniforme et effective de l’article 6 de l’IA Act. L’objectif est d’établir un mécanisme proportionné et ciblé sur la sécurité, évitant les charges réglementaires inutiles pour les produits à faible risque :
- Article 6(1) : Les systèmes d’IA intégrés dans des produits déjà soumis à la législation d’harmonisation de l’Union (ex: machines, jouets, dispositifs médicaux) requièrent une évaluation de conformité par un tiers;
- Article 6(2) : Les systèmes d’IA « autonomes » utilisés dans des domaines sensibles (biométrie, infrastructures critiques, éducation, emploi, etc.) sont listés à l’Annexe III.
Un point crucial réside dans le mécanisme de filtre (Article 6(3)), qui permet d’exempter certains systèmes de l’Annexe III s’ils n’influencent pas de manière significative le résultat de la prise de décision, sauf s’ils effectuent du profilage.
Classification selon l’article 6(1) : produits réglementés
Cette section concerne les systèmes d’IA destinés à être utilisés comme composants de sécurité d’un produit, ou qui sont eux-mêmes des produits, couverts par la législation d’harmonisation de l’Union énumérée à l’Annexe I. Pour être classé à haut risque sous l’article 6(1), un système doit remplir deux conditions :
- L’IA est un produit ou un composant de sécurité d’un produit couvert par la législation de l’Annexe I.
- Le produit final est tenu de subir une évaluation de conformité par un tiers (notamment pour les produits de conception complexe ou présentant des risques élevés de non-conformité).
Un système d’IA est défini comme un composant de sécurité s’il remplit l’un des deux scénarios suivants :
| Critère de déclenchement | Justification | |
| Fonction de sécurité | Intention du fournisseur (définie dans la doc technique) | L’IA vise à prévenir ou atténuer les risques pour la santé et la sécurité |
| Défaillance dangereuse | Conséquences et risques | La panne de l’IA met en danger la santé et la sécurité des personnes ou des biens |
Exemples de composants de sécurité :
- Machines : Système de vision IA détectant une présence humaine dans une cellule robotisée pour déclencher un arrêt d’urgence;
- Ascenseurs : IA gérant la détection d’obstacles lors de la fermeture des portes (une défaillance peut causer des blessures);
- Contre-exemple : Un système d’IA dans un thermostat intelligent dont la défaillance n’entraîne qu’un inconfort thermique ou une facture élevée n’est pas un composant de sécurité.
Classification selon l’Article 6(2) : IA à haut risque (Annexe III)
L’Article 6(2) classe comme à haut risque certains systèmes d’IA autonomes qui posent des risques significatifs pour la santé, la sécurité ou les droits fondamentaux dans huit domaines spécifiques :
- Biométrie;
- Infrastructures critiques;
- Éducation et formation professionnelle;
- Emploi et gestion des travailleurs;
- Accès aux services privés essentiels et aux services publics;
- Répression;
- Migration, asile et contrôle des frontières;
- Administration de la justice et processus démocratiques.
Mécanisme de filtre (Article 6(3))
L’Article 6(3) permet aux fournisseurs d’exempter un système de la catégorie haut risque, même s’il figure à l’Annexe III, s’il remplit l’une des quatre conditions suivantes et ne pratique pas le profilage.
| Condition | Description | Exemple |
| Tâche procédurale étroite | Transformation de données ou classification simple sans jugement de valeur | Tri de dossiers de visa dans des dossiers prédéfinis (« identité », « itinéraire ») |
| Amélioration d’une activité humaine | Raffine ou vérifie une activité humaine déjà complétée sans en changer le résultat | Système signalant des erreurs ou des contradictions dans un travail humain finalisé |
| Détection de schémas décisionnels | Détecte des anomalies par rapport à des décisions passées (ex-post) pour contrôle qualité | IA détectant des incohérences dans les notations d’un enseignant par rapport au passé |
| Tâche préparatoire | Tâches de recherche ou de lien avant l’évaluation réelle, sans impact sur la substance | IA fournissant des références juridiques ou des guides internes à un agent public |
Le mécanisme de filtre ne peut jamais être appliqué si le système effectue du profilage. Le profilage est défini par trois éléments cumulatifs :
- Traitement automatisé.
- Portant sur des données à caractère personnel.
- Visant à évaluer des aspects personnels (rendement au travail, situation économique, santé, préférences, etc.) pour prédire un comportement.
Focus sur les systèmes biométriques (Annexe III, Point 1)
L’Annexe III liste trois cas d’usage à haut risque dans le domaine de la biométrie :
Identification Biométrique à Distance
- Définition : Identification de personnes physiques sans leur implication active, généralement à distance, par comparaison avec une base de données de référence;
- Justification : Risque de biais discriminatoires et effet dissuasif sur l’exercice des libertés fondamentales (expression, réunion);
- Exclusion : Les systèmes cherchant des objets non-biométriques (ex: plaques d’immatriculation ou vêtements spécifiques comme « une écharpe rouge ») ne sont pas classés à haut risque.
Catégorisation biométrique
Concerne les systèmes classant les personnes selon des attributs sensibles ou protégés (origine ethnique, religion, orientation sexuelle) sur la base de l’inférence de ces caractéristiques.
Reconnaissance des émotions
Ces systèmes sont classés à haut risque en raison de leur caractère intrusif. S’ils sont utilisés sur le lieu de travail ou dans l’éducation (hors raisons médicales ou de sécurité), ils peuvent même être soumis à des interdictions strictes.
Obligations des fournisseurs pour les systèmes exemptés
Lorsqu’un fournisseur décide qu’un système d’IA de l’Annexe III n’est pas à haut risque en vertu du filtre de l’article 6(3), il doit :
- Documenter l’évaluation avant la mise sur le marché (incluant l’explication du choix de la condition et l’absence de profilage).
- Enregistrer le système dans la base de données de l’UE (Article 71).
- Maintenir cette documentation à la disposition des autorités de surveillance du marché.
Les autorités de surveillance peuvent réévaluer cette classification et imposer des sanctions (Article 99) si elles constatent que le système a été mal classé pour contourner les obligations de l’IA Act.