\n| D\u00e9faillance dangereuse<\/b><\/td>\n | Cons\u00e9quences et risques<\/td>\n | La panne de l’IA met en danger la sant\u00e9 et la s\u00e9curit\u00e9 des personnes ou des biens<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n Exemples de composants de s\u00e9curit\u00e9 :<\/b><\/p>\n\n- Machines :<\/b> Syst\u00e8me de vision IA d\u00e9tectant une pr\u00e9sence humaine dans une cellule robotis\u00e9e pour d\u00e9clencher un arr\u00eat d’urgence;<\/li>\n
- Ascenseurs :<\/b> IA g\u00e9rant la d\u00e9tection d’obstacles lors de la fermeture des portes (une d\u00e9faillance peut causer des blessures);<\/li>\n
- Contre-exemple :<\/b> Un syst\u00e8me d’IA dans un thermostat intelligent dont la d\u00e9faillance n’entra\u00eene qu’un inconfort thermique ou une facture \u00e9lev\u00e9e n’est pas un composant de s\u00e9curit\u00e9.<\/li>\n<\/ul>\n
Classification selon l’Article 6(2) : IA \u00e0 haut risque (Annexe III)<\/h2>\nL’Article 6(2) classe comme \u00e0 haut risque certains syst\u00e8mes d’IA autonomes qui posent des risques significatifs pour la sant\u00e9, la s\u00e9curit\u00e9 ou les droits fondamentaux<\/strong> dans huit domaines sp\u00e9cifiques :<\/p>\n\n- Biom\u00e9trie;<\/li>\n
- Infrastructures critiques;<\/li>\n
- \u00c9ducation et formation professionnelle;<\/li>\n
- Emploi et gestion des travailleurs;<\/li>\n
- Acc\u00e8s aux services priv\u00e9s essentiels et aux services publics;<\/li>\n
- R\u00e9pression;<\/li>\n
- Migration, asile et contr\u00f4le des fronti\u00e8res;<\/li>\n
- Administration de la justice et processus d\u00e9mocratiques.<\/li>\n<\/ol>\n
M\u00e9canisme de filtre (Article 6(3))<\/h2>\nL’Article 6(3) permet aux fournisseurs d’exempter un syst\u00e8me de la cat\u00e9gorie haut risque, m\u00eame s’il figure \u00e0 l’Annexe III, s’il remplit l’une des quatre conditions suivantes et ne pratique pas le profilage<\/b>.<\/p>\n\n\n\nCondition<\/strong><\/td>\nDescription<\/strong><\/td>\nExemple<\/strong><\/td>\n<\/tr>\n\n| T\u00e2che proc\u00e9durale \u00e9troite<\/b><\/td>\n | Transformation de donn\u00e9es ou classification simple sans jugement de valeur<\/td>\n | Tri de dossiers de visa dans des dossiers pr\u00e9d\u00e9finis (\u00ab identit\u00e9 \u00bb, \u00ab itin\u00e9raire \u00bb)<\/td>\n<\/tr>\n | \n| Am\u00e9lioration d’une activit\u00e9 humaine<\/b><\/td>\n | Raffine ou v\u00e9rifie une activit\u00e9 humaine d\u00e9j\u00e0 compl\u00e9t\u00e9e sans en changer le r\u00e9sultat<\/td>\n | Syst\u00e8me signalant des erreurs ou des contradictions dans un travail humain finalis\u00e9<\/td>\n<\/tr>\n | \n| D\u00e9tection de sch\u00e9mas d\u00e9cisionnels<\/b><\/td>\n | D\u00e9tecte des anomalies par rapport \u00e0 des d\u00e9cisions pass\u00e9es (ex-post) pour contr\u00f4le qualit\u00e9<\/td>\n | IA d\u00e9tectant des incoh\u00e9rences dans les notations d’un enseignant par rapport au pass\u00e9<\/td>\n<\/tr>\n | \n| T\u00e2che pr\u00e9paratoire<\/b><\/td>\n | T\u00e2ches de recherche ou de lien avant l’\u00e9valuation r\u00e9elle, sans impact sur la substance<\/td>\n | IA fournissant des r\u00e9f\u00e9rences juridiques ou des guides internes \u00e0 un agent public<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n Le m\u00e9canisme de filtre ne peut jamais \u00eatre appliqu\u00e9<\/b> si le syst\u00e8me effectue du profilage. Le profilage est d\u00e9fini par trois \u00e9l\u00e9ments cumulatifs :<\/p>\n | | | | |