Le Village de la Justice consacre un article sur les risques de discrimination li\u00e9s \u00e0 l\u2019usage des algorithmes, reprenant les analyses et conclusions du D\u00e9fenseur des droits et de la CNIL.<\/p>\n
<\/p>\n
<\/p>\n
“A premi\u00e8re vue, les algorithmes permettent de trier, classer ou d\u2019ordonner des informations en se d\u00e9barrassant des pr\u00e9jug\u00e9s et biais propres aux affects des humains (…) En r\u00e9alit\u00e9, il n\u2019y a ni magie technologique ni neutralit\u00e9 math\u00e9matique : les algorithmes sont con\u00e7us par des humains et \u00e0 partir de donn\u00e9es refl\u00e9tant des pratiques humaines. Ce faisant, des biais peuvent \u00eatre ainsi int\u00e9gr\u00e9s \u00e0 toutes les \u00e9tapes de l\u2019\u00e9laboration et du d\u00e9ploiement des syst\u00e8mes (…) Les concepteurs d\u2019algorithmes, comme les organisations achetant et utilisant ce type de syst\u00e8mes, n\u2019affichent pas la vigilance n\u00e9cessaire pour \u00e9viter une forme d\u2019automatisation invisible des discriminations (…) L\u2019opacit\u00e9 des syst\u00e8mes et leur caract\u00e8re secret constituent un frein \u00e0 la d\u00e9couverte des biais \u00e9ventuels”<\/em><\/p><\/blockquote>\n
<\/p>\n
Le D\u00e9fenseur des droits recommande la mise en \u0153uvre de dispositifs permettant de pr\u00e9venir, corriger et sanctionner les discriminations li\u00e9es aux origines, au sexe, \u00e0 l\u2019\u00e2ge, aux choix cultuels, aux orientations politiques, \u00e0 la sant\u00e9, etc.:<\/p>\n
\n
- une obligation d\u2019audit pr\u00e9alable sur le mod\u00e8le de l\u2019analyse d\u2019impact relative \u00e0 la protection des donn\u00e9es (Privacy by design \/ RGPD);<\/li>\n
- des obligations en mati\u00e8re d\u2019information et de transparence des algorithmes dans un langage accessible et intelligible;<\/li>\n
- un contr\u00f4le pr\u00e9cis et r\u00e9gulier des r\u00e9sultats de l\u2019algorithme apprenant (IA) pour s\u2019assurer que l\u2019algorithme ne devient pas discriminatoire.<\/li>\n<\/ol>\n
<\/p>\n