\n| \n Type de Biais<\/strong><\/p>\n<\/td>\n| \n Description<\/strong><\/p>\n<\/td>\n<\/tr>\n\n| Biais d\u2019ancrage<\/b><\/td>\n | Difficult\u00e9 \u00e0 se d\u00e9partir d’une premi\u00e8re proposition formul\u00e9e par l’IA, surtout si elle est pr\u00e9sent\u00e9e comme “pr\u00eate \u00e0 l’emploi”<\/td>\n<\/tr>\n | \n| Biais de confirmation<\/b><\/td>\n | Tendance de l’IA \u00e0 fournir des r\u00e9ponses qui confirment les hypoth\u00e8ses ou croyances pr\u00e9existantes de l’utilisateur<\/td>\n<\/tr>\n | \n| Biais d\u2019apprentissage<\/b><\/td>\n | Reflet dans les r\u00e9sultats des tendances majoritaires, des pr\u00e9jug\u00e9s ou des partis-pris pr\u00e9sents dans les vastes corpus de donn\u00e9es d’entra\u00eenement<\/td>\n<\/tr>\n | \n| Biais discriminatoire<\/b><\/td>\n | Reproduction d’\u00e9l\u00e9ments discriminatoires (racisme, sexisme, etc.) pr\u00e9sents dans les donn\u00e9es d’entra\u00eenement issues d’internet<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\nResponsabilit\u00e9 de l’utilisateur<\/h3>\n\n- V\u00e9rification syst\u00e9matique :<\/b> Face au risque d’\u00ab hallucinations \u00bb (cr\u00e9ation d’informations fictives comme des jurisprudences ou textes de loi inexistants), toute information g\u00e9n\u00e9r\u00e9e par une IA doit \u00eatre rigoureusement v\u00e9rifi\u00e9e par d’autres moyens.<\/li>\n
- Responsabilit\u00e9 pleine et enti\u00e8re :<\/b> L’utilisateur qui int\u00e8gre un contenu g\u00e9n\u00e9r\u00e9 par l’IA dans une production professionnelle “reprend \u00e0 son compte ces \u00e9l\u00e9ments comme si elle ou il les avait \u00e9crits elle-m\u00eame ou lui-m\u00eame”. Il est impossible de “se d\u00e9fausser sur l\u2019IA” en cas d’erreur ou d’omission.<\/li>\n<\/ul>\n
Impact environnemental<\/h3>\n\n- Impact environnemental :<\/b> Une requ\u00eate sur un syst\u00e8me d’IA grand public consomme dix fois plus d\u2019\u00e9lectricit\u00e9 qu\u2019une recherche classique, en plus de l’impact li\u00e9 \u00e0 la consommation d’eau et aux ressources naturelles.<\/li>\n
- Principe de frugalit\u00e9 :<\/b> Il convient de se demander si un autre moyen, moins \u00e9nergivore (comme un moteur de recherche classique), ne permettrait pas d’atteindre le m\u00eame r\u00e9sultat.<\/li>\n<\/ul>\n
3. S\u00e9curit\u00e9 et confidentialit\u00e9<\/h2>\n\n- Principe fondamental :<\/b> Donner une information \u00e0 un chatbot \u2013 dans le prompt ou par une pi\u00e8ce jointe \u2013 \u00e9quivaut \u00e0 la publier sur internet.<\/li>\n
- Interdiction stricte :<\/b> Aucun document couvert par un secret ne doit \u00eatre vers\u00e9 dans un SIA externe.<\/li>\n
- Exemples d’usages formellement proscrits :<\/b>\n
\n- T\u00e9l\u00e9charger des m\u00e9moires, des pi\u00e8ces de dossiers contentieux, des notes de rapporteur ou des projets de d\u00e9cision.<\/li>\n
- Soumettre un projet de texte normatif (ex: projet de d\u00e9cret) couvert par le secret des d\u00e9lib\u00e9rations.<\/li>\n
- Faire corriger un projet de conclusions de rapporteur public, qui peut contenir des informations personnelles.<\/li>\n
- Utiliser l’IA pour r\u00e9sumer un dossier de proc\u00e9dure ou analyser des expertises m\u00e9dicales confidentielles.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n
4. D\u00e9veloppement de Syst\u00e8mes d’IA Internes<\/h2>\n\n- P\u00e9rim\u00e8tre d’application ma\u00eetris\u00e9 :<\/b>\n
\n- Les projets envisag\u00e9s se limitent \u00e0 des t\u00e2ches \u00e0 faible risque, comme l’automatisation de l’anonymisation ou l’aide \u00e0 la recherche juridique.<\/li>\n
- L’IA ne servira qu’\u00e0 des t\u00e2ches pr\u00e9paratoires, sans incidence sur la d\u00e9cision finale.<\/li>\n
- Un principe de r\u00e9versibilit\u00e9 est affirm\u00e9, garantissant la capacit\u00e9 de r\u00e9aliser les t\u00e2ches manuellement.<\/li>\n<\/ul>\n<\/li>\n
- Conditions de la confiance :<\/b>\n
\n- Transparence :<\/b> La juridiction s’engage \u00e0 communiquer publiquement sur les SIA d\u00e9velopp\u00e9s, leurs usages et les garanties de contr\u00f4le humain.<\/li>\n
- Performance et durabilit\u00e9 :<\/b> Le d\u00e9ploiement se fera apr\u00e8s une phase d’exp\u00e9rimentation et d’\u00e9valuation des b\u00e9n\u00e9fices par rapport aux co\u00fbts (humains, financiers, environnementaux). Une \u00e9valuation environnementale sera men\u00e9e.<\/li>\n
- Autonomie strat\u00e9gique :<\/b> Les SIA internes devront offrir des garanties de souverainet\u00e9 et de s\u00e9curit\u00e9, avec une attention port\u00e9e \u00e0 la localisation des serveurs et une conformit\u00e9 aux recommandations de l’ANSSI.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n
<\/p>\n | | |