AI Pact vise à promouvoir le développement et le déploiement de l’IA en Europe tout en respectant les valeurs et les droits fondamentaux des citoyens européens via une coopération renforcée entre les États membres, les institutions européennes, le secteur privé, la société civile et les chercheurs, et un investissement de 20 milliards d’euros par an dans l’IA.
AI Pact présente des risques et des opportunités avec deux logiques qui s’affrontent, celle des élus du Parlement souhaitant durcir le texte pour mieux protéger les droits fondamentaux des citoyens face aux menaces, et celle de la France, l’Allemagne et l’Italie ne voulant pas freiner l’innovation en préservant les intérêts des acteurs européens comme Mistral AI en France et Aleph Alpha en Allemagne.
Parmi les opportunités :
- Amélioration de la compétitivité et de l’innovation de l’économie européenne, en particulier dans les domaines stratégiques tels que la santé, l’énergie, l’agriculture, la mobilité, la sécurité et la défense;
- Contribution à la transition écologique et numérique de l’Europe, en réduisant les émissions de gaz à effet de serre, en optimisant l’utilisation des ressources, en renforçant la résilience et en créant de nouveaux emplois et compétences;
- Renforcement de la souveraineté et de l’autonomie de l’Europe dans le domaine de l’IA, en réduisant sa dépendance à l’égard des acteurs étrangers et en garantissant le respect de ses normes éthiques et juridiques;
- Soutien à la démocratie et aux droits de l’homme, en assurant la transparence, la responsabilité, la non-discrimination et la protection des données des utilisateurs de l’IA.
Parmi les menaces :
- Impact négatif sur l’emploi, la sécurité sociale, l’éducation et la culture, en raison de la substitution, de la polarisation ou de la précarisation du travail humain par l’IA, ainsi que de la nécessité d’adapter les systèmes éducatifs et de formation aux nouvelles compétences requises;
- Menace pour la sécurité et la stabilité, en raison de l’utilisation malveillante, abusive ou accidentelle de l’IA, notamment dans le domaine militaire, cybernétique ou terroriste, ainsi que du risque de course aux armements ou de conflits géopolitiques liés à l’IA;
- Violation des droits et des valeurs, en raison du manque de contrôle, de supervision ou de réglementation de l’IA, notamment en ce qui concerne la protection de la vie privée, la dignité humaine, la liberté d’expression, la justice et l’équité;
- Fragmentation du marché intérieur et de l’union politique, en raison de la diversité des approches nationales, régionales ou sectorielles de l’IA, ainsi que du manque de coordination, de coopération ou de confiance entre les acteurs européens.
Trois niveaux de risques :
- Un risque minimal exonérant l’IA de toute obligation (ex. : systèmes de recommandatio, filtres anti-spam);
- Un risque élevé pour la santé, la sécurité ou les droits de l’Homme. Les acteurs devront mettre en place un dispositif d’atténuation des risques et une supervision humaine (ex. : matching dans le recrutement, scoring bancaire, chatbots, catégorisation biométrique, reconnaissance des émotions, contenus générés artificiellement);
- Un risque inacceptable pour les droits fondamentaux des personnes (ex. : surveillance de masse, police prédictive, reconnaissance faciale dédiés au maintien de l’ordre dans l’espace public). Cependant l’identification biométrique en temps réel sera autorisée dans le cadre de la recherche ciblée d’une personne condamnée ou soupçonnée d’avoir commis un crime grave, en prévention d’une menace terroriste ou en cas de recherche de victimes de traite ou d’exploitation sexuelle.
Le non respect des règles sera sanctionné par une amende pouvant aller jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial.
A suivre …
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
https://digital-strategy.ec.europa.eu/en/policies/ai-pact