Le ministère de la Culture propose un comparateur d’IA dénommé Compar:IA permettant de tester les résultats et performances de 11 modèles d’IA générative, de mesurer et participer au respect de la diversité des cultures francophones.
Les modèles d’IA générative sont principalement entraînées sur des données en anglais générant des biais linguistiques et des résultats parfois stéréotypés ou discriminants.
Compar:IA vise à faciliter l’accès aux IA génératives et encourager l’esprit critique des utilisateurs en rendant effectif un droit au pluralisme des modèles.
L’objectif est de procéder à l’alignement des modèles d’IA, méthode de réduction des biais qui consiste à ajuster les modèles pour qu’ils génèrent des résultats conformes à des valeurs ou des objectifs spécifiques. Ce processus repose sur des jeux de données de préférences où les utilisateurs indiquent quelle réponse est la meilleure selon des critères donnés, telles que la pertinence, l’utilité, la nocivité. Une fois constitués, ces jeux de données sont utilisés pour entrainer les modèles en les ajustant selon les préférences exprimées par les utilisateurs. Pour améliorer la représentation des cultures francophones dans les modèles, les jeux de données d’alignement doivent inclure une variété de langues, de contextes et d’exemples issus de tâches courantes des utilisateurs.