Vous êtes dans : Accueil > Actualités > E-Santé > Algorithmes et discriminations : le Défenseur des droits, avec la CNIL, appelle à une mobilisation collective

Algorithmes et discriminations : le Défenseur des droits, avec la CNIL, appelle à une mobilisation collective

le 15 juin 2020

Dans un communiqué publié le 31 mai, le Défenseur des droits énonce des propositions pour éviter que les outils numériques, dont l'usage s'est accru avec l'épidémie de Covid 19, reproduisent et amplifient les discriminations. 

Les outils numériques, dont l’usage s’est accru avec la crise sanitaire actuelle, reposent souvent sur des algorithmes sans que le grand public en soit toujours conscient ou informé. Désormais utilisés dans des domaines tels que l’accès aux prestations sociales, la police, la justice ou encore le recrutement, ils constituent des sources de progrès, mais sont également porteurs de risques pour les droits fondamentaux, comme l’ont déjà souligné le Défenseur des droits et la CNIL.

Derrière l’apparente neutralité des algorithmes, des recherches ont mis à jour l’ampleur des biais qui peuvent intervenir lors de leur conception et leur déploiement. Tout comme les bases de données qui les alimentent, ils sont conçus et générés par des humains dont les stéréotypes, en se répétant automatiquement, peuvent engendrer des discriminations.

Considérant que cet enjeu ne doit pas être un angle mort du débat public, le Défenseur des droits, en partenariat avec la CNIL, a réuni les 28 et 29 mai, des spécialistes, chercheurs, juristes et développeurs autour des enjeux de transparence des algorithmes et des biais discriminatoires. Tous les experts ont pointé les risques considérables de discrimination que leur usage exponentiel peut faire peser sur chacun et chacune d’entre nous, dans toutes les sphères de notre vie.

Il a publié le 31 mai des propositions pour éviter que les discriminations soient reproduites et amplifiées par ces technologies. 

Lire le communiqué sur le site du Défenseur des droits