Quiz : Les discriminations algorithmiques
Testez vos connaissances ! Choisissez une réponse et validez avec le bouton ou la touche Entrée.
Testez vos connaissances ! Choisissez une réponse et validez avec le bouton ou la touche Entrée.
Votre nombre de bonnes réponses : 0.
Il vous reste des questions ?
Espace de droits · le numérique public
Cochez la ou les bonnes réponses. Le corrigé se trouve sur la dernière page, détachable.
Les choix faits par les concepteurs d'un algorithme (paramètres, données, objectif) sont des choix politiques, pas seulement techniques.
☐ Vrai ☐ Faux
Quelle est la différence principale entre les biais humains et les biais algorithmiques ?
Un algorithme entraîné sur des données historiques peut reproduire les inégalités du passé.
☐ Vrai ☐ Faux
Pourquoi certaines associations demandent-elles la suppression (et non la correction) de certains algorithmes de contrôle ?
Qu'est-ce qu'une discrimination indirecte dans le contexte algorithmique ?
À quelles conditions une différence de traitement peut-elle être justifiée ?
Si un algorithme produit des résultats statistiquement exacts, il ne peut pas être considéré comme discriminatoire.
☐ Vrai ☐ Faux
Qu'est-ce que le biais d'automatisation ?
Que reproche le Défenseur des droits aux administrations concernant leurs algorithmes de ciblage ?
L'intentionnalité est-elle nécessaire pour qu'il y ait discrimination algorithmique ?
Que peut faire une personne qui pense avoir été victime de discrimination via un algorithme des services publics ?
À quoi sert la demande d'accès aux données personnelles auprès de l'administration ?
droitsnumeriques.fr — un site du collectif Changer de Cap. Écrivez-nous :
Les choix faits par les concepteurs d'un algorithme (paramètres, données, objectif) sont des choix politiques, pas seulement techniques.
Réponse : Vrai.
Vrai. Derrière les algorithmes, il y a des humains qui font des choix politiques : quels paramètres utiliser, quelles données d'entraînement sélectionner, et même le choix de recourir ou non à un algorithme.
Quelle est la différence principale entre les biais humains et les biais algorithmiques ?
Réponse : Les biais humains varient d'un agent à l'autre, tandis que les biais algorithmiques désavantagent systématiquement les mêmes personnes.
Quand des humains décident, chaque agent a ses propres préjugés. Avec un algorithme, les biais sont centralisés : ce sont toujours les mêmes personnes qui sont favorisées ou désavantagées.
Un algorithme entraîné sur des données historiques peut reproduire les inégalités du passé.
Réponse : Vrai.
Vrai. C'est ce qui s'est passé au Royaume-Uni en 2020 : un algorithme de prédiction des notes du baccalauréat, basé sur les résultats passés des lycées, a pénalisé les bons élèves venant d'établissements historiquement moins performants.
Pourquoi certaines associations demandent-elles la suppression (et non la correction) de certains algorithmes de contrôle ?
Réponse : Parce que tant que l'objectif reste le même (cibler les dossiers complexes), les plus vulnérables seront toujours surcontrôlés.
Quand la CAF se fixe pour objectif de contrôler les dossiers les plus complexes, elle surcontrôle mécaniquement les foyers précaires. Tant que l'objectif ne change pas, corriger l'algorithme ne suffit pas.
Qu'est-ce qu'une discrimination indirecte dans le contexte algorithmique ?
Réponse : L'utilisation de proxys (substituts) qui désavantagent certaines personnes sans utiliser directement un critère protégé.
La discrimination indirecte se produit via des proxys — par exemple, l'envoi fréquent de courriers papier peut être un substitut du critère de l'âge, sans que ce dernier soit directement mentionné.
À quelles conditions une différence de traitement peut-elle être justifiée ?
Réponse : Si elle poursuit un but légitime et si les moyens sont nécessaires et appropriés.
Le Défenseur des droits souligne que deux conditions sont nécessaires : un but légitime clairement défini, et des moyens nécessaires et appropriés — conditions qu'il estime non remplies pour les algorithmes de ciblage des contrôles.
Si un algorithme produit des résultats statistiquement exacts, il ne peut pas être considéré comme discriminatoire.
Réponse : Faux.
Faux. La justesse des calculs ne suffit pas. Le Défenseur des droits considère que les algorithmes de ciblage des contrôles produisent des différences de traitement sans justification suffisante, même si les corrélations statistiques sont exactes.
Qu'est-ce que le biais d'automatisation ?
Réponse : La tendance des agents humains à faire davantage confiance aux résultats de la machine qu'à leur propre jugement.
Le biais d'automatisation fait que l'agent aura tendance à valider les résultats proposés par la machine, ce qui limite sa capacité à corriger les erreurs de l'algorithme.
Que reproche le Défenseur des droits aux administrations concernant leurs algorithmes de ciblage ?
Réponse : De ne pas faire d'analyse poussée des effets discriminatoires de leurs algorithmes.
Le Défenseur des droits a rappelé que les administrations manquaient à leurs obligations en ne faisant pas d'analyse poussée de leurs algorithmes en matière de discriminations.
L'intentionnalité est-elle nécessaire pour qu'il y ait discrimination algorithmique ?
Réponse : Non, les administrations sont responsables même sans intention de discriminer.
Il n'y a pas de question d'intentionnalité : c'est la responsabilité des administrations de s'assurer que les algorithmes ne sont pas biaisés, qu'elles aient « fait exprès » ou non.
Que peut faire une personne qui pense avoir été victime de discrimination via un algorithme des services publics ?
Réponse : Demander l'accès à ses données, saisir le Défenseur des droits ou contacter des associations.
Trois recours principaux : demander l'accès à ses données personnelles, s'adresser aux antennes du Défenseur des droits, ou contacter des associations pour être mis en lien avec d'autres personnes concernées.
À quoi sert la demande d'accès aux données personnelles auprès de l'administration ?
Réponse : À savoir ce que l'administration sait de vous et comment elle a utilisé vos données.
La demande d'accès permet de savoir ce que l'administration sait de vous et comment elle a utilisé vos données — une première étape essentielle pour comprendre si un traitement discriminatoire a eu lieu.
droitsnumeriques.fr — un site du collectif Changer de Cap. Écrivez-nous :