Gap analysis — capacité humaine × capacité IA
Frantz Fanon × Biais hérités des données d'entraînement (limite transversale)
Inscription technique de discriminations héritées et limites de leur correction
Fiches comparées
Frantz FanonCapacité humaine · PhilosophiqueBiais hérités des données d'entraînement (limite transversale)Capacité IA · LimitesApport de l'IA
La fiche sur les biais hérités documente ce que l'analyse fanonienne annonçait sur un autre terrain : reproduction et parfois amplification de biais sociaux et historiques, avec effets établis en recrutement, crédit, justice prédictive et reconnaissance faciale. L'apport est de rendre mesurable, sur des systèmes présentés comme neutres, une inscription du regard racialisant que Fanon décrivait dans l'expérience vécue — mais la mesure ne dit rien de cette expérience elle-même.
Mécanisme
Apprentissage statistique sur des corpus reflétant des rapports sociaux inégaux : le système capte les régularités présentes dans les données, y compris celles qui encodent une discrimination passée, et les applique à des cas nouveaux comme si elles étaient des propriétés du monde.
Comment faire mieux
Audits systématiques par sous-population et documentation des corpus ; la fiche IA établit toutefois qu'il n'existe pas de solution technique universelle et neutre, différentes définitions mathématiques de l'équité étant mutuellement incompatibles — un choix de correction reste toujours un choix normatif et politique.
Mode d'interaction recommandé
Le système est l'objet de l'analyse et non un partenaire : humains et institutions décident du critère d'équité, le système fournit les mesures qui rendent l'écart visible.
Substituabilité
Non remplaçable à horizon prévisible
Scénarios temporels
Présent
La reproduction des biais est un fait documenté et un champ de recherche constitué ; l'aliénation psychique que Fanon analyse n'est pas mesurable par ces instruments.
+5 ans
Généralisation des obligations d'audit et de documentation, avec des désaccords persistants sur la définition d'équité retenue, faute de critère unique démontrable.
+15/20 ans
Le choix du critère restera politique ; l'automatisation à grande échelle pourrait, selon les cas, renforcer ou réduire l'inscription technique de discriminations existantes.
Axes possibles (perspectives, pas des prédictions tranchées)
Adoption de l'audit obligatoire
Consensus scientifiqueGénéralisation d'obligations d'évaluation par sous-population sur les systèmes à impact sur les droits, sans convergence sur le critère d'équité.
Statu quo de la neutralité proclamée
Opinion majoritaireLes biais restent documentés au cas par cas après déploiement, la présomption de neutralité technique demeurant l'argument dominant des opérateurs.
Rupture par arbitrage normatif explicite
Hypothèse prospectiveFixation par la voie politique d'un critère d'équité opposable, qui transformerait un débat technique irrésoluble en décision publique assumée.
Sous-thèmes et axes de recherche
Sous-thèmes
- Reproduction et amplification des biais dans des systèmes présentés comme neutres
- Incompatibilité mathématique entre définitions de l'équité
- Écart entre mesure d'un biais et expérience vécue de l'aliénation
Axes de recherche
- Protocoles d'audit par sous-population et documentation des corpus
- Arbitrage politique entre définitions concurrentes de l'équité algorithmique
- Comparaison avec les analyses postcoloniales de la neutralité technique proclamée
Documents clés
- 1.Frantz Fanon, Les Damnés de la terre (1961)primaire
- 2.Frantz Fanon — Wikipédiasecondaire
- 3.Biais algorithmique — Wikipédiasecondaire
Données brutes de cette analyse : /api/gap/fanon-vs-biais-donnees — méthode de comparaison détaillée dans la méthodologie.