Gap analysis — capacité humaine × capacité IA
Gary Becker × Biais hérités des données d'entraînement (limite transversale)
Modélisation prédictive des comportements sociaux et reproduction des discriminations
Fiches comparées
Gary BeckerCapacité humaine · SocialBiais hérités des données d'entraînement (limite transversale)Capacité IA · LimitesApport de l'IA
Le programme beckerien d'extension de l'analyse économique à la discrimination, à la criminalité ou à l'éducation est aujourd'hui opérationnalisé à grande échelle par des modèles prédictifs. Ces déploiements en fournissent aussi la critique la plus concrète : les effets de reproduction des discriminations sont documentés en recrutement, en octroi de crédit et en justice prédictive, ce qui donne une portée empirique au reproche adressé à l'approche par le choix rationnel de réduire des comportements socialement déterminés à un calcul.
Mécanisme
Apprentissage supervisé sur des données comportementales historiques, qui encode les régularités de sélection et les inégalités passées et peut les amplifier lorsque les prédictions orientent à leur tour les décisions.
Comment faire mieux
Aucune correction technique n'est neutre : les définitions mathématiques de l'équité étant mutuellement incompatibles, choisir laquelle appliquer est un arbitrage normatif qui gagnerait à être explicité et débattu plutôt qu'enfoui dans une implémentation.
Mode d'interaction recommandé
Assistance encadrée : le modèle produit un score, une décision humaine motivée et contestable doit rester interposée dès que la conséquence est individuelle.
Substituabilité
Remplaçable avec supervision humaine
Scénarios temporels
Présent
Des systèmes de prédiction comportementale sont déployés en production dans plusieurs de ces domaines, avec des effets discriminatoires documentés et un champ de recherche dédié à leur mesure.
+5 ans
Renforcement attendu des obligations d'évaluation et de contestabilité sur les usages à conséquence individuelle, sans standard unique d'équité.
+15/20 ans
L'extension de la modélisation aux comportements sociaux se poursuivra ; la question de savoir ce que ces modèles capturent réellement — comportement ou trace d'une inégalité antérieure — restera au cœur du débat, comme elle l'était déjà pour l'approche beckerienne.
Axes possibles (perspectives, pas des prédictions tranchées)
Encadrement des usages à conséquence individuelle
Opinion majoritaireGénéralisation d'obligations d'évaluation d'impact et de contestabilité sur le crédit, le recrutement et la justice prédictive.
Statu quo des déploiements
Opinion majoritaireLes systèmes restent en production avec des correctifs partiels, sans convergence sur une définition commune de l'équité.
Retrait des usages les plus sensibles
Hypothèse prospectiveUne série de contentieux défavorables conduirait à interdire la prédiction comportementale dans certains domaines, indépendamment de sa performance statistique.
Sous-thèmes et axes de recherche
Sous-thèmes
- Extension de l'analyse économique aux comportements non marchands
- Effets documentés en recrutement, crédit et justice prédictive
- Choix d'une définition d'équité comme arbitrage normatif
Axes de recherche
- Distinction entre comportement prédit et inégalité héritée dans les données
- Effets de rétroaction des prédictions sur les comportements mesurés
- Modalités de contestation individuelle d'une décision assistée par modèle
Documents clés
- 1.Gary Becker — Wikipédiasecondaire
- 2.Biais algorithmique — Wikipédiasecondaire
Données brutes de cette analyse : /api/gap/becker-vs-biais-donnees — méthode de comparaison détaillée dans la méthodologie.