Gap analysis — capacité humaine × capacité IA
Daniel Kahneman & Amos Tversky (biais cognitifs) × Biais hérités des données d'entraînement (limite transversale)
Heuristiques humaines et biais des systèmes appris
Fiches comparées
Daniel Kahneman & Amos Tversky (biais cognitifs)Capacité humaine · PsychologiqueBiais hérités des données d'entraînement (limite transversale)Capacité IA · LimitesApport de l'IA
Les systèmes appris offrent un terrain de mesure du biais que la psychologie expérimentale n'avait pas : les écarts se quantifient par des audits comparant les taux d'erreur entre groupes, avec des cas documentés (reconnaissance faciale à 99,3 % pour les hommes contre 78,7 % pour les femmes). Ce que l'IA n'apporte pas, c'est une neutralité : elle reproduit distributionnellement des biais issus de données humaines, sans le double système cognitif décrit par Kahneman et Tversky.
Mécanisme
Le biais provient de données d'entraînement non représentatives, combinées à des biais de conception et d'optimisation coût-efficacité ; il se mesure via trois familles de critères d'équité — anti-classification, parité de classification, calibration — et des audits comparatifs par groupe.
Comment faire mieux
Rééquilibrage des données, audits systématiques, transparence et encadrement réglementaire ; mais les définitions de l'équité étant mathématiquement incompatibles entre elles, l'arbitrage reste politique et non technique. Croiser la taxonomie des heuristiques humaines avec les métriques d'équité algorithmique permettrait de nommer plus précisément ce qui est reproduit.
Mode d'interaction recommandé
Délégation supervisée assortie d'un audit externe : le système propose, l'humain arbitre, un tiers mesure les écarts entre groupes.
Substituabilité
Non remplaçable à horizon prévisible
Scénarios temporels
Présent
En 2026, la fiche IA ne pose aucun niveau de maturité : elle décrit un phénomène, non un système déployé. Elle documente en revanche des cas précis — retrait par Amazon d'un algorithme d'évaluation de curriculum vitæ qui discriminait fortement les CV féminins, biais raciste constaté dans l'algorithme de Northpointe employé par la justice américaine (Angwin et al., 2016) — et l'incompatibilité mathématique des définitions de l'équité.
+5 ans
Si les obligations d'audit se généralisent, la mesure des biais pourrait devenir routinière — sans résoudre l'incompatibilité mathématique entre définitions concurrentes de l'équité.
+15/20 ans
Spéculatif : sous l'hypothèse d'une standardisation internationale des métriques, les systèmes automatisés pourraient servir de miroir quantifié des biais collectifs ; l'hypothèse inverse, une opacité croissante par secret commercial et gigantisme des modèles, est également ouverte.
Axes possibles (perspectives, pas des prédictions tranchées)
Audit devenu norme
Opinion majoritaireGénéralisation des audits d'équité par obligation réglementaire, rendant les écarts entre groupes mesurables et comparables.
Impasse des définitions
Consensus scientifiqueLes critères d'équité restent mathématiquement incompatibles, ce qui maintient l'arbitrage dans le champ politique plutôt que technique.
Opacité structurelle durable
Hypothèse prospectiveSecret commercial, complexité et taille des systèmes pourraient rendre l'audit inopérant en pratique malgré le cadre réglementaire.
Sous-thèmes et axes de recherche
Sous-thèmes
- Métriques d'équité et audits comparatifs
- Reproduction distributionnelle des biais humains
- Arbitrage politique derrière le choix d'équité
Axes de recherche
- Les biais des modèles cartographient-ils les heuristiques décrites par Kahneman et Tversky ?
- Quelle définition de l'équité retenir quand elles sont mutuellement incompatibles ?
- Les audits algorithmiques échappent-ils à la crise de réplication qui a touché la psychologie sociale ?
Documents clés
- 1.Kahneman & Tversky — Prospect Theory, Econometrica 1979primaire
- 2.Kahneman, D. — Thinking, Fast and Slowprimaire
- 3.Biais algorithmique — Wikipédiasecondaire
Données brutes de cette analyse : /api/gap/kahneman-tversky-vs-biais-donnees — méthode de comparaison détaillée dans la méthodologie.