Gap analysis — capacité humaine × capacité IA
Joseph Stiglitz × Forêts aléatoires
Asymétrie d'information et opacité des modèles de scoring
Fiches comparées
Joseph StiglitzCapacité humaine · SocialForêts aléatoiresCapacité IA · Data science / modèles prédictifsApport de l'IA
Le screening que Stiglitz a théorisé est industrialisé par les modèles de scoring : une forêt aléatoire trie des dossiers avec de bonnes performances par défaut et fournit une estimation de l'importance relative des variables. Elle déplace toutefois l'asymétrie d'information plutôt qu'elle ne la réduit, l'effet de boîte grise laissant celui qui subit la décision moins informé que celui qui construit le modèle.
Mécanisme
Agrégation de nombreux arbres diversifiés, qui réduit le surapprentissage propre à un arbre unique au prix d'une interprétabilité moindre et d'un coût de calcul et de mémoire supérieur.
Comment faire mieux
L'estimation de l'importance des variables offre une prise partielle pour restituer les motifs d'une décision ; en faire une information réellement opposable suppose des obligations de divulgation, débattues entre courants favorables à l'intervention publique et courants qui rappellent que le régulateur souffre lui aussi de défaillances d'information.
Mode d'interaction recommandé
Décision assistée : le modèle ordonne les dossiers, un agent instruit les cas litigieux et motive le refus.
Substituabilité
Remplaçable combinée à une autre technologieMéthodes d'interprétabilité fondées sur l'importance relative des variables explicatives
Scénarios temporels
Présent
Le scoring statistique est largement déployé en production ; la question de savoir ce qui doit en être divulgué aux personnes concernées reste ouverte et contestée.
+5 ans
Extension probable des obligations d'explication sur les décisions à conséquence individuelle, avec des exigences hétérogènes selon les juridictions.
+15/20 ans
L'asymétrie entre concepteurs et régulateurs se réduira dans la mesure où la divulgation sera rendue obligatoire et vérifiable ; les positions divergent sur l'ampleur et le coût de cette contrainte.
Axes possibles (perspectives, pas des prédictions tranchées)
Explicabilité obligatoire sur les décisions individuelles
Opinion majoritaireGénéralisation d'obligations de restitution des motifs de décision pour le crédit et l'assurance.
Statu quo de l'opacité
Opinion majoritaireLe scoring reste largement opaque pour les personnes concernées, les exigences de divulgation restant formelles.
Audit externe systématique des modèles
Hypothèse prospectiveUn régime d'audit indépendant et régulier des modèles déployés réduirait significativement l'asymétrie entre concepteurs, régulateurs et usagers.
Sous-thèmes et axes de recherche
Sous-thèmes
- Screening statistique et sélection des contreparties
- Effet de boîte grise des méthodes d'ensemble
- Divulgation obligatoire vs. défaillances d'information du régulateur
Axes de recherche
- Contenu minimal d'une explication opposable à une décision de scoring
- Vérifiabilité externe des mesures d'importance des variables
- Comparaison des régimes de divulgation entre juridictions
Documents clés
- 1.Joseph Stiglitz — Wikipédiasecondaire
- 2.Forêt d'arbres décisionnels — Wikipédiasecondaire
Données brutes de cette analyse : /api/gap/stiglitz-vs-forets-aleatoires — méthode de comparaison détaillée dans la méthodologie.