Aller au contenu
ATLAS Humain × IA

Référentiel B — capacité IA

Aide à la décision publique (GovTech IA)

SectorielMultiples administrations publiques et fournisseurs GovTech (systèmes déployés notamment aux Pays-Bas, au Royaume-Uni, en France, aux États-Unis)documentéVérifié le

Architecture

Systèmes de scoring et de classification par apprentissage automatique (souvent des modèles d'ensemble comme le gradient boosting) appliqués à des données administratives pour prioriser ou orienter des décisions publiques

Capacités clés

  • Priorisation et ciblage de contrôles ou d'interventions publiques (fraude, inspections, aides sociales) à partir de données administratives
  • Aide à la décision pour l'allocation de ressources publiques limitées (contrôles fiscaux, inspections du travail, aides sociales)
  • Automatisation partielle du traitement de dossiers administratifs volumineux

Usages documentés par secteur

GouvernementTRL 9 / 9

Deux systèmes nationaux réellement mis en service : SyRI aux Pays-Bas, employé à partir de 2018 pour signaler des milliers de personnes aux enquêteurs, fermé par le tribunal de district de La Haye le 5 février 2020 pour violation de l'article 8 de la CEDH ; et l'algorithme britannique de notation des A-levels de 2020, retiré après protestation. Leur retrait est juridique et politique, non technique.

Ciblage de contrôles et traitement automatisé de dossiers administratifs à grand volume à partir de modèles de risque appliqués aux données publiques

  • SyRI aux Pays-Bas (2018) : système de détection du risque de fraude aux prestations sociales qui « quietly flagged thousands of people to investigators », fermé le 5 février 2020 par le tribunal de district de La Haye au visa de l'article 8 de la Convention européenne des droits de l'homme
  • Notation automatisée des A-levels au Royaume-Uni en 2020, retirée après une protestation publique
  • Police prédictive : collaboration engagée en 2012 entre la police de La Nouvelle-Orléans et Palantir Technologies

Limites connues

Plusieurs déploiements de ce type ont été annulés ou fortement critiqués après avoir été jugés discriminatoires envers des populations vulnérables (cas documentés aux Pays-Bas et au Royaume-Uni notamment), posant des questions majeures de transparence, de contestabilité des décisions automatisées et de responsabilité de l'administration envers les citoyens affectés.

Débats documentés

Aucune autre fiche du référentiel ne nomme celle-ci, et celle-ci n'en nomme aucune. Ce n'est pas un signe d'accord : c'est un silence documentaire, et il se comble en écrivant les limites de la fiche avec des noms.

Sources

Analyses de gap citant cette fiche

Fiches connexes — Sectoriel

Données brutes de cette fiche : /api/fiches/aide-a-la-decision-publique-govtech-ia — voir la méthodologie.