Aller au contenu
ATLAS Humain × IA

Référentiel B — capacité IA

BERT

Génératif / raisonnementGoogledocumentéVérifié le

Architecture

Transformer bidirectionnel encodeur seul (encoder-only), pré-entraîné par apprentissage auto-supervisé

Capacités clés

  • Représentation contextuelle bidirectionnelle du texte (prise en compte du contexte gauche et droit simultanément)
  • Pré-entraînement auto-supervisé suivi d'un ajustement fin (fine-tuning) sur des tâches spécifiques
  • Amélioration significative de l'état de l'art sur de nombreuses tâches de traitement du langage naturel dès sa sortie en 2018

Usages documentés par secteur

IndustrieTRL 9 / 9

Déployé sur Google Search : requêtes en anglais aux États-Unis à partir du 25 octobre 2019, plus de 70 langues au 9 décembre 2019, et « almost every single English-based query » traitée par un modèle BERT en octobre 2020.

Composant méthodologique standard des moteurs de recherche et systèmes de compréhension de requêtes

  • Requêtes en anglais de Google Search traitées par BERT à partir du 25 octobre 2019, puis plus de 70 langues au 9 décembre 2019
  • En octobre 2020, « almost every single English-based query » de Google Search traitée par un modèle BERT

Sources de cet usage

  1. 1.BERT (language model) — Wikipedia (EN)secondaire

RechercheTRL non déterminableDiffusion standard

Composant méthodologique encore couramment utilisé dans la recherche en traitement du langage naturel en 2026

  • « As of 2026, BERT is a common methodological component in natural language processing (NLP) research », selon la source

Sources de cet usage

  1. 1.BERT (language model) — Wikipedia (EN)secondaire

Limites connues

Modèle encodeur seul, non génératif par nature (contrairement aux modèles décodeurs comme GPT ou Llama), et largement dépassé en capacité de raisonnement et de génération par les grands modèles de langage conversationnels apparus depuis 2022.

Débats documentés

Aucune autre fiche du référentiel ne nomme celle-ci, et celle-ci n'en nomme aucune. Ce n'est pas un signe d'accord : c'est un silence documentaire, et il se comble en écrivant les limites de la fiche avec des noms.

Sources

  1. 1.Devlin, Chang, Lee & Toutanova, « BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding »primaire
  2. 2.BERT (language model) — Wikipedia (EN)secondaire

Analyses de gap citant cette fiche

Fiches connexes — Génératif / raisonnement

Données brutes de cette fiche : /api/fiches/bert — voir la méthodologie.