Aller au contenu
ATLAS Humain × IA

Référentiel B — capacité IA

LSTM

Data science / modèles prédictifsArchitecture développée par Sepp Hochreiter et Jürgen Schmidhuber (1997)documentéVérifié le

Architecture

Variante de réseau de neurones récurrent dotée de portes (entrée, oubli, sortie) régulant un état de cellule mémoire à long terme, résolvant le problème de disparition du gradient des RNN classiques

Capacités clés

  • Capacité à mémoriser des dépendances à long terme dans des séquences, contrairement aux RNN simples
  • Mécanisme de portes permettant de conserver, oublier ou mettre à jour sélectivement l'information au fil du temps
  • Architecture dominante en traitement séquentiel (texte, audio, séries temporelles) avant l'avènement des Transformers

Usages documentés par secteur

IndustrieTRL 9 / 9

La source documente cinq déploiements commerciaux mondiaux à base de LSTM : Google Voice (2015), le Google Neural Machine Translation de Google Translate (2016, « reduce translation errors by 60 % »), quicktype et Siri chez Apple, Amazon Polly derrière Alexa, et 4,5 milliards de traductions automatiques par jour chez Facebook en 2017.

Traduction automatique, reconnaissance et synthèse vocales de nouvelle génération (avant les Transformers), et prévision de séries temporelles à dépendances longues

  • Google Neural Machine Translation de Google Translate (2016), qui réduit les erreurs de traduction de 60 %
  • Reconnaissance vocale de Google Voice (2015), erreurs de transcription réduites de 49 %
  • quicktype et Siri chez Apple, Amazon Polly derrière les voix d'Alexa, suggestions de messages dans Google Allo (2016)
  • Prévision énergétique et détection d'anomalies dans des séries temporelles, domaines d'application listés par la source

Sources de cet usage

Limites connues

Traitement intrinsèquement séquentiel (pas à pas) qui limite la parallélisation de l'entraînement par rapport aux Transformers. La source ne mentionne ces derniers qu'une fois, en 2020, pour une comparaison de lois d'échelle : la datation d'un remplacement dès 2017-2018, souvent avancée, n'est traçable à aucune source de la fiche.

Débats documentés

Aucune autre fiche du référentiel ne nomme celle-ci, et celle-ci n'en nomme aucune. Ce n'est pas un signe d'accord : c'est un silence documentaire, et il se comble en écrivant les limites de la fiche avec des noms.

Sources

Analyses de gap citant cette fiche

Fiches connexes — Data science / modèles prédictifs

Données brutes de cette fiche : /api/fiches/lstm — voir la méthodologie.