Illustrated article
The Illustrated Transformer
Un parcours illustré très utilisé pour comprendre l’architecture du transformer original et la circulation de l’attention.Plan pour cette page
Décider si cette ressource externe convient à votre objectif avant de quitter la plateforme.
- Vous repartirez avec
- Les plongements, le codage positionnel, les blocs encodeur/décodeur, l’auto-attention et l’enchaînement des calculs.
- Avant de commencer
- Des notions sur les réseaux de neurones, les vecteurs et les séquences sont utiles.
- Faites ceci maintenant
- Lisez d’abord pourquoi elle a été sélectionnée, comment l’utiliser et sa limite principale.
Étape suivante préparéeContinuer sur AI for EverybodyThe Illustrated TransformerLes plongements, le codage positionnel, les blocs encodeur/décodeur, l’auto-attention et l’enchaînement des calculs.- Il fournit aux apprenants intermédiaires un modèle visuel cohérent avant d’aborder les variantes modernes.
- Personnes techniques connaissant les bases des réseaux de neurones et des vecteurs.
- Le proposer après une introduction locale à l’attention et préciser que les LLM actuels prolongent ou modifient cette architecture.
- 01Affirmation
- 02Source
- 03Périmètre
- 04Revue
Les plongements, le codage positionnel, les blocs encodeur/décodeur, l’auto-attention et l’enchaînement des calculs.
Adéquation et objectif
Pourquoi la ressource est présente et ce qu’il faut savoir avant de commencer.
Pourquoi cette sélection
Il fournit aux apprenants intermédiaires un modèle visuel cohérent avant d’aborder les variantes modernes.Pour qui
Personnes techniques connaissant les bases des réseaux de neurones et des vecteurs.Prérequis
Des notions sur les réseaux de neurones, les vecteurs et les séquences sont utiles.Utilisation et accès
Comment prévoir le temps, l’accès et les besoins pratiques.
Comment l’utiliser
Le proposer après une introduction locale à l’attention et préciser que les LLM actuels prolongent ou modifient cette architecture.Langue
Anglais.Accès
L’article est consultable gratuitement sans compte.Accessibilité
Le texte est public, mais les alternatives aux images, le parcours clavier et la compréhension au lecteur d’écran n’ont pas été entièrement testés.Perspective
Perspective explicative indépendante centrée sur l’article fondateur du transformer.Droits
Faire un lien vers l’article ; ne pas reproduire les schémas sans vérifier les droits et l’attribution.Forces
- Décomposition visuelle progressive
- Bon lien entre schémas d’article scientifique et mise en œuvre
Limites
- Le texte décrit une génération antérieure de transformers
- Les explications riches en images demandent des équivalents accessibles
inAi