Fenêtre de contexte

Votre mouvement d’apprentissage

S’orienterClarifier un terme, une source, une personne ou un événement.

Pourquoi cette page existe

Les pages de référence soutiennent l’apprentissage sans vous obliger à abandonner votre question ou parcours.

Ce que vous en retirerez

Une fenêtre de contexte est la quantité limitée d’informations tokenisées qu’un modèle peut considérer ensemble pendant une génération ou inférence.

Avant de commencer

Utilisez ces pages seules ou revenez à l’objet qui vous y a conduit.

Faites ceci maintenant

Trouvez le fait ou la relation nécessaire, puis revenez à votre objectif.

À faire maintenantClarifier ce conceptLe plan indique le résultat, le temps, les prérequis, l’action immédiate et la suite préparée.Autre parcours valableExaminer les SourcesVoir la provenance, la revue et les limites des preuves.

Compte

Glossaire connecté

Fenêtre de contexte

Une fenêtre de contexte est la quantité limitée d’informations tokenisées qu’un modèle peut considérer ensemble pendant une génération ou inférence.

Plan pour cette page

Comprendre un concept dans un langage simple et le relier à des idées voisines.

Vous repartirez avec: Elle peut inclure instructions, conversation, documents, résultats d’outils et jetons générés selon le produit. Une information hors fenêtre n’est pas disponible sans système de recherche, résumé ou stockage.
Temps: 3–8 min
Avant de commencer: Aucun prérequis. Gardez un exemple réel en tête.
Faites ceci maintenant: Lisez l’explication, puis comparez l’exemple à l’idée reçue.

Étape suivante préparéeComparer contexte, recherche et outils

Fenêtre de contexteUne fenêtre de contexte est la quantité limitée d’informations tokenisées qu’un modèle peut considérer ensemble pendant une génération ou inférence.

Jeton
Invite
Instruction système
Mémoire

Explication

Elle peut inclure instructions, conversation, documents, résultats d’outils et jetons générés selon le produit. Une information hors fenêtre n’est pas disponible sans système de recherche, résumé ou stockage.

Exemple

Un long rapport doit parfois être sélectionné ou découpé pour que rapport, question, instructions et réponse attendue tiennent dans le contexte.

Pourquoi cela compte

Une fenêtre plus grande accepte plus d’information sans garantir l’usage correct de chaque détail. Pertinence, position, conflits, qualité de recherche, confidentialité et coût restent importants.

Idée reçue

Idée reçue : le modèle se souvient de toutes les conversations pour toujours. Correction : le contexte immédiat est limité ; la mémoire durable relève d’un autre système et d’une autre politique.

Concepts liés

Suivez les relations, pas seulement l’alphabet

JetonUn jeton est une unité dans laquelle l’entrée ou le résultat d’un modèle est découpé pour être traité.InviteUne invite est une entrée fournie à un modèle ou système génératif pour façonner tâche, contexte, contraintes ou résultat souhaité.Instruction systèmeUne instruction système est un contexte de configuration destiné à guider le comportement d’un modèle pendant une session ou tâche, souvent prioritaire sur l’entrée ordinaire.MémoireLa mémoire est l’information qu’un système conserve ou peut retrouver pour un usage au-delà de l’étape ou du contexte immédiat.

Comparer contexte, recherche et outils

Sources et périmètre

Ce qui soutient cet objet

Machine Learning GlossaryGoogle for Developers

Définit les fenêtres contextuelles pour les modèles de langage ; Les limites du fournisseur et l'allocation entre l'entrée et la sortie sont spécifiques au modèle et à la version.

Ouvrir la source

Loading page content...

…