Définition. La fenêtre de contexte est la quantité maximale de texte (mesurée en tokens) qu'un modèle peut prendre en compte en une seule fois : votre question, l'historique et les documents fournis.
Une grande fenêtre de contexte permet de soumettre des documents volumineux ou de longues conversations sans perdre le fil. Les modèles récents en offrent de très étendues.
Au-delà de la limite, le modèle « oublie » le début. Pour traiter de gros volumes documentaires, on combine souvent une grande fenêtre de contexte avec une approche RAG.
Comment l'appliquer chez vous ?
Un audit IA identifie les cas d'usage où cette technologie crée de la valeur dans votre organisation.