Fenêtre de contexte· Context window
Quantité maximale de texte qu'un modèle peut prendre en compte simultanément pour produire une réponse.
ExempleClaude 3 Opus dispose d'une fenêtre de 200 000 tokens : il peut analyser un rapport annuel de 600 pages en entier et répondre à des questions en tenant compte de l'ensemble du document.
2 articles utilisant ce terme
Google / Gemini : la direction choisie, et comment chaque génération la pousse plus loin
Google ne construit pas Gemini comme un chatbot autonome à faire grandir. La direction choisie tient en trois choix stables : une recherche IA unifiée depuis 2023, une conception multimodale dès l'entraînement, une infrastructure de calcul maison plutôt que louée.
Pourquoi l'attention d'un Transformer coûte cher sur un contexte long
Le mécanisme qui a rendu les Transformers redoutables sur le texte a un coût qui grossit plus vite que le contexte lui-même — précisément le problème que Mamba a été conçu pour contourner.