原始提示詞 / 上下文 (Original Prompt)
0 字元
0 Tokens
壓縮後提示詞 (Compressed Prompt)
0 字元
0 Tokens
不同模型的 Tokenizer (o200k, Claude BPE, SentencePiece) 壓縮比率精準計算。點擊卡片可切換為主要 HUD 計算基準：
大語言模型處理 Prefill 上下文的時間與輸入 Token 呈超線性關係。壓縮 30% Token 直接減少 25%~35% 的首字回應等待時間。
在多輪對話、RAG 檢索增強與 Agent 工具鏈調用中，精簡格式可在有限的 Context Window 中塞入多達 1.6 倍的有效知識。
每日調用量達百萬級別的企業級 AI 應用，每月單在 Prompt 輸入費用上即可直接省下數千至上萬美元！