聯繫我們

注意力鍵值快取

Key-Value Cache(KV Cache)

別名:KV Cache、鍵值快取

注意力鍵值快取是在自迴歸 Transformer 推論時保留先前詞元的注意力鍵和值,避免重複計算的機制,可減少運算但增加記憶體需求。

企業如何使用這個概念?

評估長對話推論的記憶體配置。

容易混淆之處

KV 快取保存中間計算,不是企業長期知識庫。

定義依據

來源查核日期:2026-09-09

繁體中文為編輯工作譯名;本次未取得統一官方繁中譯名的證據,英文名稱保留概念辨識,不冒充標準條文譯本

相關服務

AI 應用服務 →
返回查找結果