超越文字：MIT 的 Swarm Telepathy 研究與多代理 AI 的未來

MIT 的一篇預印本讓不同系列的 AI 模型傳遞 KV 快取而非文字。本文說明 SwaT 的報告結果、限制，以及 LOGIQ 正在評估的內容。

現今大多數多代理 AI 系統的運作方式，就像接力傳遞書面紙條。一個代理讀完一份長文件、寫出摘要後交給下一個。下一個代理必須從頭讀過這份摘要，才能開始自己的工作。每次交接都會遺失沒有寫進文字的細節，而每個接收模型都得重做發送方已經完成的工作。

來自 MIT CSAIL 與 MIT-IBM Computing Research Lab 研究人員的一篇新預印本，測試了另一種交接方式：一個模型不再傳遞文字，而是把自己的內部工作狀態交給另一個系列的模型。本文將說明研究人員做了什麼、他們的數據說明了什麼又沒有說明什麼，以及 LOGIQ 打算如何檢視這個構想。

什麼是 KV 快取，為什麼傳遞它會有幫助

大型語言模型在讀取輸入時，會為每個 token 計算一組稱為鍵（key）與值（value）的中間值。這些值儲存在 KV 快取中，模型之後產生的所有內容都會用到它們。建立這份快取的過程稱為預填（prefill）；對於長文件而言，它占了很大一部分的運算成本，也占了答案第一個字出現前的大部分延遲（首個 token 時間，Time to First Token，TTFT）。

同一系列的模型有時可以重複使用彼此的快取。然而 Granite、Llama、Qwen、Gemma 等不同系列的模型，組織這些值的方式各不相同，因此接收方通常必須重新閱讀文字並建立自己的快取。

SwaT 為每一對發送方與接收方訓練一個約 3 億參數的對應器。對應器把發送方的快取轉換成接收方的格式，接收方直接從中開始作答。兩個語言模型本身都保持不變。根據論文，訓練一個對應器只需要不到 5,000 萬個 token 的英文文字，以及不到一個 GPU 日的運算量。為了讓傳輸的快取保持精簡，作者將 SwaT 與一種名為 Attention Matching 的快取壓縮方法結合使用。

研究人員報告了什麼

作者以 17 個基準測試評估了來自六個系列的 12 個模型。在這些基準測試中，讀取 SwaT 快取的接收方，保有其直接閱讀原始文字時所能達到分數的 90% 以上。

最受矚目的比較範圍則較窄。針對三組發送方與接收方、七個資料集與五種大小預算，作者將搭配 Attention Matching 的 SwaT 與常見做法相比較，也就是由發送方在相同大小預算下寫出文字摘要。將這些執行結果平均後，SwaT 的得分高出約 40%。這是相對提升；論文中的整體分數平均提高約 17 分。約 4 倍的速度數據涵蓋的是發送方的 GPU 時間與接收方的首個 token 時間，並非完整的端到端正式環境工作負載。

論文也報告了一項跨模態結果。Gemma 3 視覺語言模型查看圖片後寫出簡短說明。取得所傳輸快取的純文字接收方，回答視覺問題的表現優於只拿到說明文字的接收方。在其中一組模型上，平均分數從 21.1 提高到 41.6。接收方並未因此獲得通用的視覺能力；在需要影像細節的基準測試上，它也沒有穩定勝過發送快取的視覺模型。

這有多新？

SwaT 的作者將他們的方法描述為第一個能實現免預填通訊的跨系列 KV 快取傳輸。讀者應將這視為作者自己的主張。一篇相關預印本 HeteroFold（arXiv:2609.32259） 早兩週提交，同樣描述了模型系列之間的免預填 KV 快取傳輸。兩篇論文採用不同的方法與評估方式，目前都尚未經過同儕審查。

限制、安全性與可稽核性

這項研究並不代表 AI 代理能讀懂彼此的心思，也沒有證明任何實際系統（包括 LOGIQ 的系統）能獲得 4 倍的提升。在實際運用這個構想之前，有幾項限制值得注意：

• 僅限白箱存取。此方法需要開放的權重，以及對模型內部快取的直接存取。託管 API 並未開放這些內容，因此不適用於 ChatGPT 或 Claude 這類封閉服務。
• 每一對模型需要一個對應器。每種發送方與接收方的組合都需要專門訓練的對應器。模型系列一多，對應器的數量就會快速增加。
• 僅限單次交接。論文只研究一次一個的傳輸。連續多次交接，或合併多個代理的訊息，留待未來研究。
• 執行環境支援。公開的實作使用 PyTorch 與 Hugging Face 模型。常見的推論服務執行環境並未內建這類快取交換功能。
• 隱藏內容。作者指出，傳輸的快取可能攜帶超出發送方文字內容的資訊，並呼籲進行可稽核性與安全性的研究。快取無法像訊息那樣由人閱讀與核准，而且可能包含發送方原本無意分享的機密脈絡。

LOGIQ 正在評估什麼

目前，我們 Relay Zero 架構中的代理是透過明確的文字訊息相互交接工作。每則訊息都能被閱讀、審查與保存，而這些紀錄正是我們核准變更、說明所做工作的方式之一。這一點我們不會改變。

我們正在考慮的是，在自有硬體上、於開放權重模型之間進行一項小型、隔離的研究性概念驗證，例如在執行 Ollama 的 MS1 伺服器上，或許能建立 SwaT 所需的快取存取。如果實際進行，我們將從以下面向與目前的文字交接進行比較：

• 首個 token 時間與整體延遲
• 在我們自己內部任務上的回答準確度
• GPU 與記憶體用量
• 可追溯性：我們是否仍能解釋並稽核所交接的內容

無論結果如何，人類可讀的核准、審查紀錄與營運證據都將繼續以文字形式保存。快取交接頂多只能成為書面紀錄之外的一條額外快速通道，絕不會取而代之。

參考來源

• Alabdulkareem et al., Swarm Telepathy: Prefill-Free KV-Cache Transfer Across Families, arXiv:2610.15095（預印本，2026 年 10 月）
• 官方實作：github.com/Ar-Kareem/SwaT
• Yun et al., Prefill-Free Cross-Family KV Cache Transfer for Heterogeneous Multi-Agent LLMs (HeteroFold), arXiv:2609.32259（預印本，2026 年 9 月）