Vượt ra ngoài văn bản: nghiên cứu Swarm Telepathy của MIT và tương lai của AI đa tác tử

Một bản tiền ấn phẩm của MIT cho phép các mô hình AI khác họ trao đổi KV cache thay vì văn bản. SwaT báo cáo gì, giới hạn ra sao và LOGIQ đang đánh giá điều gì.

Hầu hết các hệ thống AI đa tác tử hiện nay hoạt động giống như một cuộc chạy tiếp sức bằng giấy ghi chú. Một tác tử đọc tài liệu dài, viết bản tóm tắt rồi chuyển đi. Tác tử tiếp theo phải đọc lại bản tóm tắt đó từ đầu trước khi làm phần việc của mình. Mỗi lần bàn giao đều đánh mất những chi tiết không được đưa vào văn bản, và mỗi mô hình nhận lại lặp lại công việc mà bên gửi đã làm xong.

Một bản tiền ấn phẩm mới của các nhà nghiên cứu tại MIT CSAIL và MIT-IBM Computing Research Lab thử nghiệm một kiểu bàn giao khác. Thay vì chuyển văn xuôi, một mô hình chuyển trạng thái làm việc nội bộ của nó cho một mô hình thuộc họ khác. Bài viết này giải thích các nhà nghiên cứu đã làm gì, các con số của họ cho thấy và không cho thấy điều gì, và LOGIQ dự định xem xét ý tưởng này như thế nào.

KV cache là gì và vì sao truyền nó lại có ích

Khi một mô hình ngôn ngữ lớn đọc dữ liệu đầu vào, nó tính một tập giá trị trung gian cho mỗi token, gọi là khóa (key) và giá trị (value). Các giá trị này được lưu trong KV cache, và mô hình dùng chúng cho mọi thứ nó sinh ra sau đó. Việc xây dựng bộ nhớ đệm này được gọi là prefill, và với tài liệu dài, nó chiếm phần lớn chi phí cũng như độ trễ trước khi từ đầu tiên của câu trả lời xuất hiện (thời gian đến token đầu tiên, Time to First Token hay TTFT).

Các mô hình cùng họ đôi khi có thể dùng lại bộ nhớ đệm của nhau. Các mô hình khác họ, chẳng hạn Granite, Llama, Qwen hay Gemma, tổ chức các giá trị này theo cách khác nhau, nên thông thường bên nhận phải đọc lại văn bản và tự xây dựng bộ nhớ đệm của mình.

SwaT huấn luyện một bộ ánh xạ khoảng 300 triệu tham số cho mỗi cặp gửi và nhận. Bộ ánh xạ chuyển bộ nhớ đệm của bên gửi sang định dạng của bên nhận, và bên nhận bắt đầu trả lời trực tiếp từ đó. Cả hai mô hình ngôn ngữ đều giữ nguyên. Theo bài báo, huấn luyện một bộ ánh xạ cần chưa đến 50 triệu token văn bản tiếng Anh và chưa đến một ngày GPU. Để giữ bộ nhớ đệm được truyền đi ở kích thước nhỏ, các tác giả kết hợp SwaT với một phương pháp nén bộ nhớ đệm gọi là Attention Matching.

Các nhà nghiên cứu báo cáo những gì

Các tác giả đánh giá 12 mô hình thuộc sáu họ trên 17 bộ đánh giá chuẩn. Trên các bộ này, bên nhận đọc bộ nhớ đệm SwaT giữ được hơn 90% số điểm mà nó đạt được khi tự đọc văn bản gốc.

Phép so sánh nổi bật nhất có phạm vi hẹp hơn. Với ba cặp gửi và nhận, bảy bộ dữ liệu và năm mức ngân sách kích thước, SwaT kết hợp Attention Matching được so sánh với cách làm thông thường, trong đó bên gửi viết một bản tóm tắt văn bản với cùng ngân sách kích thước. Tính trung bình trên các lần chạy này, SwaT đạt điểm cao hơn khoảng 40%. Đây là mức tăng tương đối; điểm tổng thể trong bài báo tăng trung bình khoảng 17 điểm. Con số tốc độ khoảng 4 lần chỉ tính thời gian GPU của bên gửi và thời gian đến token đầu tiên của bên nhận, không phải toàn bộ một khối lượng công việc thực tế từ đầu đến cuối.

Bài báo cũng báo cáo một kết quả liên phương thức. Các mô hình thị giác-ngôn ngữ Gemma 3 xem một hình ảnh và viết chú thích ngắn. Một mô hình nhận chỉ xử lý văn bản, khi nhận bộ nhớ đệm được truyền sang, trả lời câu hỏi về hình ảnh tốt hơn mô hình chỉ nhận chú thích. Ở một cặp, điểm trung bình tăng từ 21,1 lên 41,6. Bên nhận không có được khả năng thị giác tổng quát, và trên các bộ đánh giá cần chi tiết hình ảnh tinh vi, nó không vượt trội một cách nhất quán so với mô hình thị giác đã gửi bộ nhớ đệm.

Điều này mới đến mức nào?

Các tác giả SwaT mô tả phương pháp của họ là phương pháp truyền KV cache giữa các họ mô hình đầu tiên cho phép giao tiếp không cần prefill. Người đọc nên xem đó là tuyên bố của các tác giả. Một bản tiền ấn phẩm liên quan, HeteroFold (arXiv:2609.32259), được nộp sớm hơn hai tuần và cũng mô tả việc truyền KV cache không cần prefill giữa các họ mô hình. Hai bài báo dùng phương pháp và cách đánh giá khác nhau, và cả hai đều chưa qua bình duyệt.

Giới hạn, bảo mật và khả năng kiểm toán

Nghiên cứu này không có nghĩa là các tác tử AI có thể đọc suy nghĩ của nhau, và nó không chứng minh mức cải thiện 4 lần cho bất kỳ hệ thống thực tế nào, kể cả hệ thống của LOGIQ. Có một số giới hạn quan trọng trước khi ai đó đưa ý tưởng này vào thực tế:

• Chỉ dùng được khi truy cập hộp trắng. Phương pháp cần trọng số mở và quyền truy cập trực tiếp vào bộ nhớ đệm nội bộ của mô hình. Các API được lưu trữ không cung cấp điều này, nên nó không áp dụng cho các dịch vụ đóng như ChatGPT hay Claude.
• Mỗi cặp một bộ ánh xạ. Mỗi tổ hợp gửi và nhận cần một bộ ánh xạ được huấn luyện riêng. Khi có nhiều họ mô hình, số bộ ánh xạ tăng rất nhanh.
• Chỉ bàn giao đơn lẻ. Bài báo chỉ nghiên cứu từng lần truyền một. Chuỗi bàn giao nối tiếp, hoặc việc hợp nhất thông điệp từ nhiều tác tử, được để lại cho nghiên cứu sau này.
• Hỗ trợ từ môi trường chạy. Bản triển khai công khai dùng PyTorch và các mô hình Hugging Face. Các môi trường phục vụ mô hình phổ biến chưa hỗ trợ sẵn kiểu trao đổi bộ nhớ đệm này.
• Nội dung ẩn. Các tác giả lưu ý rằng bộ nhớ đệm được truyền có thể mang thông tin vượt quá những gì được viết trong văn bản của bên gửi, và kêu gọi nghiên cứu về khả năng kiểm toán và an toàn. Con người không thể đọc và phê duyệt một bộ nhớ đệm như với một thông điệp, và nó có thể chứa ngữ cảnh bí mật mà bên gửi không hề định chia sẻ.

LOGIQ đang đánh giá điều gì

Hiện nay, các tác tử trong kiến trúc Relay Zero của chúng tôi bàn giao công việc cho nhau bằng các thông điệp văn bản rõ ràng. Mỗi thông điệp đều có thể được đọc, xem xét và lưu trữ, và bản ghi đó là một phần trong cách chúng tôi phê duyệt thay đổi và chứng minh những gì đã làm. Chúng tôi không thay đổi điều đó.

Điều chúng tôi đang cân nhắc là một bản thử nghiệm khái niệm nghiên cứu nhỏ, tách biệt, giữa các mô hình trọng số mở trên phần cứng của chính mình, ví dụ trên máy chủ MS1 chạy Ollama, nơi có thể xây dựng được quyền truy cập bộ nhớ đệm mà SwaT cần. Nếu thực hiện, chúng tôi sẽ so sánh nó với cách bàn giao bằng văn bản hiện tại theo các tiêu chí:

• thời gian đến token đầu tiên và tổng độ trễ
• độ chính xác của câu trả lời trên các tác vụ nội bộ của chúng tôi
• mức sử dụng GPU và bộ nhớ
• khả năng truy vết: liệu chúng tôi có còn giải thích và kiểm toán được những gì đã bàn giao hay không

Dù kết quả ra sao, các phê duyệt mà con người đọc được, hồ sơ xem xét và bằng chứng vận hành vẫn sẽ ở dạng văn bản. Cùng lắm, việc bàn giao bằng bộ nhớ đệm có thể trở thành một đường tắt nhanh bổ sung bên cạnh bản ghi văn bản, chứ không bao giờ thay thế nó.

Nguồn tham khảo

• Alabdulkareem et al., Swarm Telepathy: Prefill-Free KV-Cache Transfer Across Families, arXiv:2610.15095 (tiền ấn phẩm, tháng 10 năm 2026)
• Bản triển khai chính thức: github.com/Ar-Kareem/SwaT
• Yun et al., Prefill-Free Cross-Family KV Cache Transfer for Heterogeneous Multi-Agent LLMs (HeteroFold), arXiv:2609.32259 (tiền ấn phẩm, tháng 9 năm 2026)