ก้าวข้ามข้อความ: งานวิจัย Swarm Telepathy ของ MIT กับอนาคตของ AI แบบหลายเอเจนต์

พรีปรินต์จาก MIT ทำให้โมเดล AI ต่างตระกูลส่ง KV cache ให้กันแทนข้อความ SwaT รายงานอะไร มีข้อจำกัดอย่างไร และ LOGIQ กำลังประเมินอะไรอยู่

ระบบ AI แบบหลายเอเจนต์ส่วนใหญ่ในปัจจุบันทำงานเหมือนการวิ่งผลัดส่งโน้ตที่เขียนด้วยมือ เอเจนต์หนึ่งอ่านเอกสารยาว เขียนสรุป แล้วส่งต่อ เอเจนต์ถัดไปต้องอ่านสรุปนั้นใหม่ตั้งแต่ต้นก่อนจะเริ่มทำส่วนของตัวเองได้ ทุกครั้งที่ส่งต่อ รายละเอียดที่ไม่ได้เขียนลงในข้อความจะหายไป และโมเดลผู้รับทุกตัวต้องทำงานซ้ำในสิ่งที่ผู้ส่งทำไปแล้ว

พรีปรินต์ฉบับใหม่จากนักวิจัยของ MIT CSAIL และ MIT-IBM Computing Research Lab ทดลองการส่งต่องานอีกแบบหนึ่ง แทนที่จะส่งข้อความร้อยแก้ว โมเดลหนึ่งจะส่งสถานะการทำงานภายในของตนให้กับโมเดลจากอีกตระกูลหนึ่ง บทความนี้อธิบายว่านักวิจัยทำอะไร ตัวเลขของพวกเขาบอกอะไรและไม่ได้บอกอะไร และ LOGIQ วางแผนจะพิจารณาแนวคิดนี้อย่างไร

KV cache คืออะไร และทำไมการส่งต่อจึงช่วยได้

เมื่อโมเดลภาษาขนาดใหญ่อ่านอินพุต มันจะคำนวณค่ากลางชุดหนึ่งสำหรับทุกโทเค็น เรียกว่าคีย์ (key) และค่า (value) ค่าเหล่านี้ถูกเก็บไว้ใน KV cache และโมเดลจะใช้มันกับทุกสิ่งที่สร้างขึ้นหลังจากนั้น การสร้างแคชนี้เรียกว่า prefill และสำหรับเอกสารยาว ขั้นตอนนี้กินสัดส่วนใหญ่ของต้นทุนและของเวลารอก่อนที่คำแรกของคำตอบจะปรากฏ (เวลาถึงโทเค็นแรก หรือ Time to First Token: TTFT)

โมเดลในตระกูลเดียวกันบางครั้งสามารถใช้แคชของกันและกันซ้ำได้ แต่โมเดลต่างตระกูล เช่น Granite, Llama, Qwen หรือ Gemma จัดเรียงค่าเหล่านี้แตกต่างกัน ตามปกติผู้รับจึงต้องอ่านข้อความใหม่และสร้างแคชของตัวเอง

SwaT ฝึกตัวแปลงขนาดประมาณ 300 ล้านพารามิเตอร์สำหรับผู้ส่งและผู้รับแต่ละคู่ ตัวแปลงจะแปลงแคชของผู้ส่งให้อยู่ในรูปแบบของผู้รับ แล้วผู้รับก็เริ่มตอบจากแคชนั้นได้ทันที โดยไม่มีการแก้ไขโมเดลภาษาทั้งสองตัว ตามที่ระบุในเอกสาร การฝึกตัวแปลงหนึ่งตัวใช้ข้อความภาษาอังกฤษไม่ถึง 50 ล้านโทเค็นและใช้เวลาไม่ถึงหนึ่ง GPU-วัน เพื่อให้แคชที่ส่งต่อมีขนาดเล็ก ผู้เขียนใช้ SwaT ร่วมกับวิธีบีบอัดแคชที่เรียกว่า Attention Matching

นักวิจัยรายงานอะไรบ้าง

ผู้เขียนประเมินโมเดล 12 ตัวจากหกตระกูลบนชุดทดสอบมาตรฐาน 17 ชุด ในชุดทดสอบเหล่านี้ ผู้รับที่อ่านแคชจาก SwaT ยังคงได้คะแนนมากกว่า 90% ของคะแนนที่ได้เมื่ออ่านข้อความต้นฉบับเอง

การเปรียบเทียบที่เป็นพาดหัวนั้นมีขอบเขตแคบกว่า สำหรับผู้ส่งและผู้รับสามคู่ ชุดข้อมูลเจ็ดชุด และงบประมาณขนาดห้าระดับ ผู้เขียนเปรียบเทียบ SwaT ที่ใช้ร่วมกับ Attention Matching กับวิธีปกติ ซึ่งผู้ส่งเขียนสรุปเป็นข้อความภายใต้งบประมาณขนาดเดียวกัน เมื่อเฉลี่ยผลจากการทดลองเหล่านี้ SwaT ได้คะแนนสูงกว่าประมาณ 40% ซึ่งเป็นการเพิ่มขึ้นเชิงสัมพัทธ์ คะแนนโดยรวมในเอกสารเพิ่มขึ้นเฉลี่ยราว 17 คะแนน ตัวเลขความเร็วประมาณ 4 เท่าครอบคลุมเวลา GPU ของผู้ส่งและเวลาถึงโทเค็นแรกของผู้รับ ไม่ใช่เวิร์กโหลดจริงทั้งระบบตั้งแต่ต้นจนจบ

เอกสารยังรายงานผลข้ามรูปแบบข้อมูลด้วย โมเดลภาษา-ภาพ Gemma 3 ดูรูปภาพแล้วเขียนคำบรรยายสั้น ๆ ผู้รับที่รองรับเฉพาะข้อความและได้รับแคชที่ส่งต่อมา ตอบคำถามเกี่ยวกับภาพได้ดีกว่าผู้รับที่ได้เพียงคำบรรยาย ในคู่หนึ่ง คะแนนเฉลี่ยเพิ่มจาก 21.1 เป็น 41.6 อย่างไรก็ตาม ผู้รับไม่ได้มีความสามารถด้านการมองเห็นแบบทั่วไป และในชุดทดสอบที่ต้องอาศัยรายละเอียดของภาพ ผู้รับก็ไม่ได้ทำได้ดีกว่าโมเดลภาพที่ส่งแคชมาอย่างสม่ำเสมอ

สิ่งนี้ใหม่แค่ไหน

ผู้เขียน SwaT อธิบายว่าวิธีของตนเป็นการส่ง KV cache ข้ามตระกูลโมเดลวิธีแรกที่ทำให้สื่อสารได้โดยไม่ต้อง prefill ผู้อ่านควรถือว่านี่เป็นคำกล่าวอ้างของผู้เขียน พรีปรินต์ที่เกี่ยวข้องอีกฉบับคือ HeteroFold (arXiv:2609.32259) ถูกส่งเผยแพร่ก่อนหน้านั้นสองสัปดาห์ และอธิบายการส่ง KV cache ระหว่างตระกูลโมเดลโดยไม่ต้อง prefill เช่นกัน ทั้งสองฉบับใช้วิธีการและการประเมินที่ต่างกัน และยังไม่มีฉบับใดผ่านการประเมินโดยผู้ทรงคุณวุฒิ

ข้อจำกัด ความปลอดภัย และความสามารถในการตรวจสอบ

งานวิจัยนี้ไม่ได้หมายความว่าเอเจนต์ AI จะอ่านใจกันได้ และไม่ได้แสดงว่าระบบจริงใด ๆ รวมถึงของ LOGIQ จะดีขึ้น 4 เท่า มีข้อจำกัดหลายข้อที่ต้องคำนึงถึงก่อนนำแนวคิดนี้ไปใช้จริง:

• ใช้ได้เฉพาะการเข้าถึงแบบไวต์บ็อกซ์ วิธีนี้ต้องใช้น้ำหนักแบบเปิดและการเข้าถึงแคชภายในของโมเดลโดยตรง API แบบโฮสต์ไม่เปิดให้เข้าถึงส่วนนี้ จึงใช้กับบริการแบบปิดอย่าง ChatGPT หรือ Claude ไม่ได้
• หนึ่งตัวแปลงต่อหนึ่งคู่ ผู้ส่งและผู้รับแต่ละคู่ต้องมีตัวแปลงที่ฝึกขึ้นเฉพาะ เมื่อมีตระกูลโมเดลจำนวนมาก จำนวนตัวแปลงจะเพิ่มขึ้นอย่างรวดเร็ว
• ส่งต่อครั้งเดียวเท่านั้น เอกสารศึกษาการส่งต่อทีละครั้ง การส่งต่อเป็นทอด ๆ หรือการรวมข้อความจากหลายเอเจนต์ ยังเป็นงานในอนาคต
• การรองรับของรันไทม์ โค้ดที่เผยแพร่สู่สาธารณะใช้ PyTorch และโมเดลจาก Hugging Face รันไทม์สำหรับให้บริการโมเดลทั่วไปยังไม่รองรับการแลกเปลี่ยนแคชลักษณะนี้มาตั้งแต่ต้น
• เนื้อหาที่มองไม่เห็น ผู้เขียนระบุว่าแคชที่ส่งต่ออาจมีข้อมูลมากกว่าที่เขียนไว้ในข้อความของผู้ส่ง และเรียกร้องให้มีการวิจัยด้านความสามารถในการตรวจสอบและความปลอดภัย คนไม่สามารถอ่านและอนุมัติแคชได้เหมือนข้อความ และแคชอาจมีบริบทที่เป็นความลับซึ่งผู้ส่งไม่ได้ตั้งใจจะแบ่งปัน

สิ่งที่ LOGIQ กำลังประเมิน

ปัจจุบันเอเจนต์ในสถาปัตยกรรม Relay Zero ของเราส่งต่องานให้กันผ่านข้อความที่ชัดเจน ทุกข้อความสามารถอ่าน ตรวจทาน และจัดเก็บได้ และบันทึกนั้นเป็นส่วนหนึ่งของวิธีที่เราอนุมัติการเปลี่ยนแปลงและแสดงว่าได้ทำอะไรไปบ้าง เราจะไม่เปลี่ยนแปลงเรื่องนี้

สิ่งที่เรากำลังพิจารณาคือการพิสูจน์แนวคิดเชิงวิจัยขนาดเล็กในสภาพแวดล้อมแยก ระหว่างโมเดลน้ำหนักเปิดบนฮาร์ดแวร์ของเราเอง เช่น บนเซิร์ฟเวอร์ MS1 ที่รัน Ollama ซึ่งอาจสร้างการเข้าถึงแคชที่ SwaT ต้องการได้ หากเราทำ เราจะเปรียบเทียบกับการส่งต่อด้วยข้อความในปัจจุบันในด้านต่อไปนี้:

• เวลาถึงโทเค็นแรกและความหน่วงโดยรวม
• ความแม่นยำของคำตอบในงานภายในของเราเอง
• การใช้ GPU และหน่วยความจำ
• การตรวจย้อนกลับได้: เรายังอธิบายและตรวจสอบสิ่งที่ส่งต่อไปได้หรือไม่

ไม่ว่าผลจะออกมาอย่างไร การอนุมัติที่คนอ่านได้ บันทึกการตรวจทาน และหลักฐานการปฏิบัติงานจะยังคงอยู่ในรูปข้อความ อย่างมากที่สุด การส่งต่อด้วยแคชอาจเป็นช่องทางเร่งความเร็วเพิ่มเติมควบคู่กับบันทึกที่เป็นลายลักษณ์อักษร แต่จะไม่มีวันมาแทนที่บันทึกนั้น

แหล่งอ้างอิง

• Alabdulkareem et al., Swarm Telepathy: Prefill-Free KV-Cache Transfer Across Families, arXiv:2610.15095 (พรีปรินต์ ตุลาคม 2026)
• โค้ดอย่างเป็นทางการ: github.com/Ar-Kareem/SwaT
• Yun et al., Prefill-Free Cross-Family KV Cache Transfer for Heterogeneous Multi-Agent LLMs (HeteroFold), arXiv:2609.32259 (พรีปรินต์ กันยายน 2026)