Volver

2026/11/06

Más allá del texto: la investigación Swarm Telepathy del MIT y el futuro de la IA multiagente

Un preprint del MIT permite que modelos de IA de distintas familias intercambien su KV cache en lugar de texto. Qué informa SwaT, sus límites y qué está evaluando LOGIQ.

La mayoría de los sistemas de IA multiagente actuales funcionan como un relevo de notas escritas. Un agente lee un documento largo, escribe un resumen y lo pasa. El siguiente agente tiene que leer ese resumen desde cero antes de poder hacer su parte. Cada traspaso descarta detalles que no quedaron en el texto, y cada modelo receptor repite un trabajo que el emisor ya ha hecho.

Un nuevo preprint de investigadores del MIT CSAIL y del MIT-IBM Computing Research Lab prueba otro tipo de traspaso. En lugar de pasar prosa, un modelo pasa su estado interno de trabajo a un modelo de otra familia. Este artículo explica qué hicieron los investigadores, qué muestran y qué no muestran sus cifras, y cómo piensa LOGIQ estudiar la idea.

Puntos clave

  • Swarm Telepathy: Prefill-Free KV-Cache Transfer Across Families (SwaT, arXiv:2610.15095) se presentó el 10 de octubre de 2026. Es un preprint y aún no ha pasado revisión por pares.
  • Un pequeño mapeador entrenado convierte la caché de claves y valores (KV) de un modelo en una caché que puede usar un modelo de otra familia, de modo que el receptor no necesita volver a procesar el texto original.
  • En las pruebas de los autores, SwaT con compactación de caché fue de media alrededor de un 40% más preciso que los traspasos mediante resúmenes de texto y unas 4 veces más rápido en las partes del pipeline que cronometraron.
  • Necesita pesos de modelo abiertos, acceso a la caché interna y un mapeador entrenado para cada par de modelos. No conecta servicios cerrados como ChatGPT y Claude.
  • LOGIQ no ha adoptado SwaT. Estamos valorando una prueba de concepto aislada con modelos de pesos abiertos ejecutados en local.

Qué es una KV cache y por qué ayuda pasarla

Cuando un modelo de lenguaje grande lee su entrada, calcula un conjunto de valores intermedios para cada token, llamados claves (keys) y valores (values). Se guardan en la KV cache, y el modelo los utiliza para todo lo que genera después. Construir esta caché se conoce como prefill y, en documentos largos, supone una gran parte del coste y de la espera hasta la primera palabra de la respuesta (tiempo hasta el primer token, o TTFT).

Los modelos de una misma familia a veces pueden reutilizar las cachés de los demás. Los modelos de familias distintas, como Granite, Llama, Qwen o Gemma, organizan estos valores de forma diferente, por lo que normalmente el receptor debe volver a leer el texto y construir su propia caché.

SwaT entrena un mapeador de unos 300 millones de parámetros para cada par de emisor y receptor. El mapeador traduce la caché del emisor al formato del receptor, y el receptor empieza a responder directamente a partir de ella. Ambos modelos de lenguaje permanecen sin cambios. Según el artículo, entrenar un mapeador requiere menos de 50 millones de tokens de texto en inglés y menos de un día de GPU. Para que la caché transferida sea pequeña, los autores combinan SwaT con un método de compactación de caché llamado Attention Matching.

Qué informan los investigadores

Los autores evalúan 12 modelos de seis familias en 17 benchmarks. En esos benchmarks, un receptor que lee una caché de SwaT conserva más del 90% de la puntuación que obtendría leyendo él mismo el texto original.

La comparación principal es más acotada. Para tres pares de emisor y receptor, siete conjuntos de datos y cinco presupuestos de tamaño, se compara SwaT con Attention Matching con el enfoque habitual, en el que el emisor escribe un resumen de texto con el mismo presupuesto de tamaño. Promediando estas ejecuciones, SwaT obtuvo una puntuación alrededor de un 40% mayor. Es una mejora relativa; las puntuaciones globales del artículo suben de media unos 17 puntos. La cifra de unas 4 veces más velocidad abarca el tiempo de GPU del emisor y el tiempo hasta el primer token del receptor, no una carga de trabajo de producción completa de extremo a extremo.

El artículo también informa de un resultado intermodal. Modelos de visión y lenguaje Gemma 3 miraron una imagen y escribieron un pie de foto breve. Un receptor solo de texto que recibió la caché transferida respondió preguntas visuales mejor que un receptor que solo recibió el pie de foto. En uno de los pares, la puntuación media subió de 21,1 a 41,6. El receptor no adquirió capacidades de visión generales y, en benchmarks que requieren detalles finos de la imagen, no superó de forma sistemática al modelo de visión que envió la caché.

¿Hasta qué punto es nuevo?

Los autores de SwaT describen su método como la primera transferencia de KV cache entre familias que permite una comunicación sin prefill. Los lectores deberían tomarlo como una afirmación de los autores. Un preprint relacionado, HeteroFold (arXiv:2609.32259), se presentó dos semanas antes y también describe la transferencia de KV cache sin prefill entre familias de modelos. Los dos artículos usan métodos y evaluaciones distintos, y ninguno ha pasado todavía revisión por pares.

Limitaciones, seguridad y auditabilidad

Esta investigación no significa que los agentes de IA puedan leerse la mente, ni demuestra una mejora de 4 veces en ningún sistema real, incluido el de LOGIQ. Hay varias limitaciones que importan antes de usar la idea en la práctica:

  • Solo acceso de caja blanca. El método necesita pesos abiertos y acceso directo a la caché interna del modelo. Las API alojadas no lo exponen, así que no se aplica a servicios cerrados como ChatGPT o Claude.
  • Un mapeador por par. Cada combinación de emisor y receptor necesita su propio mapeador entrenado. Con muchas familias de modelos, el número de mapeadores crece rápidamente.
  • Traspasos únicos. El artículo estudia una transferencia cada vez. Las cadenas de traspasos, o la fusión de mensajes de varios agentes, quedan para trabajos futuros.
  • Soporte en los runtimes. La implementación pública usa PyTorch y modelos de Hugging Face. Los runtimes de serving habituales no ofrecen este tipo de intercambio de caché de serie.
  • Contenido oculto. Los autores señalan que una caché transferida puede contener información más allá de lo que está escrito en el texto del emisor, y piden investigar la auditabilidad y la seguridad. Una caché no puede ser leída y aprobada por una persona como un mensaje, y puede contener contexto confidencial que el emisor nunca quiso compartir.

Qué está evaluando LOGIQ

Hoy, los agentes de nuestra arquitectura Relay Zero se pasan el trabajo mediante mensajes de texto explícitos. Cada mensaje se puede leer, revisar y almacenar, y ese registro forma parte de cómo aprobamos cambios y demostramos lo que se ha hecho. Eso no va a cambiar.

Lo que estamos valorando es una pequeña prueba de concepto de investigación, aislada, entre modelos de pesos abiertos en nuestro propio hardware, por ejemplo en nuestro servidor MS1 con Ollama, donde podría ser posible construir el acceso a la caché que SwaT necesita. Si la llevamos a cabo, la compararemos con nuestros traspasos de texto actuales en:

  • tiempo hasta el primer token y latencia total
  • precisión de las respuestas en nuestras propias tareas internas
  • uso de GPU y de memoria
  • trazabilidad: si seguimos pudiendo explicar y auditar lo que se ha traspasado

Las aprobaciones legibles por personas, los registros de revisión y las evidencias operativas seguirán en texto sean cuales sean los resultados. Como mucho, un traspaso mediante caché podría convertirse en una vía rápida adicional junto al registro escrito, nunca en su sustituto.

Fuentes