Paritok: ¿reduce la factura de tu agente de código?
Paritok comprime lecturas de archivos y salida de herramientas antes de la API. El proyecto afirma reducir un 74% los tokens; revisamos el mecanismo y el punto de equilibrio.
Qué hace Paritok con una solicitud
Paritok es una puerta de enlace de tokens: un proxy que se sitúa entre el agente de programación y la API del modelo y comprime cada solicitud antes de reenviarla. El agente se comunica con http://127.0.0.1:8080 en lugar de hacerlo con el proveedor. El proxy reduce los esquemas de las herramientas, las lecturas de archivos, la salida de las herramientas y los turnos anteriores, envía la carga más pequeña al proveedor y devuelve la respuesta sin cambios.
El proveedor le factura el contenido que recibe, pero el importe depende de qué tokens se hayan eliminado, de su precio de caché y del número de turnos que realiza el agente. Esa es toda la idea. Es una afirmación distinta de «el contexto dura más» y por eso esta herramienta resulta interesante, en lugar de ser sólo una forma de ordenar el contenido.
El proyecto es reciente. La puerta de enlace se publicó como código abierto el 15 de julio de 2026. PyPI fecha v1.3.14 el 6 de octubre de 2026 y v1.3.0 el 5 de agosto. Los pesos y el código de la puerta de enlace usan la licencia Apache 2.0. El modelo de compresión es un adaptador LoRA (adaptación de bajo rango) sobre Qwen3-4B-Instruct-2507, destilado a partir de un conjunto de 45,000 segmentos extraídos de trayectorias reales de agentes de programación. De ellos, 40,606 superaron la validación del profesor y se convirtieron en ejemplos de entrenamiento.
Por qué esto no es recorte del contexto
El recorte elimina el contenido de forma permanente. Cuando un agente se acerca al límite de contexto y descarta los turnos más antiguos, el archivo que leyó en el turno 3 desaparece. Si necesita ese archivo en el turno 20, vuelve a leerlo y se cobran esos tokens por segunda vez. El ahorro era un préstamo.
Paritok sustituye un segmento por una forma más corta y una etiqueta, [REF:id], y conserva el texto completo en el proxy. El modelo recupera un segmento mediante read_original o expand_context. Esto cambia el modo de fallo. Un recortador falla al olvidar contenido y nunca se lo comunica. Un compresor falla al entregar al modelo un extracto con pérdida, y el modelo puede solicitar el original cuando el extracto no es suficiente.
Los esquemas de herramientas filtrados siguen siendo recuperables, pero el filtro adaptativo predeterminado descarta las herramientas estándar no seleccionadas y las herramientas MCP no seleccionadas, salvo que se active su señal de relevancia de MCP. Cuando se activa esa señal, las herramientas MCP no seleccionadas se convierten en stubs. gateway_search_tools permite recuperarlas, y la gateway también detecta los mensajes de herramienta ausente e inyecta las herramientas correspondientes antes de reintentar. Esto es importante porque un filtro que oculta una herramienta de forma permanente cambia lo que el agente puede hacer, y usted lo descubriría mediante una tarea que falla sin avisar.
Las tres palancas y cuál es gratuita
La primera palanca es el filtro del esquema de herramientas. Cada solicitud incluye el array tools completo. En un turno de Claude Code sin servidores MCP (model context protocol) asociados, el proyecto mide ese bloque en aproximadamente 29,000 tokens; con MCP asociado, informa de entre 44,000 y 65,000 tokens. El filtro incrusta la solicitud del usuario y la descripción de cada herramienta con BAAI/bge-small-en-v1.5, un modelo de embeddings de 130 MB, conserva las herramientas coincidentes, elimina las herramientas estándar no seleccionadas y sólo crea stubs para las herramientas MCP no seleccionadas cuando se activa su señal de relevancia MCP. De lo contrario, también elimina esas herramientas MCP. En el ejemplo del proyecto de 29,000 tokens, el bloque se reduce a aproximadamente 8,000 tokens. Ese modelo de embeddings se ejecuta en la CPU.
La segunda palanca es la compresión de contenido. Es la parte que usa el modelo 4B, en una GPU o mediante Ollama en la CPU. Las lecturas de archivos, la salida de las herramientas y el historial se reducen al 25.7% de su tamaño original. El modelo selecciona principalmente fragmentos en lugar de reescribirlos, aunque permite una reescritura limitada para contenidos como los resúmenes del razonamiento y el contexto de las llamadas a herramientas. El artículo del proyecto mide que el 96.0% de los identificadores, rutas y números emitidos aparecen literalmente en la entrada del corpus de entrenamiento generado por el modelo docente; la salida del modelo entrenado en SWE-bench Lite reservado para evaluación obtiene un 96.2% en la misma auditoría. De ahí procede la cifra destacada del 74%. Léala con atención: el 74% es la tasa de compresión del contenido que se comprime, no la reducción de su factura.
La tercera palanca es el resumen del historial. De forma predeterminada, cuando el contexto supera el 80% de la ventana configurada, se resumen los turnos antiguos y se conservan intactos los cuatro turnos más recientes. Así, una sesión larga continúa ejecutándose en lugar de alcanzar el límite.
Una GPU es opcional para el alojamiento propio. Esta es la frase más útil de esta página. pip install "paritok[toolselect]" le proporciona el filtro de herramientas en un VPS con una CPU normal y sin coste por token. Pruébelo antes de alquilar una tarjeta.
Qué midió el proyecto y con qué banco de pruebas
Los datos de este gráfico
[
{
"label": "Paritok-4B-v1",
"compressed_to_pct": 25.7,
"quality_retained_pct": 86.5
},
{
"label": "gpt-4.1-mini",
"compressed_to_pct": 50.2,
"quality_retained_pct": 85.6
},
{
"label": "gpt-5",
"compressed_to_pct": 61.9,
"quality_retained_pct": 93.6
}
]Estas son las cifras publicadas por el propio proyecto, medidas con su propio banco de pruebas sobre SWE-bench Lite. Paritok-4B-v1 comprime el contenido hasta el 25.7% del tamaño original y conserva el 86.5% de la tasa de resolución sin compresión. Usar gpt-5 como compresor conserva más calidad, 93.6%, pero sólo comprime hasta el 61.9%, por lo que pagarías precios de modelos frontier para ahorrar costes de modelos frontier.
Interprete la columna de calidad de forma rigurosa. La calidad conservada es la tasa de resolución del compresor dividida por la tasa de resolución de referencia sin compresión. Conservar el 86.5% significa una reducción neta del 13.5% en las resoluciones respecto a esa referencia; no cuenta la fracción de problemas resueltos en la referencia que se pierden, porque las ejecuciones comprimidas también pueden resolver problemas diferentes. La cifra mide la comprensión en una sola ejecución del código fuente sin procesar y comprimido, con la recuperación desactivada y la recuperación de ediciones en producción activada; no mide el filtro del esquema de herramientas de CPU ni la pasarela completa de varios turnos.
Los datos de este gráfico
[
{
"label": "Turn 1",
"saved_pct": 25
},
{
"label": "Turn 5",
"saved_pct": 39
},
{
"label": "Turn 12",
"saved_pct": 57
},
{
"label": "Turn 20",
"saved_pct": 63
}
]El ahorro de extremo a extremo aumenta a medida que avanza una sesión, porque el historial se acumula y el historial es lo que se comprime. El proyecto informa de aproximadamente un 25% en un solo turno, 39% en el turno 5 y 63% en el turno 20. Sólo se han medido los turnos 1 a 5; el README etiqueta las filas posteriores como proyecciones. También indica dónde se detiene el crecimiento: con un presupuesto de 200,000 tokens, el ahorro de contenido por turno se estabiliza en unos 48,000 tokens, aproximadamente entre los turnos 8 y 12, porque cuando el contexto está lleno el historial deja de crecer. El ahorro adicional del filtro de herramientas suma aproximadamente 21,000 tokens por turno, por lo que la meseta combinada proyectada es de aproximadamente 69,000 tokens por turno. La cifra ampliamente citada de "más del 85%" describe sesiones con el contexto saturado. Es el mejor caso, y el mismo README indica que, con la configuración predeterminada, el ahorro se estabiliza hacia un límite de aproximadamente el 72%, así que no planifique basándose en esa cifra.
¿Una GPU de 24 GB compensa para Paritok?
La GPU es opcional y el modelo cabe en tarjetas con menos de 24 GB. Para un cálculo orientativo del alquiler, suponga un coste de $0.44 por hora para una tarjeta de 24 GB. Si permanece encendida todo el mes, son 730 horas, es decir, $321. Si se ejecuta sólo durante el horario laboral, 8 horas al día durante 22 días, son 176 horas, es decir, $77.
Ahora convierta la reducción de tokens en una reducción de costes. La reducción se aplica a los tokens de entrada. Los tokens de salida pasan por el proxy sin modificaciones, por lo que el proxy no los comprime. Calcule por separado el cambio en las entradas nuevas, las escrituras de caché y las lecturas de caché, usando las tarifas de su proveedor. Después compare el coste total de la API antes y después. Aunque las entradas representen el 80% del coste total en dólares, multiplicar la reducción de tokens por 0.8 no demuestra cuánto ahorrará en la factura.
Los datos de este gráfico
[
{
"label": "Always on (730 hours)",
"required_api_saving_usd": 321.2
},
{
"label": "Workday only (176 hours)",
"required_api_saving_usd": 77.44
}
]Una tarjeta que permanece encendida se amortiza cuando el ahorro mensual medido en la API supera los $321.2, o los $77.44 si detiene la instancia fuera del horario laboral. Una reducción de tokens del 85% por sí sola no demuestra un ahorro del 68% en la factura, por lo que tampoco permite establecer un umbral mensual de gasto del agente. Divida el coste del alquiler entre la fracción medida de ahorro en la factura para obtener ese umbral.
Hay dos factores que mejoran el resultado respecto a lo que sugiere el gráfico. El modelo no necesita 24 GB: la compilación q4 ocupa unos 2.5 GB y la compilación f16 unos 8 GB. Por tanto, una tarjeta más pequeña, o un equipo con GPU que ya utilice para otra tarea, reduce todas las cifras del gráfico. Además, detener la instancia cuando nadie está programando es la medida más importante, porque reduce el alquiler aproximadamente en tres cuartas partes.
Hay un factor que empeora el resultado. El proceso de compresión requiere trabajo de cómputo. Cada token que comprime el modelo 4B es un token que debe leer, y cada fragmento que conserva es uno que debe volver a escribir. Esto añade latencia a cada turno del agente. En una tarjeta alquilada por horas, ese coste aparece como tiempo de espera y no como una línea de la factura, por lo que es fácil pasarlo por alto hasta que se percibe.
Si está comparando en general las horas de GPU alquiladas con los tokens de la API, el punto de equilibrio entre una GPU VPS y los tokens de la API aplica el mismo cálculo a la inferencia propiamente dicha.
Ejecución del gateway Paritok en un VPS
Los metadatos del paquete en PyPI aceptan Python 3.10 o posterior, aunque la insignia del README indica 3.11 o posterior. Ubuntu 24.04 incluye Python 3.12, por lo que una imagen VPS básica es suficiente para el filtro de herramientas de CPU.
sudo apt update && sudo apt install -y python3-venv curl
python3 -m venv /opt/paritok/venv
source /opt/paritok/venv/bin/activate
pip install "paritok[proxy]==1.3.14"
pip install "paritok[toolselect]==1.3.14"Fije la versión. PyPI fecha v1.3.0 el 5 de agosto de 2026 y v1.3.14 el 6 de octubre de 2026. Un proyecto que avanza a ese ritmo cambia los nombres entre versiones: v1.3.0 cambió el nombre de expand_context a read_original en su API. Un pip install paritok sin versión, o un git clone de main, le proporcionará un gateway diferente la semana siguiente y no dejará constancia de cuál produjo las cifras medidas.
El backend predeterminado es Ollama. Descargue el modelo y asígnele el nombre corto que busca el proxy.
ollama pull paritok/paritok-4b-v1
ollama cp paritok/paritok-4b-v1 paritok-4b-v1Como el modelo local escribe los spans que conserva para cada segmento que comprime, una pasada de compresión que tarda demasiado se muestra como un turno del agente bloqueado. El límite num_predict de Ollama para la longitud de salida es el parámetro que lo limita.
Escriba paritok.yaml junto a él. use_gpu_server: false mantiene la compresión en su propio hardware.
use_gpu_server: false
local_model:
base_url: http://localhost:11434/v1paritok proxy --port 8080 --config-file paritok.yamlparitok up es el atajo para descargar el modelo si falta e iniciar el proxy en el puerto 8080. Ollama debe estar instalado previamente. Compruebe el proxy antes de dirigir un agente hacia él.
curl http://127.0.0.1:8080/health
curl http://127.0.0.1:8080/stats/health devuelve un objeto JSON pequeño que contiene "status":"ok" y una cadena de versión. /stats devuelve los totales de compresión y la estimación del propio proxy sobre lo que ahorró. Trate esa estimación como una evaluación que el proxy hace de su propio trabajo y compárela con la página de uso de su proveedor.
Para obtener rendimiento en lugar de comodidad, vLLM sirve el adaptador sobre el modelo base.
vllm serve Qwen/Qwen3-4B-Instruct-2507 \
--enable-lora \
--lora-modules paritok-4b-v1=paritok/paritok-4b-v1 \
--max-lora-rank 32 \
--port 8000La opción --max-lora-rank 32 aparece en el comando propio del proyecto porque el adaptador tiene rango 32. Después, establezca local_model.base_url en http://localhost:8000/v1 dentro de paritok.yaml para que el proxy se comunique con vLLM en lugar de Ollama.
Ollama se configura más rápido. vLLM gestiona mucho mejor las solicitudes simultáneas, lo que empieza a ser importante en cuanto más de un agente comparte el servidor. La diferencia práctica entre Ollama y vLLM es lo que determina cuál debe usar.
Dirija el agente al proxy mediante las variables de entorno de la URL base.
export ANTHROPIC_BASE_URL=http://127.0.0.1:8080
export OPENAI_BASE_URL=http://127.0.0.1:8080Codex CLI ignora OPENAI_BASE_URL, por lo que paritok up escribe ~/.codex/config.toml por usted cuando codex.enabled: true está establecido en paritok.yaml. Exportar la variable por sí sola deja a Codex comunicándose directamente con el proveedor. La señal de esto es un contador /stats que nunca cambia mientras trabaja.
Mantenga el listener en 127.0.0.1, nunca en 0.0.0.0. El proxy reenvía al proveedor las credenciales incluidas en cada solicitud y su endpoint /stats, que no requiere autenticación, expone muestras del contenido original y comprimido. Por tanto, un listener accesible desde Internet expone el contexto privado y los recursos de compresión locales. Acceda desde un portátil mediante un túnel SSH o una VPN en lugar de abrir el puerto.
Ejecute el servicio con systemd para que sobreviva a un reinicio. Ajuste las rutas según su instalación. Cree el usuario paritok con el que se ejecuta la unidad y asígnele el directorio de instalación:
sudo useradd --system --home-dir /opt/paritok --shell /usr/sbin/nologin paritok
sudo chown -R paritok:paritok /opt/paritok[Unit]
Description=Paritok compression proxy
After=network-online.target
[Service]
User=paritok
WorkingDirectory=/opt/paritok
ExecStart=/opt/paritok/venv/bin/paritok proxy --port 8080 --config-file /opt/paritok/paritok.yaml
Restart=on-failure
[Install]
WantedBy=multi-user.targetHabilítelo con sudo systemctl enable --now paritok y vuelva a ejecutar curl en /health. Una unidad que se inicia y termina de inmediato suele indicar que la ruta del archivo de configuración es incorrecta. journalctl -u paritok -n 50 muestra el motivo.
La opción alojada y su coste
El proyecto también ofrece la compresión como servicio. Configure use_gpu_server: true con una clave de API de paritok.com y el modelo 4B se ejecutará en su hardware. A fecha de 2 de noviembre de 2026, cobra $0.30 por cada millón de tokens de archivo que comprime, descontados de un crédito prepagado. El filtrado de esquemas de herramientas es gratuito. Las cuentas nuevas reciben $5 de crédito gratuito sin necesidad de asociar una tarjeta. El periodo de lanzamiento durante el que el servicio alojado era gratuito terminó el 1 de octubre de 2026, por lo que ahora es un servicio de pago. Esto elimina la necesidad de alojar el modelo de compresión, pero usted sigue ejecutando el gateway.
También significa que sus prompts y los archivos que lee su agente salen de su equipo y llegan a un tercero antes de llegar a su proveedor de modelos. El alojamiento propio existe precisamente para evitar ese salto. Decida cuál de estas dos opciones quiere priorizar antes de establecer ese flag, porque el flag se cambia en una sola línea, pero la consecuencia no.
Cómo medir sus resultados antes y después
Las cifras publicadas son las del proyecto, obtenidas con el arnés del proyecto en SWE-bench Lite. Su repositorio no es SWE-bench Lite. Mida sus propios resultados.
- Ejecute una semana normal sin ningún proxy en la ruta. Registre en líneas separadas los tokens de entrada nuevos, escritura de caché, lectura de caché y salida desde la página de uso de su proveedor, no como un único total en dólares.
- Ejecute la semana siguiente con el proxy delante y realice el mismo tipo de trabajo.
- Compare las categorías de entrada con sus precios reales e incluya cualquier cambio en el coste de salida. El proxy no comprime la salida, pero los cambios en el comportamiento del agente y en el número de turnos siguen afectando a la cantidad de salida que compra.
- Cuente las tareas que tuvo que repetir. Esa es la parte de calidad del intercambio, y ningún panel la informa.
- Añada las horas de GPU de la segunda semana antes de comparar los totales.
Separar la entrada de la salida es importante porque sus precios son muy diferentes y un compresor sólo afecta a una de ellas. A fecha de 2 de noviembre de 2026, Claude Sonnet 4.6 cuesta $3 por millón de tokens de entrada y $15 por millón de tokens de salida; la lectura de la caché de prompts cuesta el 10% de la tarifa de entrada, es decir, $0.30 por millón. El nuevo Claude Sonnet 5.5 cuesta $2 y $10, y sus lecturas de caché cuestan el 5% de la tarifa de entrada, es decir, $0.10 por millón. La diferencia entre el coste de los tokens de entrada y de salida determina si un compresor aplicado a la entrada le resulta rentable. Dónde se consumen realmente los tokens de Claude Code indica qué parte del contexto es lo bastante grande como para justificar su compresión.
La caché de prompts complica especialmente el cálculo del filtro de herramientas. El bloque de herramientas se encuentra al principio de la solicitud, por lo que, después del primer turno, normalmente se sirve desde la caché; en Sonnet 4.6 eso cuesta el 10% del precio de entrada. Eliminar 21,000 tokens de un bloque almacenado en caché ahorra 21,000 tokens a $0.30 por millón, aproximadamente $0.006 por turno, en lugar de los $0.063 que indicaría la tarifa sin caché. El proyecto mantiene fijo el bloque filtrado durante la sesión para que el prefijo almacenado en caché no cambie. Un filtro que volviera a seleccionar las herramientas en cada turno invalidaría ese prefijo y podría costar más de lo que ahorrase.
Qué sigue sin verificarse
Todas las cifras de rendimiento anteriores proceden del propio proyecto. Existe una comprobación independiente de compresión con un corpus sintético, pero indica explícitamente que no prueba el éxito de las tareas de SWE-bench; las cifras del proyecto sobre la calidad de resolución de SWE-bench Lite siguen sin confirmación independiente. Además, como el gateway se publicó como código abierto en julio de 2026, el código tiene muy poco historial operativo. La tasa de compresión y la cifra de calidad conservada las mide la parte que se beneficia de que sean favorables. Eso no significa que sean incorrectas. Significa que no están confirmadas, y debe valorarlas de forma distinta a una cifra que haya obtenido usted mismo.
Conviene conocer un comportamiento documentado antes de atribuir el problema a su configuración. El modelo de embeddings que usa el filtro de herramientas se carga con la primera petición, no al iniciar el proceso. Por eso, el proyecto documenta un calentamiento de 10 a 15 segundos y, después, unos 15 ms por llamada. Envíe una petición desechable después de iniciar el proxy. Así, el primer turno real del agente no parecerá bloqueado.
Puede comprobar cuatro cosas por su cuenta en una tarde: si el proxy inicia y permanece activo, si /stats cambia mientras trabaja, si la línea de tokens de entrada de su proveedor realmente disminuye y si el agente sigue completando el trabajo. Estas comprobaciones determinan si funciona en su configuración mucho mejor que cualquier benchmark publicado.
En cuanto a su relación con las demás herramientas: un gateway LiteLLM autohospedado enruta y contabiliza las peticiones sin modificar su contenido. Por tanto, resuelven problemas distintos y pueden encadenarse, con Paritok situado más cerca del agente. Si el objetivo real es reducir la factura y no usar esta herramienta concreta, el conjunto más amplio de controles de costes para un agente en un VPS incluye varios cambios que no cuesta nada probar primero.
FAQ
¿Paritok reduce mi factura de API o sólo el uso de contexto?
Reduce la solicitud antes de que llegue al proveedor. El ahorro en la factura depende del precio de los tokens eliminados y del número de turnos resultante del agente. El tamaño de esa reducción es menor de lo que sugiere la cifra destacada. El 74% corresponde a la tasa de compresión del contenido comprimido. De extremo a extremo, el proyecto informa de aproximadamente un 25% en un solo turno y proyecta un 63% para el turno 20 en ahorro de tokens de entrada. Los tokens de salida pasan sin cambios, pero la cantidad generada sigue dependiendo del comportamiento del agente.
¿Cuánta GPU necesito para alojar yo mismo el modelo de compresión?
La GPU es opcional: Ollama también ejecuta el modelo en la CPU. La compilación q4 ocupa aproximadamente 2.5 GB y la compilación f16, unos 8 GB, por lo que el modelo cabe en una tarjeta de 24 GB con mucho espacio libre. Una tarjeta más pequeña también sirve y mejora el cálculo del punto de equilibrio. El filtro de esquemas de herramientas no necesita GPU: usa BAAI/bge-small-en-v1.5, un modelo de embeddings de 130 MB que se ejecuta en la CPU. Instale paritok[toolselect] en un VPS normal y obtendrá la reducción de bloques de herramientas a cambio de un consumo reducido de RAM.
¿Qué ocurre si el compresor elimina algo que el agente necesitaba?
No se pierde nada de forma permanente. El modelo elimina fragmentos del contenido que reenvía, pero los segmentos comprimidos incluyen una etiqueta [REF:id] y el modelo recupera el texto completo con read_original o expand_context. El filtro de herramientas predeterminado descarta las herramientas estándar no seleccionadas y las herramientas MCP no seleccionadas, salvo que se active su señal de relevancia para MCP; en ese caso, genera stubs para esas herramientas MCP. La recuperación de herramientas usa gateway_search_tools y detecta mensajes sobre herramientas ausentes. El riesgo real es más sutil que un archivo que falta: el modelo trabaja con un extracto con pérdida de información y nunca se da cuenta de que debería solicitar el original. La cifra de retención de calidad del 86.5% en SWE-bench Lite mide la comprensión en una sola ejecución del código fuente sin procesar comprimido, con la recuperación desactivada y la recuperación de ediciones en producción activada; no mide el filtro de esquemas de herramientas basado en CPU ni el gateway completo de varios turnos.
¿Por qué tarda quince segundos la primera solicitud?
El modelo de embeddings del filtro de herramientas se carga en la primera solicitud, no durante el arranque. El proyecto documenta un calentamiento de 10 a 15 segundos y, después, aproximadamente 15 ms por llamada. Envíe una solicitud de prueba con curl después de iniciar el proxy. Así, el primer turno real del agente no se bloqueará.
¿Debería usar el servidor GPU alojado en lugar de alojarlo yo mismo?
Elimina la necesidad de alojar el modelo de compresión y de pagar el alquiler de una GPU, pero usted sigue manteniendo el gateway. A fecha de 2 November 2026, cuesta $0.30 por millón de tokens de archivos comprimidos y se paga con crédito prepagado. Las cuentas nuevas reciben $5 de crédito gratuito. El periodo de lanzamiento gratuito terminó el 1 October 2026. Además, envía sus indicaciones y los archivos que lee el agente a un tercero antes de que lleguen al proveedor del modelo. Si aloja el servicio usted mismo para mantener el código en una infraestructura bajo su control, esa configuración contradice el motivo por el que empezó. El alojamiento propio mantiene la compresión en su propio servidor. Las solicitudes comprimidas y las credenciales del proveedor siguen enviándose al proveedor del modelo.