
Paritok tihendab tööriistad, failid ja ajaloo, mida sinu kodeerimisagent saadab. Säästa kuni 85% oma tokenite arvelt ja tee 3× pikemaid sessioone. Kaks käsku, midagi ei lähe kaotsi, täielikult lokaalne.
Loading comments…
Projekti info
Toote märksõnad
Paritok on kohalik, isehostitud tihenduskiht, mis asub sinu koodiagendi ja selle keelemudeli vahel. See peatab tööriistade skeemid, faililugemised ja vestlusajaloo, mida sinu agent igal pöördel saadab, ning kirjutab need ümber kompaktsesse vormi enne, kui need API-sse jõuavad. Vastus tuleb tagasi muutmata kujul ning igasugust tihendatud sisu saab vajadusel laiendada. Tulemus: kuni 85% madalamad tokeniarved ja seansid, mis kestavad umbes 3× kauem, kusjuures kogu integratsioon on vaid üks keskkonnamuutuja.
Kogu integratsioon on üks eksport: ANTHROPIC_BASE_URL=http://127.0.0.1:8080. Suuna oma agent Paritoki poole ja see hakkab sealt alates läbipaistvalt tihendama. Ei mingeid SDK muudatusi, pluginade installimist ega konfiguratsioonifaile, mida hooldada.
Paritok ründab tokeniraiskamist kolmest nurgast korraga. Esiteks kärbib see tööriistade skeeme umbes 29K tokenilt 8K-le pöörde kohta, hoides alles ainult asjakohased tööriistad ja jättes ülejäänud tühikuteks. Teiseks tihendab see faililugemisi ja tööriistaväljundeid umbes 26%-ni nende algsest suurusest, kasutades 4B mudelit, mis säilitab identifikaatorid, teed ja veateated. Kolmandaks võtab see kokku vananenud vestlusajaloo, kui sinu kontekstieelarve täitub, jättes hiljutised pöörded puutumata.
Miski pole kunagi päriselt ära visatud. Kui agent vajab tihendatud faili või tööriistatulemuse täpseid baite, saab see kutsuda read_original(ref) või gateway_search_tools(q), et need kohalikult kätte saada — ilma täiendavat API-pööret kulutamata. See muudab tihenduse traadil kaotavaks, kuid täielikult taastatavaks, kui see oluline on.
Kuna iga faililugemine jääb ajalukku ja saadetakse igal pöördel uuesti, tasub tihendamine end korduvalt ära. Ühe pöördega seanss säästab umbes 25%, kuid 20. pöördeks ulatub kokkuhoid 63%-ni ning lagi sõltub sinu seadistusest — vaikeseadistused umbes 40 tööriistaga võivad pöörde kohta säästa kuni 72%.
Kaotav traadil, taastatav siis, kui loeb.
Enamik tihendustööriistu sunnib püsivale kompromissile tokenisäästu ja andmetäpsuse vahel. Paritok möödub sellest täielikult, muutes iga tihendatud tüki vajadusel kohalikult kättesaadavaks, ilma API-kõnet tarbimata. See tähendab, et saad agressiivselt vähendada seda, mis ülesvoolu läheb, säilitades samal ajal agendi võime pääseda ligi täpsetele lähtebaitidele. Kogunev efekt on tõeline eristaja — mida kauem sinu seanss kestab, seda rohkem säästad, mis omakorda võimaldab 3× pikemaid seansse, mida rasked agendikasutajad vajavad.
Juhid pikki koodiagendi seansse ja vaatad, kuidas tokenikulud kasvavad, või põrkad vastu kontekstiakna piiridele ülesande keskel. Paritok on eriti veenev, kui isehostid juba oma tööriistu ja tahad sissevisatavat lahendust, mis ei nõua agendi muudatusi. Samuti tasub seda kaaluda, kui kasutad mõnda OpenAI-ühilduvat ülemvoolu ja tahad kulusid kärpida ilma loobumata võimalusest vajadusel täpseid failisisusid kätte saada.
Teised tööriistad, mida võiksid kaaluda
Hetkel, kui agent peab midagi juurutama, põrkab ta vastu seina, mis on ehitatud inimeste jaoks. Täna toome välja ajutised kontod Cloudflare Workersi jaoks. Iga agent saab nüüd käivitada wrangler deploy — temporary ja saada sekunditega töötava Worker'i.
GitHits annab kodeerimisagentidele juurdepääsu avatud lähtekoodiga, millest teie rakendus sõltub. Hankige reaalseid teostusnäiteid, sõltuvuste lähtekoodi sirvimist, pakettide kontrollimist ja dokumentatsiooni. Agendid saavad teie koodibaasi otsida ja lugeda. Nad ei saa otsida ega lugeda avatud lähtekoodi, millest teie rakendus sõltub. Siit algab nende oletamine, uuesti proovimine ja tsüklisse jäämine. GitHits ehitab nõudmisel versiooniteadliku indeksi. Agendid saavad otsida, sirvida ja kontrollida oma sõltuvuste taga olevat koodi. CLI: npx githits@latest init
Sama AI. 5x rohkem tokeneid. Coworker pakub sügavat ettevõtte konteksti ja suunab automaatselt iga ülesande jaoks õige mudeli juurde. Rohkem vestlust, koostööd ja koodi sama kuluga.
Octopoda on avatud lähtekoodiga taristukiht, mis annab tehisintellekti agentidele püsimälu, automaatse tsüklituvastuse ja täieliku jälgitavuse. Agendid unustavad kõik seansside vahel. Octopoda lahendab selle mälu meeldejätmise/meeldetuletamise API-ga, mis peab vastu taaskäivitustele, kokkujooksmistele ja juurutusetele. Tsüklituvastussüsteem jälgib 5 signaali, et tabada agendid, kes on kinni jäänud end kordama, enne kui nad teie API eelarvet põletavad, koos reaalajas kuluhinnanguga, mis näitab täpselt, kui palju iga tsükkel raiskab. Sisseehitatud töölaual kuvatakse iga agendi terviseskoor, mäluuurija versiooniajalooga, auditijälg, mis logib iga otsuse koos põhjendusega, ja ajajoone taasesitus, mis võimaldab teil samm-sammult läbi käia kõik, mida teie agent tegi. Töötab koos LangChain, CrewAI, AutoGen ja OpenAI Agents SDK-ga üherealiste integratsioonidega. Töötab lokaalselt SQLite-ga või ühendub pilvega ühe keskkonnamuutujaga. Tasuta tase, MIT litsents. 177 registreerumist, 120 GitHubi tähte, null turunduskulu.
Looja
blueprint_b
Alternatiivid
Loading comments…