

Paritok tihendab tööriistad, failid ja ajaloo, mida sinu kodeerimisagent saadab. SÀÀsta kuni 85% oma tokenite arvelt ja tee 3à pikemaid sessioone. Kaks kÀsku, midagi ei lÀhe kaotsi, tÀielikult lokaalne.
Loading commentsâŠ
Looja
blueprint_b
KĂŒlasta veebisaiti
paritok.com
Projekti info
Toote mÀrksÔnad
Alternatiivid
Paritok on kohalik, isehostitud tihenduskiht, mis asub sinu koodiagendi ja selle keelemudeli vahel. See peatab tööriistade skeemid, faililugemised ja vestlusajaloo, mida sinu agent igal pöördel saadab, ning kirjutab need ĂŒmber kompaktsesse vormi enne, kui need API-sse jĂ”uavad. Vastus tuleb tagasi muutmata kujul ning igasugust tihendatud sisu saab vajadusel laiendada. Tulemus: kuni 85% madalamad tokeniarved ja seansid, mis kestavad umbes 3Ă kauem, kusjuures kogu integratsioon on vaid ĂŒks keskkonnamuutuja.
Kogu integratsioon on ĂŒks eksport: ANTHROPIC_BASE_URL=http://127.0.0.1:8080. Suuna oma agent Paritoki poole ja see hakkab sealt alates lĂ€bipaistvalt tihendama. Ei mingeid SDK muudatusi, pluginade installimist ega konfiguratsioonifaile, mida hooldada.
Paritok rĂŒndab tokeniraiskamist kolmest nurgast korraga. Esiteks kĂ€rbib see tööriistade skeeme umbes 29K tokenilt 8K-le pöörde kohta, hoides alles ainult asjakohased tööriistad ja jĂ€ttes ĂŒlejÀÀnud tĂŒhikuteks. Teiseks tihendab see faililugemisi ja tööriistavĂ€ljundeid umbes 26%-ni nende algsest suurusest, kasutades 4B mudelit, mis sĂ€ilitab identifikaatorid, teed ja veateated. Kolmandaks vĂ”tab see kokku vananenud vestlusajaloo, kui sinu kontekstieelarve tĂ€itub, jĂ€ttes hiljutised pöörded puutumata.
Miski pole kunagi pĂ€riselt Ă€ra visatud. Kui agent vajab tihendatud faili vĂ”i tööriistatulemuse tĂ€pseid baite, saab see kutsuda read_original(ref) vĂ”i gateway_search_tools(q), et need kohalikult kĂ€tte saada â ilma tĂ€iendavat API-pööret kulutamata. See muudab tihenduse traadil kaotavaks, kuid tĂ€ielikult taastatavaks, kui see oluline on.
Teised tööriistad, mida vÔiksid kaaluda
Kuna iga faililugemine jÀÀb ajalukku ja saadetakse igal pöördel uuesti, tasub tihendamine end korduvalt Ă€ra. Ăhe pöördega seanss sÀÀstab umbes 25%, kuid 20. pöördeks ulatub kokkuhoid 63%-ni ning lagi sĂ”ltub sinu seadistusest â vaikeseadistused umbes 40 tööriistaga vĂ”ivad pöörde kohta sÀÀsta kuni 72%.
Kaotav traadil, taastatav siis, kui loeb.
Enamik tihendustööriistu sunnib pĂŒsivale kompromissile tokenisÀÀstu ja andmetĂ€psuse vahel. Paritok möödub sellest tĂ€ielikult, muutes iga tihendatud tĂŒki vajadusel kohalikult kĂ€ttesaadavaks, ilma API-kĂ”net tarbimata. See tĂ€hendab, et saad agressiivselt vĂ€hendada seda, mis ĂŒlesvoolu lĂ€heb, sĂ€ilitades samal ajal agendi vĂ”ime pÀÀseda ligi tĂ€psetele lĂ€htebaitidele. Kogunev efekt on tĂ”eline eristaja â mida kauem sinu seanss kestab, seda rohkem sÀÀstad, mis omakorda vĂ”imaldab 3Ă pikemaid seansse, mida rasked agendikasutajad vajavad.
Juhid pikki koodiagendi seansse ja vaatad, kuidas tokenikulud kasvavad, vĂ”i pĂ”rkad vastu kontekstiakna piiridele ĂŒlesande keskel. Paritok on eriti veenev, kui isehostid juba oma tööriistu ja tahad sissevisatavat lahendust, mis ei nĂ”ua agendi muudatusi. Samuti tasub seda kaaluda, kui kasutad mĂ”nda OpenAI-ĂŒhilduvat ĂŒlemvoolu ja tahad kulusid kĂ€rpida ilma loobumata vĂ”imalusest vajadusel tĂ€pseid failisisusid kĂ€tte saada.