Eelkoolitatud transformer-mudelid puhtas Keras 3-s, töötavad JAX-i, PyTorchi ja TensorFlow-ga.
Loading comments…
Looja
sleepyfox
Külasta veebisaiti
imvision12.github.io/KerasFormers/
Projekti info
Toote märksõnad
KerasFormers on eeltreenitud transformer-mudelite raamatukogu, mis on täielikult ehitatud puhtas Keras 3-s, kaaludega, mis on teisendatud originaalsetest kontrollpunktidest. See hõlmab 118 mudeliperekonda—alates objektituvastusest ja segmenteerimisest kuni kõnetuvastuse ja suurte keelemudeliteni—ja töötab sama koodiga JAX, PyTorch või TensorFlow taustsüsteemides. Käitusajal pole vaja transformers ega torch sõltuvusi, muutes selle kergeks ja raamistikust sõltumatuks alternatiiviks kaasaegsete arhitektuuridega töötamisel.
Iga mudel on ehitatud from_weights abil, seejärel söödetakse talle see, mida selle protsessor toodab. Olgu tegemist tuvastaja, sügavushinnangu või LLM-iga, töövoog on identne—seega ülesannete vahetamine ei nõua õppimiskõverat ega koodimuudatusi.
from_weights suunab automaatselt: see aktsepteerib Hubis eelkonverteeritud Keras hoidlat, palja variandi nime, mis teisendab ülesvoolu kontrollpunkti lennult, või mis tahes ühilduvat Hugging Face hoidlat hf: eesliite taga. Arhitektuuri üksikasjad, nagu klasside arv, loetakse hoidla konfiguratsioonist, nii et peenhäälestatud mudelid töötavad ilma lisaseadistuseta.
Ainult kaalude int8, int4, fp8 ja mxfp4 on argumendid samas from_weights kõnes, mis tahes mudeli puhul. Suured kontrollpunktid nagu GPT-OSS 120B laaditakse bfloat16-ga, kusjuures MoE eksperdid on pakitud MXFP4-sse ja dekvantiseeritakse lennult, hoides mälu umbes 66 GB juures, mitte ~130 GB fp32-s.
Iga joonis ja prinditud tulemus mudelilehel pärineb tegelikult selle kõrval oleva lõigu käitamisest näidatud päris pildil või heliklipil. Miski pole käsitsi kirjutatud, et usutav välja näha—see, mida loed, on täpselt see, mida saad, kui seda ise käitad.
Teised tööriistad, mida võiksid kaaluda
"Käita mis tahes mudelit, mis tahes taustsüsteemis."
See pole turunduslik jutt. KerasFormers täidab selle, portides 118 mudeliperekonda puhtasse Keras 3-sse teisendatud kaaludega, ja laseb seejärel vahetada JAX, PyTorch ja TensorFlow vahel ühe keskkonnamuutujaga. Laiuse, taustsüsteemi paindlikkuse ja ausa, reprodutseeritava dokumentatsiooni kombinatsioon muudab selle haruldaseks leiuks ML-teekide maailmas.
Ehitate Keras-iga ja soovite juurdepääsu kaasaegsetele transformeritele ilma ökosüsteemist lahkumata, või kui vajate ühte koodibaasi, mis töötab mitmes taustsüsteemis kaasaskantavuse huvides. See sobib hästi ka siis, kui töötate suurte mudelitega ja soovite lihtsaid kvantiseerimisvõimalusi, või kui hindate dokumentatsiooni, mis peegeldab tegelikke, käitatavaid tulemusi, mitte käsitsi loodud näiteid.
