Command A+

Mis on Command A+?

Command A+ on Cohere’i kiireim ja võimsaim keelemudel seni – avatud lähtekoodiga ettevõtete tööhobune, mis on loodud keerukate arutlus-, multimeedia- ja mitmekeelsete agentülesannete jaoks. Apache 2.0 litsentsi all välja antud segu-ekspertidest (MoE) mudel pakub 218B parameetrit kokku, millest aktiivne on vaid 25B, võimaldades suure jõudlusega agenttöövooge juba kahe H100 GPU-ga. See ühendab Command-perekonna võimekused ühte skaleeritavasse mudelisse, toetades teksti-, pildi- ja tööriistakasutuse sisendeid 128K sisendkonteksti ja 64K maksimaalse genereerimispikkusega.

Kellele see on mõeldud

• Ettevõtete arendajad, kes vajavad privaatselt paigaldatavat LLM-i suveräänsete agenttehisintellekti süsteemide loomiseks ilma välistele API-dele tuginemata.
• AI-teadlased ja insenerid, kes katsetavad avatud lähtekoodiga mudeleid, vajades tõhusat järelduste tegemist, madala biti kvantimist ja integreerimist raamistikega nagu vLLM ja Transformers.
• Mitmekeelsed meeskonnad, kes tegelevad keeruka arutlus-, otsinguga täiendatud genereerimise (RAG) ja multimeedia dokumentide töötlemisega 48 toetatud keeles.

Peamised omadused

Segu-ekspertidest arhitektuur tõhususe tagamiseks

Command A+ kasutab hõredat MoE-d, millel on 218B parameetrit kokku, kuid ainult 25B aktiivset edasisuunas. See vähendab oluliselt arvutusnõudeid, säilitades samal ajal ettevõtete tasemel jõudluse, muutes selle paigaldatavaks minimaalsele riistvarale, nagu kaks H100 GPU-d.

Ühtne arutlus-, multimeedia- ja tööriistakasutus

Erinevalt varasematest Command A mudelitest, mis spetsialiseerusid eraldi võimekustele, ühendab Command A+ arutlus-, nägemismõistmise, tööriistakasutuse ja mitmekeelse toe ühes mudelis. See haldab keerukaid agentülesandeid, pikaajalist planeerimist ja multimeedia dokumentide töötlemist ilma iga funktsiooni jaoks eraldi mudelit vajamata.

Optimeeritud suveräänseks paigalduseks

Mudel on Apache 2.0 all vabalt saadaval, toetades peaaegu kadudeta kvantimist ja integreerimist avatud järelduste raamistikega. Arendajad saavad kaalud alla laadida Hugging Facest ja paigaldada oma keskkondadesse, sealhulgas Cohere’i Model Vaulti haldatud järelduste tegemiseks.

Mis paistab silma

Command A+ teeb suveräänsed agentvõimekused kõigile kättesaadavaks – töötades juba kahe H100 GPU-ga, ületades samal ajal kõiki eelmisi Command-seeria põlvkondi.