Command A+란?

Command A+는 Cohere의 가장 빠르고 강력한 언어 모델로, 복잡한 추론, 멀티모달 및 다국어 에이전트 작업을 위해 설계된 오픈소스 엔터프라이즈 워크호스입니다. Apache 2.0 라이선스로 출시된 이 mixture-of-experts(MoE) 모델은 총 218B 파라미터 중 25B만 활성화되어, H100 GPU 2대만으로도 고성능 에이전트 워크플로우를 구현할 수 있습니다. Command 제품군의 기능을 하나의 확장 가능한 모델로 통합하여 텍스트, 이미지, 도구 사용 입력을 지원하며, 128K 입력 컨텍스트와 64K 최대 생성 길이를 제공합니다.

대상 사용자

• 엔터프라이즈 개발자: 외부 API에 의존하지 않고 자체 배포 가능한 LLM을 사용하여 독립적인 에이전트 AI 시스템을 구축해야 하는 경우.
• AI 연구자 및 엔지니어: 오픈소스 모델을 실험하며 효율적인 추론, 저비트 양자화, vLLM 및 Transformers와 같은 프레임워크와의 통합이 필요한 경우.
• 다국어 팀: 48개 지원 언어로 복잡한 추론, 검색 증강 생성(RAG), 멀티모달 문서 처리를 수행해야 하는 경우.

주요 기능

효율성을 위한 Mixture-of-Experts 아키텍처

Command A+는 희소 MoE 설계를 사용하여 총 218B 파라미터 중 순방향 패스당 25B만 활성화합니다. 이는 엔터프라이즈급 성능을 유지하면서 컴퓨팅 요구 사항을 크게 줄여, H100 GPU 2대와 같은 최소 하드웨어에서도 배포 가능하게 합니다.

통합된 추론, 멀티모달 및 도구 사용

이전 Command A 모델이 개별 기능에 특화된 것과 달리, Command A+는 추론, 시각 이해, 도구 사용, 다국어 지원을 하나의 모델에 결합합니다. 각 기능에 별도의 모델이 필요 없이 복잡한 에이전트 작업, 장기 계획, 멀티모달 문서 처리를 처리합니다.

독립적 배포에 최적화

이 모델은 Apache 2.0 라이선스로 자유롭게 사용할 수 있으며, 거의 손실 없는 양자화와 오픈 추론 프레임워크와의 통합을 지원합니다. 개발자는 Hugging Face에서 가중치를 다운로드하여 자체 환경에 배포하거나, Cohere의 Model Vault를 통해 관리형 추론을 사용할 수 있습니다.

차별점

Command A+는 H100 GPU 2대만으로도 실행되면서 Command 시리즈의 모든 이전 세대를 능가하는 성능을 제공하여, 모든 사용자가 독립적인 에이전트 기능을 활용할 수 있게 합니다.

이러한 오픈소스 접근성과 엔터프라이즈급 성능의 조합은 드뭅니다. 이 모델은 이전 모델에 비해 극적인 개선을 이루었으며, Terminal-Bench Hard에서 에이전트 코딩 성능이 3%에서 25%로, 통신 추론 점수가 37%에서 85%로 향상되었습니다. Cohere의 엔터프라이즈 워크스페이스인 North와의 실제 배포 경험을 바탕으로 설계되어, 프로덕션 에이전트 워크플로우에 실용적인 기반을 제공합니다.

다음의 경우 확인해 볼 가치가 있습니다…

개인적이고 효율적으로 여러 언어로 실행되는 에이전트 AI 시스템을 구축하는 경우. Command A+는 추론, 시각, 도구 사용, 다국어 작업을 별도의 특화 모델을 사용하지 않고 하나의 모델로 처리하려는 경우에 이상적입니다. 특히 최소한의 컴퓨팅 오버헤드로 독립적인 AI 배포를 우선시하는 기업에 유용합니다.