加拿大初创公司推出 Command A 轻量级 AI 模型，号称仅需两块英伟达 A100 / H100 GPU 即可部署

根据 IT之家 3 月 14 日的报道，加拿大人工智能初创公司 Cohere 于昨日推出了一款名为“Command A”的 AI 模型。该模型致力于轻量化应用，其声称只需两块 NVIDIA A100 或 H100 GPU 便可轻松实现部署，并表示其“性能能够与 GPT-4o 相媲美”，以“最小的硬件配置获得最大的性能”。

Cohere 提到，Command A 是专为中小型企业所设计，支持高达 256k 的上下文长度及 23 种语言，与竞争对手的“同类产品”相比，后者通常需要部署 32 块 GPU。

在性能方面，Command A 的输出速度可达每秒 156 个 Token，据称比 GPT-4o 更快 1.75 倍。此外，在指令跟踪、SQL 处理、代理程序以及工具任务的基准测试中，Command A 的表现也颇为优越。

Cohere 强调，其提供的数据表明，市面上许多大型语言模型在规模过于庞大时，可能会在结果输出方面遇到明显的延迟；而如果用户希望快速获取正确答案，Command A 无疑是一个令人满意的选择。

目前，Cohere 已在 Hugging Face 平台上发布了 Command A（点击此处访问），其向学术界开放使用，未来还将在其他云服务平台上线。

广告声明：文中包含的外部链接（包括但不限于超链接、二维码、口令等形式）旨在传递更多信息，以节省选稿时间，结果仅供参考。