Arm 宣布将 AI 推理性能优化软件库 Kleidi 扩展到车用市场
IT之家报道,Arm今日宣布将其AI推理性能优化软件库Kleidi扩展到车用市场。透过Arm Kleidi,合作伙伴将能充分发掘下一代特定应用AI模型在汽车中的优势,并加快其部署速度。
据悉,Arm Kleidi于2024年发布,开发人员无需额外工作,即可利用其为Arm CPU上运行的AI推理工作负载提供软件性能优化。该软件库此前已被广泛应用于移动设备、云服务和数据中心等领域。
Arm声称,通过与Corellium合作开发的虚拟平台,亚马逊AWS为SDV软件定义汽车引入了新的概念验证AI聊天机器人,使司机能够直接与汽车互动,提出问题或询问仪表盘警报,无需查阅汽车用户手册。
使用集成Kleidi AI的最新版本Llama.cpp进行开发,AWS取得了显著的聊天机器人性能提升:响应时间缩短至1~3秒,性能提升达到10倍。同时Kleidi软件库为开发人员节省了6周的底层软件优化时间。
Arm车用事业部产品与解决方案副总裁Suraj Gajendra表示:
在汽车产业中,AI通常被称为自动驾驶汽车的核心 —— 听起来颇具未来感,距离其大规模量产上路还有数年时间。
然而,实际情况是,如今新车型中的许多应用和功能,从自适应巡航控制、个性化车载信息娱乐系统到驾驶和乘客监控系统,都已经使用AI技术,并且这些特定应用的模型和工作负载已经在Arm平台上高效运行。
这得益于Arm运算平台独特的灵活性、性能、效率和可扩展性,使其成为整个汽车行业开发人员的首选平台。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考。
1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。