广和通发布Fibocom AI Stack,助力客户快速实现跨平台跨系统的端侧AI部署

责任编辑:王鹤迦 2025.01.08 09:38 来源:通信世界全媒体

通信世界网消息(CWW)1月7日-10日,2025年国际消费电子产品展览会(CES 2025)盛大举行,广和通发布Fibocom AI Stack,赋智千行百业端侧应用。Fibocom AI Stack提供集高性能模组、AI工具链、高性能推理引擎、海量模型、支持与服务一体化的端侧AI解决方案,帮助智能设备快速实现AI能力商用。

image.png

为适应不同端侧场景的应用,AI Stack具备海量端侧AI模型及行业端侧模型,基于不同等级算力的芯片平台或模组,Fibocom AI Stack可将TensorFlow、PyTorch、ONNX、MXNet等机器学习和神经网络的模型进行压缩,并转换为适合端侧部署的最优模型,以匹配不同智能终端应用场景。AI Stack支持Android、Linux、Ubuntu等系统,帮助终端客户实现跨芯片平台、跨操作系统的端侧高性能推理与部署。

image.png

AI Stack拥有完整AI工具链,集成易于部署的代码,可进行数据标注、模型训练、模型微调。针对模型移植,AI Stack提供模型转换、模型量化和算子替换等能力。广和通还提供包含基准测试、性能监控、性能分析等评测服务,协助开发者更直观地验证终端部署效果。

高性能推理引擎作为AI部署的关键组件,将训练、转换完成的模型高效部署在端侧并执行推理任务,从而在实际业务场景中实现多样化的AI应用。推理引擎支持C++/Python/Java等多种编程语言接口,可满足跨平台的应用开发,显著降低开发者端侧AI开发的难度和复杂度。通过异构调度、和硬件加速等策略,可最大化发挥AI模组性能,提升推理速度,降低功耗。

同时,AI Stack提供一套全面、丰富的模型仓,包含机器视觉、听觉、多模态、大语言模型以及行业端侧模型等海量模型,可助力行业终端实现目标检测、语义分割、对话问答、语音识别、图像问答、多语言翻译等功能。

image.png

得益于其通用性、易用性、高效性等特点,AI Stack可最大程度满足客户多层级算力要求,缩短终端开发周期,降低端侧AI开发难度,助力智能座舱、智能穿戴、智能零售、机器人等千行百业的业务场景拥抱端侧AI。

广和通AI研究院院长刘子威表示:“广和通于2024年成立AI研究院,并将端侧AI作为公司战略方向之一,助力产业数智化升级。随着终端芯片算力、模型能力增强,以及应用场景对实时响应及隐私保护需求增加,端侧AI将助力更多IoT场景智能化。Fibocom AI Stack为客户提供了一站式端侧AI部署的能力,未来将广泛帮助智能零售、智能网联车、智能穿戴、机器人等场景快速AI升级。广和通将积极联合产业伙伴拓展AI创新应用,助推端侧AI商业落地。”


通信世界网版权及免责声明:
1、凡本网注明“来源:通信世界全媒体”及标有原创的所有作品,版权均属于通信世界网。未经允许禁止转载、摘编及镜像,违者必究。对于经过授权可以转载我方内容的单位,也必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和本站来源。
2、凡本网注明“来源:XXX(非通信世界网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3、如因作品内容、版权和其它问题需要同本网联系的,请在相关作品刊发之日起30日内进行。
发表评论请先登录
...
热点文章
    暂无内容