信通院MaaS系列标准正式发布,助力大模型工程化底座能力建设

责任编辑:王鹤迦 2025.01.06 16:00 来源:中国信通院

通信世界网消息(CWW)随着大模型向行业应用的深入发展,如何将基座模型通过工程化开发适配到专属领域,并生产面向用户的智能化应用,成为大模型落地最后一公里的关键问题。MaaS(Model as a service,模型即服务)提供大模型服务、平台工具、应用开发等能力,通过工程化方式提升大模型可用、可信和可靠等能力,为大模型工程化落地提供有力支撑。产业界逐渐涌现出各类MaaS平台,但同时出现了模型服务质量参差不齐、平台选型难、行业定制需求复杂等问题,从而亟需一套全面的标准体系助力MaaS行业健康有序发展。

中国信息通信研究院(简称“中国信通院”)紧跟MaaS领域最新发展趋势,依托中国人工智能产业发展联盟于2023年成立MaaS工作组,联合产学研各界专家共同启动MaaS系列标准编制,经过一年多的持续努力,现正式发布MaaS系列标准。本系列标准围绕MaaS落地中遇到的问题,聚焦大模型定制调优、大模型服务部署和推理加速、模型管理、大模型应用开发等维度,提出能力要求,为大模型服务商和平台供应商提供能力建设参考,为应用方提供技术选型依据。

97023077ef420f425753d9ba5e05a2d5.png

《MaaS模型即服务技术与应用要求第1部分:模型服务协议要求》(AIIA/PG 0110-2024)(以下简称“协议要求”)标准针对大模型服务供需双方签订服务协议(SLA)时涉及的模型推理性能、服务可用性、计量准确性、权责条款等方面进行了明确规范,为大模型服务提供商和使用方制定服务协议提供参考。

《MaaS模型即服务技术与应用要求第2部分 模型服务评估方法》(AIIA/PG 0173-2024)标准,以协议要求标准中的要求为基础,明确了可落地的模型服务质量评估方法,对大模型服务的质量进行多维度评估,为其是否满足SLA提供符合性评价依据,为应用方提供选型参考和质量保障。

《MaaS模型即服务技术与应用要求第3部分:模型平台》(AIIA/PG 0134-2024)标准从数据工程、模型调优、模型交付、服务运营、平台能力等角度对利用基座大模型打造专属领域模型的全栈能力进行规范,降低大模型领域化的技术门槛,提升领域模型的定制调优效率和能力。

《MaaS模型即服务技术与应用要求第4部分:模型服务平台》(AIIA/PG 0137-2024)标准从大模型推理加速、服务部署、服务测试、服务管理、服务运营等角度对将大模型服务化成API等形式的全流程能力进行规范,指导大模型服务平台供应商进行能力建设,提升大模型服务的部署效率与供给质量。

《MaaS模型即服务技术与应用要求第5部分:模型管理平台》(AIIA/PG 0193-2024)标准对企业内部模型、数据等AI资产的管理运营进行规范,同时通过使用说明、适用场景、调用方法等模型卡片要素进行明确,以促进用户使用大模型的活跃度,帮助企业以最大程度发挥大小模型协同效果。

《MaaS模型即服务技术与应用要求第6部分:模型应用开发平台》(AIIA/T 0196-2024)标准围绕基于大模型的AI应用开发全流程,从组件构建、RAG构建、智能体应用构建、应用集成和管理以及平台运营等横向维度提出规范要求,纵向维度涉及模型服务调取、AI能力嵌入、流程编排等技术要求,帮助企业快速创建私域大模型应用。

通信世界网版权及免责声明:
1、凡本网注明“来源:通信世界全媒体”及标有原创的所有作品,版权均属于通信世界网。未经允许禁止转载、摘编及镜像,违者必究。对于经过授权可以转载我方内容的单位,也必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和本站来源。
2、凡本网注明“来源:XXX(非通信世界网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3、如因作品内容、版权和其它问题需要同本网联系的,请在相关作品刊发之日起30日内进行。
发表评论请先登录
...
热点文章
    暂无内容