划重点
01信通院正式发布MaaS系列标准,助力大模型工程化底座能力建设。
02该系列标准涵盖大模型定制调优、服务部署、推理加速、模型管理、应用开发等维度。
03其中,《协议要求》标准明确规范大模型服务供需双方签订服务协议的要求。
04另外,《模型服务评估方法》标准提供可落地的模型服务质量评估方法,为应用方提供选型参考和质量保障。
05最后,《模型应用开发平台》标准帮助企业快速创建私域大模型应用,发挥大小模型协同效果。
以上内容由腾讯混元大模型生成,仅供参考
随着大模型向行业应用的深入发展,如何将基座模型通过工程化开发适配到专属领域,并生产面向用户的智能化应用,成为大模型落地最后一公里的关键问题。MaaS(Model as a service,模型即服务)提供大模型服务、平台工具、应用开发等能力,通过工程化方式提升大模型可用、可信和可靠等能力,为大模型工程化落地提供有力支撑。产业界逐渐涌现出各类MaaS平台,但同时出现了模型服务质量参差不齐、平台选型难、行业定制需求复杂等问题,从而亟需一套全面的标准体系助力MaaS行业健康有序发展。
中国信息通信研究院(简称“中国信通院”)紧跟MaaS领域最新发展趋势,依托中国人工智能产业发展联盟于2023年成立MaaS工作组,联合产学研各界专家共同启动MaaS系列标准编制,经过一年多的持续努力,现正式发布MaaS系列标准。本系列标准围绕MaaS落地中遇到的问题,聚焦大模型定制调优、大模型服务部署和推理加速、模型管理、大模型应用开发等维度,提出能力要求,为大模型服务商和平台供应商提供能力建设参考,为应用方提供技术选型依据。
《MaaS模型即服务技术与应用要求第1部分:模型服务协议要求》(AIIA/PG 0110-2024)(以下简称“协议要求”)标准针对大模型服务供需双方签订服务协议(SLA)时涉及的模型推理性能、服务可用性、计量准确性、权责条款等方面进行了明确规范,为大模型服务提供商和使用方制定服务协议提供参考。
《MaaS模型即服务技术与应用要求第2部分 模型服务评估方法》(AIIA/PG 0173-2024)标准,以协议要求标准中的要求为基础,明确了可落地的模型服务质量评估方法,对大模型服务的质量进行多维度评估,为其是否满足SLA提供符合性评价依据,为应用方提供选型参考和质量保障。
《MaaS模型即服务技术与应用要求第3部分:模型平台》(AIIA/PG 0134-2024)标准从数据工程、模型调优、模型交付、服务运营、平台能力等角度对利用基座大模型打造专属领域模型的全栈能力进行规范,降低大模型领域化的技术门槛,提升领域模型的定制调优效率和能力。
《MaaS模型即服务技术与应用要求第4部分:模型服务平台》(AIIA/PG 0137-2024)标准从大模型推理加速、服务部署、服务测试、服务管理、服务运营等角度对将大模型服务化成API等形式的全流程能力进行规范,指导大模型服务平台供应商进行能力建设,提升大模型服务的部署效率与供给质量。
《MaaS模型即服务技术与应用要求第5部分:模型管理平台》(AIIA/PG 0193-2024)标准对企业内部模型、数据等AI资产的管理运营进行规范,同时通过使用说明、适用场景、调用方法等模型卡片要素进行明确,以促进用户使用大模型的活跃度,帮助企业以最大程度发挥大小模型协同效果。
《MaaS模型即服务技术与应用要求第6部分:模型应用开发平台》(AIIA/T 0196-2024)标准围绕基于大模型的AI应用开发全流程,从组件构建、RAG构建、智能体应用构建、应用集成和管理以及平台运营等横向维度提出规范要求,纵向维度涉及模型服务调取、AI能力嵌入、流程编排等技术要求,帮助企业快速创建私域大模型应用。