日前,由中国乘方科技(北京)有限公司研发的全球首个分布式AI智能算力调度服务平台——“算纽”算联网上线试运行。
“算纽”算联网平台整合全球GPU资源,向用户提供智能化、高效的算力调度服务。
首先,算联网创新了算力资源配置模式。算纽通过将算力需求方与未充分利用的GPU资源连接,实现资源优化配置。用户可低成本获取GPU算力,GPU资源提供者也可通过该平台实现快速交易与资源共享。
其次,算纽打破了以往算力调度技术模式。算纽打破了传统算力中心和云调度的模式,采用去中心化的分布式技术,契合了用户对高效、低成本去中心化解决方案的需求。
最后,算纽算联网的核心技术取得突破。算纽将大模型进行纵横切割并分布到80个GPU进行处理的分层压缩技术,实现了高颗粒度的智算调度,避免了资源浪费,降低算力租赁成本达90%。
乘方科技CTO Ming博士指出:“我们的目标是让AI普及化,使原本需要大型智算中心完成的大模型推理,在分布式环境下的普通设备上也能实现。”算纽的智算云网、并联计云、灵动集算、网融智算、群芯云算等创新技术实现了智能分配算法、高扩展性、高效调度、容错恢复及灵活配置。
作为算纽核心技术的分布式运算引擎有效应对智能算力供需失衡问题。通过智能算力管理体系,算纽能够调度中小规模的GPU资源,完成百万、千万乃至亿级别的任务分发和资源供给,解决了智能算力短缺的痛点。
专家认为,算联网有望缓解国内智算GPU供给紧张的局面。算联网与国家一体化算力调度平台将形成互补关系,有望成为推动中国算力产业格局重塑及提升国际竞争力的关键力量。
算纽的上线预示着智能算力供需将进入高效平衡、便捷获取、普惠大众的算联网时代。算纽能否引领智能算力新时代发展,助推全球智算产业变革,值得期待。