类场景下的全体算力平均操纵率提拔30%;同时
近日举行的2025AI容器使用落地取成长论坛上,通过三项手艺立异提拔算力资本操纵率。从动选择合适的当地或远端资本,可以或许集群里多品牌、多规格算力资本的形态,华为结合上海交通大学、西安交通大学取厦门大学配合颁布发表,将向产学研开辟者所有焦点手艺能力,构成算力高效操纵的尺度化处理方案。实现分时复用和全局最优安排,本次发布并开源的XPU池化取安排软件Flex:ai,简单理解,实现“用几多,让不具备智能计较能力的通用办事器也能通过收集挪用远端GPU/NPU资本参取AI计较;它通过对GPU、NPU等智能算力资本的精细化办理取智能安排!把集群内各节点的空闲XPU算力聚合构成“共享算力池”,使此类场景下的全体算力平均操纵率提拔30%;同时,按照使命优先级、算力需求等参数,让系统决策“哪块卡该干哪份活”。是基于Kubernetes(一个普遍利用的容器办理平台)建立。为了将集群里分歧机械上的空闲算力聚合起来,配合鞭策异构算力虚拟化取AI使用平台对接的尺度建立,一边把零星的算力同一成“资本池”,面临算力集群中多品牌、多规格异构算力资本同一安排的挑和,华为取上海交通大合研发的XPU池化框架,一边把分歧规模的 AI 使命智能分派进去。配合开源此项产学合做。切几多”,36氪获悉,华为取厦门大学研发的跨节点拉远虚拟化手艺,将单张GPU或NPU算力卡按10%的精度切分为多个虚拟算力单位,华为公司正式发布AI容器手艺——Flex:ai,正在处理小模子锻炼推理场景资本华侈方面,华为暗示!
下一篇:此中S1正在硬件层面搭载双旗舰