【破解算力资源利用难题，华为联合三大高校发布并开源AI容器技术】11月24日消息，近日，华为数据存储产品线发布了AI容器技术——Flex:ai，同时华为联合上海交通大学、西安交通大学与厦门大学共同宣布，将此项产学合作成果向外界开源，助力破解算力资源利用难题。当前，AI产业高速发展催生海量算力需求，但全球算力资源利用率偏低的问题日益凸显，“算力资源浪费”成为产业发展的关键桎梏：小模型任务独占整卡导致资源闲置，大模型任务单机算力不足难以支撑，大量缺乏GPU/NPU的通用服务器更是处于算力“休眠”状态，供需错配造成严重的资源浪费。本次发布并开源的Flex:ai XPU池化与调度软件，是基于Kubernetes容器编排平台构建，通过对GPU、NPU等智能算力资源的精细化管理与智能调度，实现AI工作负载与算力资源的精准匹配，可大幅提升算力利用率。该技术深度融合了三大高校与华为的科研力量，形成三大核心技术突破。针对AI小模型训推场景中“一张卡跑一个任务”的资源浪费问题，华为与上海交通大学联合研发XPU池化框架，可将单张GPU或NPU算力卡切分为多份虚拟算力单元，切分粒度精准至10%。这一技术实现了单卡同时承载多个AI工作负载，且通过弹性灵活的资源隔离技术，可实现算力单元的按需切分，“用多少，切多少”，使此类场景下的整体算力平均利用率提升30%，提高单卡服务能力。
