高通推出人工智能芯片pk英伟达,昨晚股价一度冲了20%……但大家先别激动——人工智能芯片有一个很重要的东西是单卡内存,高通这个卡是768GB,比英伟达最新的GB300多了近500GB,这才是关键。
高通这两款芯片是:AI200明年商用,AI250要等2027年,全用的自家NPU技术,重点是内存用的LPDDR,成本比英伟达的HBM3e低,容量翻了倍,跑大型语言模型或多模态任务时不用频繁调数据,效率和性价比应该都可以。
另外AI250搞了个近存储计算架构,说内存带宽能提10倍,还能降功耗,机架用直接液冷,单机柜扛160千瓦功耗,扩展也方便。
其实和英伟达不完全是一个路子,英伟达是训练推理通吃,靠GPU生态垄断市场,从硬件到软件一套全,适合需要大规模训练AI模型的场景。
高通主要是推理市场,用大内存和低功耗打差异化,不跟英伟达正面拼训练,而是搞CPU和英伟达GPU协同的混合架构,避开生态短板,毕竟和英伟达这种先入市场的全能高手很难直接竞争,还不如从一个细分领域开始切入……
人工智能[超话]AI[超话]芯片ai人工智能英伟达[超话]


