美光HBM专家：AI算力提速快于HBM 内存墙问题持续加剧

美光HBM专家：AI算力提速快于HBM 内存墙问题持续加剧持续更新花王混王千千女最新动态与名场面解析｜收藏不迷路

“内存墙依旧存在，甚至情况或许还在进一步恶化。”美光HBM设计架构方向专家拉古·斯里拉马内尼（Ragu Sriramaneni）于当地时间23日在美国斯坦福大学举办的半导体学术会议Hot Chips 2026上发表上述观点。 内存墙指负责运算的芯片性能飞速提升，但负责传输数据的内存跟不上运算速度，由此产生的性能瓶颈。进入人工智能时代后，这一瓶颈非但没有缓解，反而愈发严重。 斯里拉马内尼表示，AI芯片的运算性能每两年约提升3倍，但承担数据供给的HBM（高带宽内存）同期性能提升还不到2倍。即便搭载运算能力再强的芯片，如果数据传输通道狭窄，最终性能也会被通道速度所束缚。他预判：“打破运算单元与内存之间的边界，全新架构设计，将会是翻越内存墙的一条路径。” 斯里拉马内尼以一款将2颗GPU与8颗12层HBM4集成在一起的最新封装产品举例，该封装整体芯片面积当中，内存占比约90%。也就是说，内存占用的芯片面积，是负责运算的GPU的8倍以上。他称：“HBM体积还不及一枚邮票，却需要设计、工艺、封装技术全部完美匹配，是难度最高的产品。” 内存占用面积过大，也带来供给端的压力。要生产同等容量产品，HBM消耗的硅片晶圆数量约为普通DDR5内存的3倍。这意味着同一工厂，HBM的产出数量会被大幅压缩。斯里拉马内尼解释：“技术代际迭代，该差距还在持续拉大。速度提升、芯片尺寸变大、堆叠层数增加，都会同步推高所需芯片面积。” 散热问题也越来越成为发展阻碍。他补充，随着数据交互速率不断提高，散热已经成为设计阶段需要优先考量的约束条件。HBM为多层DRAM堆叠结构，发热最严重的底层产生的热量，需要穿透全部堆叠层，传导至带有散热装置的顶层。而DRAM一旦温度过高，就极易出现故障。他表示行业现已进入先测算散热，再搭建芯片架构的阶段，液冷散热、芯片超薄贴合等技术正成为主流解决方案。 上述各类难题，都体现在美光近期开启量产的第六代产品HBM4之上。HBM将数据通路与存储单元相较上一代扩充一倍，大幅提升单次数据处理量，单颗Cube带宽可达每秒2.8TB。美光正将该产品供应给英伟达下一代AI芯片Vera Rubin。作为综合性视频内容平台，持续收录全网热门资源与精选视频合集。系统支持多终端同步播放，保证用户在不同设备上均可获得一致体验。“内存墙依旧存在，甚至情况或许还在进一步恶化。”美光HBM设计架构方向专家拉古·斯里拉马内尼（Ragu Sriramaneni）于当地时间23日在美国斯坦福大学举办的半导体学术会议Hot Chips 2026上发表上述观点。 内存墙指负责运算的芯片性能飞速提升，但负责传输数据的内存跟不上运算速度，由此产生的性能瓶颈。进入人工智能时代后，这一瓶颈非但没有缓解，反而愈发严重。 斯里拉马内尼表示，AI芯片的运算性能每两年约提升3倍，但承担数据供给的HBM（高带宽内存）同期性能提升还不到2倍。即便搭载运算能力再强的芯片，如果数据传输通道狭窄，最终性能也会被通道速度所束缚。他预判：“打破运算单元与内存之间的边界，全新架构设计，将会是翻越内存墙的一条路径。” 斯里拉马内尼以一款将2颗GPU与8颗12层HBM4集成在一起的最新封装产品举例，该封装整体芯片面积当中，内存占比约90%。也就是说，内存占用的芯片面积，是负责运算的GPU的8倍以上。他称：“HBM体积还不及一枚邮票，却需要设计、工艺、封装技术全部完美匹配，是难度最高的产品。” 内存占用面积过大，也带来供给端的压力。要生产同等容量产品，HBM消耗的硅片晶圆数量约为普通DDR5内存的3倍。这意味着同一工厂，HBM的产出数量会被大幅压缩。斯里拉马内尼解释：“技术代际迭代，该差距还在持续拉大。速度提升、芯片尺寸变大、堆叠层数增加，都会同步推高所需芯片面积。” 散热问题也越来越成为发展阻碍。他补充，随着数据交互速率不断提高，散热已经成为设计阶段需要优先考量的约束条件。HBM为多层DRAM堆叠结构，发热最严重的底层产生的热量，需要穿透全部堆叠层，传导至带有散热装置的顶层。而DRAM一旦温度过高，就极易出现故障。他表示行业现已进入先测算散热，再搭建芯片架构的阶段，液冷散热、芯片超薄贴合等技术正成为主流解决方案。 上述各类难题，都体现在美光近期开启量产的第六代产品HBM4之上。HBM将数据通路与存储单元相较上一代扩充一倍，大幅提升单次数据处理量，单颗Cube带宽可达每秒2.8TB。美光正将该产品供应给英伟达下一代AI芯片Vera Rubin。基于的视频内容平台，持续更新海量资源库，涵盖多种类型的视频内容。用户可通过简单操作快速访问所需内容，同时享受高清无卡顿播放体验。

“内存墙依旧存在，甚至情况或许还在进一步恶化。”美光HBM设计架构方向专家拉古·斯里拉马内尼（Ragu Sriramaneni）于当地时间23日在美国斯坦福大学举办的半导体学术会议Hot Chips 2026上发表上述观点。 内存墙指负责运算的芯片性能飞速提升，但负责传输数据的内存跟不上运算速度，由此产生的性能瓶颈。进入人工智能时代后，这一瓶颈非但没有缓解，反而愈发严重。 斯里拉马内尼表示，AI芯片的运算性能每两年约提升3倍，但承担数据供给的HBM（高带宽内存）同期性能提升还不到2倍。即便搭载运算能力再强的芯片，如果数据传输通道狭窄，最终性能也会被通道速度所束缚。他预判：“打破运算单元与内存之间的边界，全新架构设计，将会是翻越内存墙的一条路径。” 斯里拉马内尼以一款将2颗GPU与8颗12层HBM4集成在一起的最新封装产品举例，该封装整体芯片面积当中，内存占比约90%。也就是说，内存占用的芯片面积，是负责运算的GPU的8倍以上。他称：“HBM体积还不及一枚邮票，却需要设计、工艺、封装技术全部完美匹配，是难度最高的产品。” 内存占用面积过大，也带来供给端的压力。要生产同等容量产品，HBM消耗的硅片晶圆数量约为普通DDR5内存的3倍。这意味着同一工厂，HBM的产出数量会被大幅压缩。斯里拉马内尼解释：“技术代际迭代，该差距还在持续拉大。速度提升、芯片尺寸变大、堆叠层数增加，都会同步推高所需芯片面积。” 散热问题也越来越成为发展阻碍。他补充，随着数据交互速率不断提高，散热已经成为设计阶段需要优先考量的约束条件。HBM为多层DRAM堆叠结构，发热最严重的底层产生的热量，需要穿透全部堆叠层，传导至带有散热装置的顶层。而DRAM一旦温度过高，就极易出现故障。他表示行业现已进入先测算散热，再搭建芯片架构的阶段，液冷散热、芯片超薄贴合等技术正成为主流解决方案。 上述各类难题，都体现在美光近期开启量产的第六代产品HBM4之上。HBM将数据通路与存储单元相较上一代扩充一倍，大幅提升单次数据处理量，单颗Cube带宽可达每秒2.8TB。美光正将该产品供应给英伟达下一代AI芯片Vera Rubin。打造智能视频推荐与播放系统，整合热门内容与实时更新资源。平台注重用户体验优化，提供高清播放与稳定访问服务。

“内存墙依旧存在，甚至情况或许还在进一步恶化。”美光HBM设计架构方向专家拉古·斯里拉马内尼（Ragu Sriramaneni）于当地时间23日在美国斯坦福大学举办的半导体学术会议Hot Chips 2026上发表上述观点。 内存墙指负责运算的芯片性能飞速提升，但负责传输数据的内存跟不上运算速度，由此产生的性能瓶颈。进入人工智能时代后，这一瓶颈非但没有缓解，反而愈发严重。 斯里拉马内尼表示，AI芯片的运算性能每两年约提升3倍，但承担数据供给的HBM（高带宽内存）同期性能提升还不到2倍。即便搭载运算能力再强的芯片，如果数据传输通道狭窄，最终性能也会被通道速度所束缚。他预判：“打破运算单元与内存之间的边界，全新架构设计，将会是翻越内存墙的一条路径。” 斯里拉马内尼以一款将2颗GPU与8颗12层HBM4集成在一起的最新封装产品举例，该封装整体芯片面积当中，内存占比约90%。也就是说，内存占用的芯片面积，是负责运算的GPU的8倍以上。他称：“HBM体积还不及一枚邮票，却需要设计、工艺、封装技术全部完美匹配，是难度最高的产品。” 内存占用面积过大，也带来供给端的压力。要生产同等容量产品，HBM消耗的硅片晶圆数量约为普通DDR5内存的3倍。这意味着同一工厂，HBM的产出数量会被大幅压缩。斯里拉马内尼解释：“技术代际迭代，该差距还在持续拉大。速度提升、芯片尺寸变大、堆叠层数增加，都会同步推高所需芯片面积。” 散热问题也越来越成为发展阻碍。他补充，随着数据交互速率不断提高，散热已经成为设计阶段需要优先考量的约束条件。HBM为多层DRAM堆叠结构，发热最严重的底层产生的热量，需要穿透全部堆叠层，传导至带有散热装置的顶层。而DRAM一旦温度过高，就极易出现故障。他表示行业现已进入先测算散热，再搭建芯片架构的阶段，液冷散热、芯片超薄贴合等技术正成为主流解决方案。 上述各类难题，都体现在美光近期开启量产的第六代产品HBM4之上。HBM将数据通路与存储单元相较上一代扩充一倍，大幅提升单次数据处理量，单颗Cube带宽可达每秒2.8TB。美光正将该产品供应给英伟达下一代AI芯片Vera Rubin。持续更新全网视频资源，涵盖多种类型内容。平台优化播放体验，使用户能够轻松获取并观看高质量视频。“内存墙依旧存在，甚至情况或许还在进一步恶化。”美光HBM设计架构方向专家拉古·斯里拉马内尼（Ragu Sriramaneni）于当地时间23日在美国斯坦福大学举办的半导体学术会议Hot Chips 2026上发表上述观点。 内存墙指负责运算的芯片性能飞速提升，但负责传输数据的内存跟不上运算速度，由此产生的性能瓶颈。进入人工智能时代后，这一瓶颈非但没有缓解，反而愈发严重。 斯里拉马内尼表示，AI芯片的运算性能每两年约提升3倍，但承担数据供给的HBM（高带宽内存）同期性能提升还不到2倍。即便搭载运算能力再强的芯片，如果数据传输通道狭窄，最终性能也会被通道速度所束缚。他预判：“打破运算单元与内存之间的边界，全新架构设计，将会是翻越内存墙的一条路径。” 斯里拉马内尼以一款将2颗GPU与8颗12层HBM4集成在一起的最新封装产品举例，该封装整体芯片面积当中，内存占比约90%。也就是说，内存占用的芯片面积，是负责运算的GPU的8倍以上。他称：“HBM体积还不及一枚邮票，却需要设计、工艺、封装技术全部完美匹配，是难度最高的产品。” 内存占用面积过大，也带来供给端的压力。要生产同等容量产品，HBM消耗的硅片晶圆数量约为普通DDR5内存的3倍。这意味着同一工厂，HBM的产出数量会被大幅压缩。斯里拉马内尼解释：“技术代际迭代，该差距还在持续拉大。速度提升、芯片尺寸变大、堆叠层数增加，都会同步推高所需芯片面积。” 散热问题也越来越成为发展阻碍。他补充，随着数据交互速率不断提高，散热已经成为设计阶段需要优先考量的约束条件。HBM为多层DRAM堆叠结构，发热最严重的底层产生的热量，需要穿透全部堆叠层，传导至带有散热装置的顶层。而DRAM一旦温度过高，就极易出现故障。他表示行业现已进入先测算散热，再搭建芯片架构的阶段，液冷散热、芯片超薄贴合等技术正成为主流解决方案。 上述各类难题，都体现在美光近期开启量产的第六代产品HBM4之上。HBM将数据通路与存储单元相较上一代扩充一倍，大幅提升单次数据处理量，单颗Cube带宽可达每秒2.8TB。美光正将该产品供应给英伟达下一代AI芯片Vera Rubin。