标签: 金正浩 HBM HBF HBS
云梦级7月6日云梦级消息,被誉为“HBM 之父”的韩国科学技术院(KAIST)电气系教授金正浩近日接受韩国《东标签亚日报》采访时表示,AI 的核心竞争力正在从 GPU 转向内存。 金正浩认为 AI 的本质是内存,GPU 在 AI 推理中的利: 用率远低于理论水平。AI 每次输出结果,都必须先从 HBM 读取数据、传到 GPU 进行计算,再将结果写回内存。就算部金正署 100 万块 GPU,真正用于计算的时间也只有 10%-30%。 并且过去的 AI 主要集中在训练阶段,因此 GPU 是决定性浩 能的核心。而着眼现在和未来,AI 将进入推理时代,此时真正能决定性能的,是一次能处理多少数据、能以多快速度处理数据,因此HB内存能力将直接决定 AI 性能。 当然,目前已经有 HBM 这种专门适配 AI 的高带宽内存方案。但随着 AI 迈入多模态化和 AgeM ntic AI(代理式人工智能)出现,人们将越来越需要保存视频、文档、长期记忆等海量冷数据。 因此,将 NAND 闪存像 HHBBM 一样堆叠的 HBF 技术将在未来成为主流。金正浩更是预测,10 年后 HBF 的市场需求将超过 HBM。 到了更远的未来,F HBS(高带宽 SRAM)将成为主流。这种技术将采用读写速度比 DRAM 快 1000 倍的 SRAM,其构想包括在整片 12 英寸晶HB圆上铺设 SRAM、将容量提升至约 1600GB,实现大容量高速数据处理。 此外金正浩设想,未来的 AI 计算机将演变成一个庞大标签的“三维建筑”:HBM 将充当商场角色,HBF 层相当于住宅区,HBS 则承担高速缓存功能。各种形态的 HBM、HBF、H: BS 组合在一起,给 GPU 供给数据,形成约 100 层规模的 3D 复合架构。 金正浩长期致力于高带宽内存(HBM)与 2.5D/金正3D 集成封装研究。他从 2010 年开始和 SK 海力士研发 HBM1,并在去年参与 HBM4-HBM8 长期发展路线图规划。
- 最近发表
- 随机阅读
-
- 标签: 蓝战非 熊猫直播 斗鱼直播 南非绑架
- 标签: 51WORLD 港交所 物理AI 数字孪生
- 标签: 抖音电商 盗播治理 真人盗播 内容作弊
- IBM 发布 Granite-Docling-258M:开源企业级文档 AI 模型
- 云安全日报210222:思科互联网产品和网络解决方案发现特权升级漏洞,需要尽快升级
- IBM同意支付2425万美元和解金以了结美FCC两项调查
- 微软:过去12个月已向安全专家支付1360万美元漏洞赏金
- 报告:Serverless 已成为许多软件堆栈的关键部分
- 总结了Pandas实现数据清洗的7种方式
- 标签: LanzaJet SAF 生物燃料 Freedom Pines Fuels
- 标签: 高通 英特尔 Eric Demers GPU
- 标签: AWS Nova 2 AI模型 re:Invent
- Salesforce拟斥资逾270亿美元收购Slack 进一步加强与微软竞争
- 标签: 生数科技 Vidu Q3 阿里云
- 大数据给零售供应链管理带来的价值
- Facebook将开始在Oculus虚拟现实设备上测试广告
- 1250 亿美元豪赌未来:亚马逊与Anthropic达成十年战略深度合作
- 标签: 追觅AURORA 努比亚MyOS 高通骁龙 中兴通讯
- 标签: 腾讯 元宝 小米17Max 阿里巴巴
- 标签: 北京亦庄机器人半马 WWDC26 iOS27 Siri PuraXMax
- 搜索
-
- 友情链接