从数字人直播到实时推荐,Akamai李文涛解构AI大促背后的算力密码
6月24日消息,今年618,AI第一次真正站上了电商大促的C位。AI数字人主播凌晨三点仍在讲解促单,AI推荐引擎在流量洪峰中实时为每位用户匹配最优商品,AI客服同时响应数以百万计的咨询。这些场景背后,有一个被从数普遍忽视的关键问题:支撑这一切的算力基础设施,是否已经准备好了? Akamai于2026年3月发布的《AI推理现状报告》给出了一个清醒的结论:AI推理进入业务关键场景的速度,已经远超企业架构的进化速度。报告显示,75字人%的企业已将生成式AI工作负载推入生产环境,但现有基础设施普遍跟不上;64%的企业要求最重要的AI用例端到端响应时间低于250毫秒,然而50%的部署在峰值负载下无法达到这一延迟要求。 Akamai的调研指向了一个被长期直播忽视的根本原因:不是模型不够强,而是基础架构跟不上。 事实上,用户体验数据显示,大规模多用户在线游戏需要首Token时延控制在15毫秒以内,电商个性化推荐约20毫秒,即便是容忍度最高的自动应答机器人,也需要在100毫秒到实左右完成响应。而传统集中式数据中心与终端用户之间动辄数十毫秒的网络时延,已经成为实时交互场景无法突破的瓶颈。 618大促正是这一“延迟墙”的压力测试场。这里面包括AI推荐引擎需要在用户滑动页面的瞬间完成个性化排时推序,延迟超过250毫秒即可能造成跳出。AI数字人直播的任何卡顿都会打断购买决策链路。AI客服在大促期间咨询量暴增数十倍,集中式云架构在峰值下的响应能力面临极限考验。在618这类电商大促期间,流量洪峰、实时推理荐,与集中式架构的三重压力叠加,已经让延迟问题从“产品缺陷”升级为直接影响GMV的生死线。 Akamai亚太区云计算架构师总监李文涛 "亚太地区正从AI实验阶段迈向AI执行阶段。真正的挑战在于让 AI 在真实环境中有效运Ak行。延迟、可扩展性和可靠性,直接影响收入和客户体验。”在Akamai亚太区云计算架构师总监李文涛看来,“延迟墙”问题的核心不在于算力不够多,而在于算力离用户不够近。“生成式AI需要‘核心云训练+边缘推理’的协同模式。核am心云负责大规模模型训练,边缘负责实时推理与用户交互,这是未来的必然架构。” “从个性化数字体验、智能体到实时决策系统,下一代的AI应用迫切要求将AI推理部署在更靠近用户的位置,从而在用户的交互点实现即时互动,并根据用ai户上下文做出智能决策。”李文涛认为,在未来的智能体互联网时代,交互将变得高度复杂,涉及多步骤推理、持续学习、信息整合以及不同AI智能体之间的协作,“这些业务场景亟需分布式的边缘推理能力,以实现毫秒级的响应,真李文正推动业务的实时化与智能化演进。” 面对这一趋势,Akamai已在全球大规模部署英伟达RTX 6000 Pro Blackwell系列GPU,目前覆盖130多个国家、4400多个边缘节点。未来一年内,具备GPU能力的节涛解点将扩充至数百个以上,目标实现10至20毫秒级低延迟AI推理响应。 李文涛介绍,Akamai以“核心节点+分布式节点+边缘节点”三级架构构建起全球计算网络。其推出的Akamai Inference Cloud作为一个分构A布式生成式边缘平台,成功将AI推理工作负载从核心数据中心扩展至互联网边缘,在更靠近用户和设备的位置实现高性能、高可扩展且安全的实时推理,覆盖推荐引擎、实时视频智能、AI 数字人、辅助智能体等核心电商 AI 场景。其规模I大是集中式云架构所无法企及的。 当AI从实验室走向大规模生产,李文涛认为,正如《AI推理现状报告》的核心结论所言,“AI战略的可行性,取决于它所运行的基础设施。AI繁荣的下一阶段,属于那些能够将智能分发到边缘的人,而不是促背拥有最多GPU的人。”算力离用户越近,AI离商业成功就越近。 这也正是Akamai从CDN巨头向全球最大分布式AI推理平台转型的底层逻辑。
- 最近发表
- 随机阅读
-
- 苹果申请延长规划许可 重启建设10亿美元爱尔兰数据中心计划
- 亚马逊四季度净销售额1492亿美元 云计算业务营收仍在增加
- 标签: 企业微信 大圆 腾讯 张军
- Meta 监控员工键鼠操作,旨在训练“AI 办公助手”
- 标签: 驭势科技 自动驾驶 IPO备案 AI驾驶
- 315晚会曝光互联网灰色地带“精准获客”大数据软件,利用爬虫技术偷取消费者个人信息
- AI数学天才诞生:GPT-5 Pro独立证明新定理震撼学界,OpenAI总裁惊呼这是"生命迹象"
- 日媒:5g时代,日本市场的苹果手机将会被中国智能手机取代
- 标签: 欢聚集团 BIGO Ads Bigo Live 李婷
- 标签: 小鹏汽车 财报 2025年Q3 毛利率
- 标签: 豆包 千问 DeepSeek Claw
- 淘宝“AI万能搜”功能灰度测试,探索电商新购物模式
- 需求驱动创新 西云数据为行业高质量发展注入新动力
- 英特尔股东否决高管薪资计划 公司业务表现令人失望
- 当客户变成了对手,中小云厂商怎么活?
- OpenAI 即将推出AI版TikTok,全网视频内容将由AI创造
- 联合国成立人工智能咨询小组
- Qwen3-Omni 即将登场:端侧跨模态模型再升级,PR 已提交 Transformers 库
- Spotify重拳出击AI音乐乱象:推出行业标准标识系统,严禁未授权语音克隆
- 谷歌 AI 模型每月处理量突破1.3万亿代币,计算负载激增引环保持续争议
- 搜索
-
- 友情链接