AI 应用在产业庸俗落地，正在鼓舞推理需求暴涨和云基础措施升级。
在 2025 腾讯全球数字生态大会上，腾讯集团副总裁、腾讯云总裁邱跃鹏暗意，腾讯云正握住升级云基础措施，以复旧 Agent 畛域化落地和企业全球化发展。他先容，腾讯云已在推理加速、Agent Infra 和国际化布局等方面取得冲破，并将以愈加洞开的姿态，助力企业把抓时期机遇。
腾讯集团副总裁、腾讯云总裁邱跃鹏
在推理加速方面，腾讯云深入参与开源孝敬，向 DeepSeek、vLLM、SGLang 等社区提交了多项优化时刻。针对大模子推理濒临的内存瓶颈，腾讯云自研并开源 FlexKV 多级缓存时刻，大幅虚拟 KVCache 的占用，将首字时延虚拟多达 70%。
邱跃鹏暗意，腾讯云不竭深度参与并回馈开源社区，同期依托异构蓄意平台整合多种芯片资源，向外界提供高性价比的 AI 算力。咫尺，该平台已全面适配主流国产芯片。
为了支援 Agent 的大畛域应用，腾讯云推出了 Agent Runtime 处治决策，通过集成奉行引擎、云沙箱和安全可不雅测等五大智商，提供结识可靠的运转环境。其中，云沙箱基于自研时刻，启动时候只需 100 毫秒，支援数十万实例并发。
腾讯云还将 Agent 时刻应用于云基础措施，推出的众人作事智能体 Cloud Mate，显赫晋升了架构治理和故障排查遵守。在里面实际中，Cloud Mate 结束风险 SQL 阻挠率 95%，排障时候从 30 小时镌汰至最快 3 分钟。
在全球商场，腾讯云不竭晋升自研家具的性能和可靠性。星星海作事器部署已超 2 亿核，旗舰 SA9 在高密时刻不竭冲破，单机核数达到 768 核。私有云 TCE 结束 2 分钟级的 RTO，近金融六级容灾模范。
腾讯云还发布全新架构数据库 TDSQL Boundless，兼具易用性与高并发智商，并通过 AI 优化器在复杂查询中将时延虚拟未必以上。
腾讯云基础措施已掩饰全球 55 个可用区，部署 3200 多个加速节点，为上万款游戏提供安全防御，在当年一年抗击了同比增长 183% 的 DDoS 挫折。
此外，腾讯云还为中小企业和开采者提供了浅显的出海器具。比如，EdgeOne Pages 迎阿 AI 编程，几分钟就能搭建电商网站。低代码直播组件也大幅镌汰了开采周期。
腾讯云加速国际化布局，并规划在日本大阪和沙特新建可用区，咫尺全球还是诞生 9 个时刻支援中心，并得回 400 多项专科认证。
本年，依托适配全球时刻生态的家具智商和腹地化作事，腾讯云完成印尼版"滴滴 + 好意思团"超大畛域移动，流程中仅用 5 个月建成印尼第三可用区。
邱跃鹏临了暗意，腾讯云将不竭加大在时刻改造和全球化布局上的参加，匡助中国企业稳妥出海，同期也为全球企业提供安全、可靠、智能的云作事。
以下为演讲全文：
尊敬的诸君诱惑、诸君嘉宾、媒体一又友：
全球上昼好！我是邱跃鹏。
大模子产业重点从磨真金不怕火到推理的转动，还是成为行业共鸣。从腾讯本人的实际，咱们也看到了相似的趋势，同期客户关于使用大模子和成立 Agent 迸发出浓烈关爱，这齐带来了推理需求的暴涨。从 IDC 推敲公司的数据不错看到，Agent 也将进一步鼓舞推理需求的爆发。这也意味着，咱们的 AI 基础措施，也要同步升级。
底下想和全球沿途探讨若何通过 AI Infra 的升级，来加速 Agent 的畛域化落地。
从时刻角度来看，开源社区与推理相关的时刻范式正在快速迭代。腾讯在推理加速上一直有相配多的积聚，咱们积极参与到社区孝敬中，共建推理加速时刻生态。
本年 2 月，DeepSeek 连气儿开源了五大代码库，为社区注入了前所未有的活力。其中，专注 GPU 通讯的 DeepEP，与咱们经久积聚的 TRMT 时刻标的高度契合。咱们在此基础上优化了 DeepEP，使其在 IB 收集性能晋升了 30%，在数据中心常用的 RoCE 收集环境中性能更是翻倍。DeepSeek 在社区公开致谢，并用" huge speedup "描述此次孝敬。
第二个重点是 KV Cache 优化。跟着大模子参数畛域激增，推理对显存的需求急剧高涨。同期，智能客服、代码助手等场景，对高下文长度的条款握住膨胀，导致推理流程中产生的 KV Cache 线性增长，GPU 显存成为瓶颈。对此，咱们将 KV Cache 逐层缓存至内存、SSD 及云表膨胀存储，充分运用总计这个词推理集群节点上的存储资源，以及外置膨胀资源，以存换算，提高性价比和系统婉曲，并极大虚拟 TTFT 等蔓延操办。
为了处治分离式 KV Cache 和多级缓存的良好治理，并建起推理引擎到云存储的桥梁，咱们研发并郑重开源了 FlexKV。在驰名 SSD 厂商"群联电子"的测试中，FlexKV 将首字时延最高虚拟 70%，对话时延虚拟 57%。
推理框架优化关于晋升推理遵守也相配热切。围绕用户体验、资本适度和应用拓展，咱们孝敬了多项中枢时刻，补充到了不同社区框架中。
举例，咱们集成了多 token 迎阿展望 ( MTP ) 时刻，让模子一次运算生成多个 token，将生成速率晋升了 35%。咱们还匡助社区买通了防卫力数据并行 ( Attention DP ) 功能，将婉曲量晋升了 30%。
此外，通过集成 MoE-Chunk 时刻，得胜使推理框架能够处理超过 256K 的超长输入，使其在长文档分析、复杂代码生成等场景中也能保持高效。
这些收尾背后，是腾讯软硬件协同全栈优化的经久计谋参加，腾讯长久相持积极参与和回馈开源社区，并通过腾讯云异构蓄意平台的软件智商，整合不同类型的芯片，对外提供高性价比的 AI 算力，咫尺咱们还是全面适配主流的国产芯片。
当 Agent 从前沿时刻走向企业分娩环境，若何确保其在一个安全着实的环境中高效运转成为新的挑战。为此，咱们推出了全新的 Agent infra 处治决策—— Agent Runtime。
它集成了奉行引擎、云沙箱、高下文作事、网关、安全可不雅测作事等多项家具和智商。不错说，Agent Runtime 为 Agent 提供了坚实可靠的"手"和"脚"，以及至关热切的安全掩饰云表奉行环境，真确买通了 Agent 从时刻到应用的临了一公里。
比如全球最关注的沙箱时刻。云沙箱是 Agent Runtime 的中枢组件，基于自研的 Cube 沙箱时刻，通过"运转时快照"、"资源预创建池化"等多种时刻技能，结束了 100 毫秒的极速启动，并能支援数十万 Agent 实例同期并发，这意味着 Agent 无需恭候，随时不错参加使用，具备颠倒的资源弹性和秒级诊疗智商。
云沙箱也支援多种纯的确接入时势，无论通过 MCP、SDK 照旧 API，齐能快速集成，欢娱不同行务场景的需求。咱们还提供了全所在的安全保险，包括严格的身份权限治理和数据安全防御，确保每一个 Agent 齐能在一个安全着实的环境中高效运转。
除了面向 Agent 升级基础措施，咱们也在念念考若何将 Agent 智商应用在客户的云上旅程，匡助客户更好的用云、管云，很兴奋向全球先容腾讯云的众人作事智能体—— Cloud Mate。
Cloud Mate 由一系列凝华了各个云上领域陶冶的子 Agent 组成，它不单是是一项时刻，更是腾讯云海量实际的汇总，能够可视化治理云上架构、前置阻挠风险，并大幅晋升问题处理遵守，改变咱们治理云的时势。
在云上架构治理方面，具备 Agent 智商的智能参谋人就像一个万能的数字架构师，不错无缝集成超过 90% 的腾讯云家具，对总计这个词云上架构进行全面感知和可视化。
举例，在新游上线前必作念的重保演练，它能将总计这个词周期从原本的 1 周镌汰至 1 天，咫尺，腾讯云智能参谋人还是为云上客户提供，超过 100 万次的智能架构治理作事，是真偶合得信托的云上伙伴。
在风险稳重场景，慢查询或低效 SQL 是经久困扰开采与 DBA 的难题，这种业务代码一向上线，可能严重拖慢数据库性能，致使导致作事宕机。
Cloud Mate 相配擅长数据库业务，能够深入到代码模范，在开采提叮属码前，自动进行风险检测与阻挠，从泉源保险线上数据库的安全结识。从里面实际看，Cloud Mate 对风险 SQL 的阻挠率高达 95%，累计检测了超过 770 万行代码。
在排障方面，Cloud Mate 带来的改变尤为显赫。当客户云上业务系统日益复杂时，若何快速定位问题，是一个浩瀚的挑战。当年，处治一个复杂问题平均需要 30 小时以上，况且高度依赖于个东说念主陶冶和手动操作。
而当今，通过 Cloud Mate 遒劲的自动化和并行编排智商，咱们能够将平均排障时候，从小时级镌汰至分钟级，最快仅需 3 分钟。Cloud Mate 能够自动奉行会诊器具链，并行处理多个任务，极地面晋升了运维遵守，让故障定位不再是难题。
除了智能化升级除外，企业全球化的趋势也势不能挡。
咱们不竭打磨家具质能，通过坚实的基础措施成立，助力客户在全球范围拓展业务。
腾讯云自研的星星海作事器从 SA5 到 SA9 不竭迭代，通过硬件架构改造，在有限空间内，最大化晋升蓄意密度与能效，旗舰 SA9 单机规格，从前一代的 512 核进一步晋升到 768 核，星星海作事器咫尺在全球累计部署核数超过 2 亿，为客户不竭提供结识可靠的蓄意智商。
咱们还推出了新一代架构的 TDSQL 数据库， 让分离式数据库像单机 MySQL 一样好用，同期享受到单机数据库的易用性，以及分离式数据库的海量存储与高并发智商，具备无尽的 TP 膨胀性与轻量 AP 智商。 同期，咱们还将 AI 和数据库的优化器迎阿，在复杂查询场景下，总时延能下跌 80% 以上。
私有云 TCE 在国内务企客户中备受好评，当咱们推向国际商场，"高可用性"也得到了国际客户的细目。咱们不竭晋升 TCE 容灾切换的一致性、准确性和及时性，咫尺还是达到 RTO 2 分钟级别，具备近金融 6 级的容灾智商。
游戏体验的长远性、结识性和安全性，平直决定着一款家具能否得胜走向全球。在本年 Omdia 的论述中，咱们与 AWS、Google、Microsoft 等企业，一同被评为全球游戏云平台的诱惑者。
为了让宏构游戏齐能高效进入全球商场，咱们握住打磨基础措施的健壮性。咫尺，咱们的作事已掩饰全球 55 个可用区，领有超过 3200 个加速节点，确保游戏能够以极低的蔓延触达全球玩家。咱们还为全球超过 1 万款游戏添砖加瓦，得胜抗击的 DDoS 挫折次数同比增长了 183%，为游戏的闲隙运营筑起了坚实的防地。同期，咱们通过 WeTest 和 ACE 等一系列家具，为游戏开采者提供全所在的测试与安全作事，匡助他们在游戏上线前，就绝对排斥潜在隐患。
以韩国头部头部游戏集团 Com2uS 为例，他们不仅是得胜的游戏开采商，更打造了面向开采者的游戏后端作事平台 Hive。借助腾讯云 40 多款云家具的复旧，Hive 构建了上百个游戏开采和部署组件，并被 90 多家游戏公司接入使用，得胜复旧了 250 款游戏上线，作事全球超过 9 亿游戏玩家。本年，他们准备从亚太出发，进一步难过北好意思商场，而腾讯云依然是他们最信托的合作伙伴。
咱们与创梦寰宇的合作也不竭深化。他们的全新游戏《卡拉彼丘》在全球刊行后，不到 2 小时就登顶 Steam 名次榜榜首，背后恰是咱们 WeTest、大模子作事等智商保险的收尾，大幅晋升了游戏质地优化和多谈话舆情处置的遵守，让创梦寰宇能够愈加专注于中枢业务，拥抱全球商场。
面向 AI 时期，咱们不竭升级家具，助力客户轻佻进入低门槛的开采新时期。EdgeOne 是咱们面向国际商场推出的下一代安全加速家具，本年咱们进一步将大模子与 MCP Server 迎阿，推出了 EdgeOne Pages，当用户使用 Codebuddy、Cursor、VScode 等 AI 编程器具时，不错浅显调用 EdgeOne Pages 的 MCP，在几分钟内完成涵盖注册、支付、加速和安全防御的竣工电商网页部署。家具上线三个月，已助力超过 10 万用户走向全球商场，成为中小企业和零丁开采者的出海首选平台。
若是客户但愿进一步丰富家具的互动智商，咱们提供低代码、模块化的互动直播组件，迎阿咫尺市面上主流的 AI 编程器具，不错将开采周期从月级压缩至天级，同期支援千万级畛域的单房间直播。组件上线半年以来，客户数增长超 300% 。
咱们致力于通过"边加端"的 AI 举座决策，以极低门槛和极快速率，将改造目的落地为全球家具，开释开采者的分娩力。
家具时刻的升级，也能让腾讯云的用户更缓慢搪塞全球化复杂场景，尤其是瞬时流量洪峰。
当年一年，咱们得胜护航了多个高并发场景。举例，腾讯云闲隙复旧了国度级大型算作的直播，复旧了全球超过 8000 万不雅众同期在线不雅看，直播平台全程无卡断。咱们还支援并保险了亚太地区超过一半的正版英超直播。其中的智能媒体处理时刻，为客户结束了提质增效，保险了音视频全链路的长远体验。
在安全防御方面，腾讯云的防御容量比拟前年增长了 70%，达到了 25T，带宽储备增长 100%，达到 400T。在作事某头部潮玩企业火爆发售的流程中，咱们得胜搪塞了全球业务十倍级的流量突发，并通过 AI 及时防刷引擎，将岑岭时段黑产比例从 80% 大幅压缩到 0.2% 。
腾讯云在国外完善的基础措施和腹地化作事，也在诱惑越来越多的国外腹地企业跨云移动。印尼 GoTo 即是一个典型案例：
GoTo 是东南亚最大的科技集团，归并了印尼两大独角兽企业——负责即时配送和出行作事的 Gojek 和电商平台 Tokopedia。腾讯云负责的 Gojek 业务，是这场移动中复杂度最高的部分，十分于把印尼的"滴滴 + 好意思团"云上搬家。
咱们面对的，是一个超大体量的平台：领有超过 1 亿的注册用户， 治理着超过 10000 台云主机、730 多个数据库实例和 1000 多个微作事。同期，其系统极其复杂 ：四大中枢业务线、九个工程子系统，模块间高度耦合。这无疑是一个世界级的云业务移动挑战。
面对如斯复杂的时势，团队驻守雅加达现场，与 GoTo 紧密互助：高效完成了 500 多项定制化需求委用，让客户 50 多个家具模块在移动前后的体验和功能无缝延续。为了确保万无一失，进行了 5 轮全链路演练，制定了 20 多项救急预案。
更值得一提的是，为了欢娱 GoTo 的高可用需求，咱们仅用 5 个月就在印尼建成了第三个可用区，为移动提供了坚实的腹地基础措施保险。
当年一年，是腾讯云在国外快速发展的一年。咱们在日本大阪和沙特新建了可用区，并已在全球范围内诞生 9 个时刻支援中心，不竭为腹地客户提供颠倒作事。同期，咱们通过了 400 多项专科认证，为企业在安全合规的前提下稳妥前行添砖加瓦。
全球化商场充满挑战，也赋存着无尽机遇。关于正在或行将出海的中国企业而言，若何四平八稳、因地制宜，收拢 AI 时刻海浪驱动改造提效，是每一步齐需要郑重念念考的课题。
腾讯云愿以塌实的准备和洞开的心态，匡助全球企业用好云，随同中国企业走得更稳、更远。
谢谢全球kaiyun.com。