算力网络
立体化算力网络
庭宇构建了覆盖全国的三级算力网络——超大规模集中式算力满足高密度推理,区域算力中心缩短响应路径,分布式边缘网络实现终端用户实时交互。
GS(2024)0650号
01
算力枢纽
西部绿电基地为核心,万卡集群承载重载推理,综合成本最优
02
区域中心
京津冀/长三角/粤港澳核心城市群,就近加速,延迟 <20ms
03
边缘网络
1500+ 县市级节点,数字人/语音交互等实时场景,端侧触达
国家级算力枢纽区域算力中心分布式边缘网络
三级协同,按需调度
不同层级的算力节点承担不同的推理任务,智能调度系统根据请求特征将流量分配到最优层级。
算力枢纽
超大规模推理集群
单集群万卡级规模,承载高并发、长序列、多模态等重载推理任务。绿电直供,综合成本最优。
10亿+
日均 Tokens 吞吐
<50ms
首 Token 延迟
区域中心
就近推理加速
部署在核心城市群,缩短网络路径,为延迟敏感型业务提供加速。支持热门模型预加载和弹性扩容。
<20ms
区域内延迟
5亿+
日均 Tokens 吞吐
边缘网络
实时交互末端
1500+ 县市级节点,将轻量推理部署到离用户最近的位置。适合数字人、语音交互、实时翻译等强实时场景。
<10ms
端到端延迟
1500+
节点覆盖