点击上方“Deephub Imba”,关注公众号,好文章不错过 !在生产环境部署过LLM的人都知道模型权重只是问题的一半，另一半是KV ...

研究团队经过严格的带宽分析证明，在常见的预填充和解码节点配比下，DualPath在使存储网卡带宽饱和的同时，计算网卡的带宽也不会成为新的瓶颈，能够覆盖绝大部分实际部署场景。

随着大模型在企业场景中的快速落地，AI 推理系统正面临新的基础设施挑战。上下文长度不断增长、用户并发请求数量快速上升，使得传统 GPU 显存架构逐渐成为制约推理效率的关键瓶颈。如何通过系统架构优化释放算力潜力，保证推理性能与控制成本，已成为企业掘金 AI 商机的核心命题。 近日，开放数据中心委员会（ODCC）在 NVIDIA、美团、三星、Solidigm 等产业链领军企业支持下成立的 AI 存储实 ...

国数集联“小显存、大模型”方案，对中小企业AI本地化应用的价值是多维度的，不仅大幅降低硬件采购成本，更在部署灵活性、运维简便性上实现优化，真正让AI技术能够走进更多中小企业。

在目前流行的预填充-解码分离系统中，命中token的KV缓存完全由预填充引擎直接从远程存储加载。这种设计将所有存储I/O压力集中在预填充端的网卡上，而解码引擎端的网卡则基本处于空闲状态。

【TechWeb】2月27日消息，就在外界翘首期盼DeepSeek-V4大模型发布之际，DeepSeek团队再次带来了一份技术惊喜。 DeepSeek联合北京大学、清华大学发布了一篇题为《DualPath: Breaking the Storage Bandwidth Bottleneck in Agentic LLM Inference》的论文，提出了一种创新的推理系统架构，直指当前大语言模型在 ...

据多家权威研究机构最新研判，2026 年 核心存储供应链的结构性短缺已成行业刚性现实，供需缺口持续扩大且很可能延续至 2027 年。不仅是存储部件的单点问题，当前，生成式 AI 正从技术尝鲜全面走向规模化落地，大模型技术的应用场景正在从训练为主转向 ...

TL;DR: Intel's cancelled Battlemage GPUs featured innovative 3D-stacked Adamantine cache, promising enhanced performance similar to AMD's Infinity Cache. Despite ambitious designs with up to 40 Xe2 ...

CHATSWORTH, Calif. — July 18, 2025 DDN today unveiled performance benchmarks that the company said demonstrates how its AI-optimized DDN Infinia platform eliminates GPU waste and delivers the fastest ...

Qualcomm‘s next flagship mobile processor, the Snapdragon 8 Gen 4, is expected to launch later this year, and rumors regarding its features are picking up steam. A new leak by Weibo tipster Digital ...