本地大模型推理正在走进消费与边缘终端，AIPC、AIBOX等设备不再只依靠云端算力，而是尝试在本地完成模型运算。大模型运行对内存带宽、容量提出严苛要求，模型权重、KVCache的持续读写，让传统内存架构面临不小挑战。中国存储品牌江波龙面向端侧AI场景，推出AIDIMM™与AILPBGA™两款高带宽内存产品，AIDIMM™主要面向智能体主机、AI PC等可插拔高带宽内存场景；AILPBGA™主要面向空间受限的嵌入式AI及便携推理终端，为本地部署70B及更大参数大模型提供高带宽内存支持。

AIDIMM™：可插拔高带宽内存，助力AI PC承载70B大模型

AI PC作为个人端侧AI的主要载体，用户希望在本地运行大模型，完成文档总结、内容创作、多轮对话等任务。但大模型推理时，海量参数需要在内存与算力单元之间高速流转，带宽不足很容易出现响应缓慢、上下文丢失等问题。

AIDIMM™是面向AI PC、智能体主机的可插拔式AI内存模组，采用256bit大位宽设计，最高带宽可达307.2GB/s，最大容量支持128GB。凭借高带宽与大容量特性，单条64GB AIDIMM™即可稳定支撑70B、80B、122B中大模型本地推理。AIDIMM™采用易插拔设计，并搭载高针脚高速专用连接器，可兼容主流智能体主机主板架构，无需大规模重构硬件，降低AI PC产品的开发成本。在多轮长对话场景下，高带宽可以持续稳定传输模型参数与KVCache，减少推理延迟，改善端侧AI模型的交互流畅度，让普通AIPC也具备本地运行大参数模型的能力。

AILPBGA™小体积高性能，适配AI BOX等嵌入式AI场景

AI BOX这类紧凑型边缘终端，空间、功耗约束更强，难以搭载常规DIMM内存，这也是嵌入式AI落地的一大难点。江波龙AILPBGA™采用22×22mmBGA紧凑封装，同样拥有256bit位宽与最高307GB/s带宽，容量覆盖24GB至64GB，兼容标准LPDDR接口。

不需要重新设计SoC架构，设备厂商就能快速把这款高性能内存集成进AI BOX、边缘推理盒子等小型终端。相比普通LPDDR产品，AILPBGA™在带宽与容量上有明显提升，同时兼顾低功耗，减少整机发热，适配长时间持续推理的场景。对于嵌入式AI设备来说，它在有限空间内补齐内存带宽短板，为紧凑型嵌入式AI设备部署中轻量至中大型模型提供高带宽内存选择，实现本地AI推理，不必全程依赖云端。

AIDIMM™和AILPBGA™形成差异化产品矩阵，覆盖不同形态终端的内存需求。半导体存储品牌企业江波龙通过两款高带宽内存产品，解决端侧大模型部署中内存带宽、容量、体积之间的矛盾，让70B甚至更大参数模型能够在更多本地终端稳定运行。随着端侧应用持续丰富，高带宽内存将持续成为端侧AI落地的关键基础设施，推动本地大模型从概念走向规模化商用。