随着推理大模型、长上下文和智能体应用持续发展，推理系统的主要矛盾正由峰值计算能力不足转向模型权重、键值缓存、专家参数与中间状态在多级存储和互连网络中的高频迁移。
混合专家大模型通过稀疏激活扩展参数容量，但Top-k路由会在Chiplet系统中形成专家热点、随机权重装载、片间散集通信和同步尾延迟。
