共计 23 篇文章

---

2026

09-15

【Qwen3.8-Flash-Next 端侧部署】03-NVFP4 权重与 FP8 KV Cache

09-10

DeepSeek-V4.1-Flash 技术解读：持久化 KV Cache 压到约 1/8，百万上下文 Agent 的成本拐点

09-10

【Qwen3.8-Flash-Next 端侧部署】02-PLE 如何从 NVMe 送到 GPU

09-08

【Qwen3.8-Flash-Next 端侧部署】01-模型架构与整体方案

08-30

【FreeToken 解读】边缘侧推理框架 FreeToken 论文笔记

08-17

Triton 编译缓存 manifest 路径对于缓存命中的影响

08-16

【学习 cmake step5】 安装与测试

08-16

【学习 cmake step4】 Generator Expression

08-06

从 CUDA 到 Triton：深入理解 Triton 的即时编译与自动调优

07-09

【投机解码专题】自主多头预测架构-1：MEDUSA