MNN

含有标签 "MNN".

• MNN QNN 里为什么 chunk size 会影响 PPL

  10 Jul, 2026

  记录一次 Qwen3-0.6B 在 MNN QNN 上排查 PPL 异常的过程，解释为什么 chunk size 不只是输入切块参数，而是同时决定 prefill 图 shape、padding 路径和 ppl_eval 的上下文窗口，因此会真实影响困惑度。

• MNN QNN 离线模式跑通 Qwen3-4B 大模型

  26 Jun, 2026

  完整记录从本地编译 MNN、生成 QNN 离线模型、准备高通 QNN 依赖，到在 QCS8550/8 Gen 2 板端按 MNN 文档跑通 Qwen3-4B 的全过程，以及中间遇到的权限、路径和库问题。