QNN

含有标签 "QNN".

• QNN W8A16 的 INT32 Bias Overflow：从极小 Scale 到稳定部署

  26 Aug, 2026

  记录 QNN HTP W8A16 中 INT32 bias 溢出的根因、公式、QueOpt 修复方式，以及在真实板端的验证结果。

• QAIRT 2.42 适配 Streaming Spatial Speech Enhancement Network 的 GRU

  15 Jul, 2026

  Streaming Spatial Speech Enhancement Network 的 HTP 部署排查：GRU 展开、长序列 native cell、QAIRT 源码开关、Einsum layout bug 与流式 I/O 对齐。

• MNN QNN 里为什么 chunk size 会影响 PPL

  10 Jul, 2026

  记录一次 Qwen3-0.6B 在 MNN QNN 上排查 PPL 异常的过程，解释为什么 chunk size 不只是输入切块参数，而是同时决定 prefill 图 shape、padding 路径和 ppl_eval 的上下文窗口，因此会真实影响困惑度。

• MNN QNN 离线模式跑通 Qwen3-4B 大模型

  26 Jun, 2026

  完整记录从本地编译 MNN、生成 QNN 离线模型、准备高通 QNN 依赖，到在 QCS8550/8 Gen 2 板端按 MNN 文档跑通 Qwen3-4B 的全过程，以及中间遇到的权限、路径和库问题。