技术笔记、项目记录、随想。https://onecrewdev.com/https://onecrewdev.com/posts/qnn-w8a16-int32-bias-overflow/https://onecrewdev.com/posts/qnn-w8a16-int32-bias-overflow/记录 QNN HTP W8A16 中 INT32 bias 溢出的根因、公式、QueOpt 修复方式，以及在真实板端的验证结果。Wed, 26 Aug 2026 02:00:00 GMThttps://onecrewdev.com/posts/lora-qlora-qa-lora-explained/https://onecrewdev.com/posts/lora-qlora-qa-lora-explained/用一个完整的数值例子解释 LoRA、QLoRA 和 QA-LoRA 的训练、推理与合并流程，并拆开 QA-LoRA 官方实现中的 group pooling 和 qzeros 写回。Mon, 10 Aug 2026 00:00:00 GMThttps://onecrewdev.com/posts/uniform-vs-vector-quantization/https://onecrewdev.com/posts/uniform-vs-vector-quantization/用权重矩阵、scale/offset、码本和索引，拆开解释均匀量化与向量量化到底在压缩什么、如何反量化，以及为什么码本大小会决定 bit 数。Fri, 07 Aug 2026 04:00:00 GMThttps://onecrewdev.com/posts/hqq-half-quadratic-quantization/https://onecrewdev.com/posts/hqq-half-quadratic-quantization/从 Dropbox HQQ 源码出发，拆解分组非对称量化、half-quadratic 零点优化、bit packing 与推理路径，并说明 axis、group size 和 backend 该怎样选。Tue, 28 Jul 2026 06:00:00 GMThttps://onecrewdev.com/posts/dinov3-w8a8-ptq-activation-outlier-diagnosis/https://onecrewdev.com/posts/dinov3-w8a8-ptq-activation-outlier-diagnosis/DINOv3 ViT-B/16 的标准全图 W8A8 为何失效？64 张图的逐层 FP32 激活 profile 表明，block 2 MLP 的 learned register 与 patch token 出现数百倍动态范围差。Wed, 22 Jul 2026 15:00:00 GMThttps://onecrewdev.com/posts/regcache-activation-quantization-vision-encoders-paper-reading/https://onecrewdev.com/posts/regcache-activation-quantization-vision-encoders-paper-reading/RegCache 发现视觉编码器中的高范数 outlier 会严重放大量化误差，并通过中间层 prefix registers 和 token deletion 改善 CLIP、SigLIP、DINOv2 等模型的低比特量化。Tue, 21 Jul 2026 10:30:00 GMThttps://onecrewdev.com/posts/vision-transformers-need-registers-paper-reading/https://onecrewdev.com/posts/vision-transformers-need-registers-paper-reading/Vision Transformers Need Registers 解释 ViT 中背景高范数 token 的来源，并用额外的 register tokens 把模型的隐式工作空间显式化。Tue, 21 Jul 2026 10:30:00 GMThttps://onecrewdev.com/posts/queopt-gitlab-ci-cd-release/https://onecrewdev.com/posts/queopt-gitlab-ci-cd-release/记录 project 从专用 GitLab Runner、部署回归，到 wheel 构建、隔离验证、包发布和 Release 创建的完整流程。Mon, 20 Jul 2026 02:30:00 GMThttps://onecrewdev.com/posts/agent-infrastructure-harness-lark-cli/https://onecrewdev.com/posts/agent-infrastructure-harness-lark-cli/Agent 需要的不是更多工具，而是一条可验证、可约束、可恢复的执行链。以 lark-cli 源码为例，拆解命令层、身份、策略、输出契约与测试如何组成 Harness。Mon, 20 Jul 2026 02:00:00 GMThttps://onecrewdev.com/posts/qnn-gru-streaming-spatial-speech-enhancement-htp-v73/https://onecrewdev.com/posts/qnn-gru-streaming-spatial-speech-enhancement-htp-v73/Streaming Spatial Speech Enhancement Network 的 HTP 部署排查：GRU 展开、长序列 native cell、QAIRT 源码开关、Einsum layout bug 与流式 I/O 对齐。Wed, 15 Jul 2026 01:00:00 GMThttps://onecrewdev.com/posts/mnn-qnn-chunk-size-ppl/https://onecrewdev.com/posts/mnn-qnn-chunk-size-ppl/记录一次 Qwen3-0.6B 在 MNN QNN 上排查 PPL 异常的过程，解释为什么 chunk size 不只是输入切块参数，而是同时决定 prefill 图 shape、padding 路径和 ppl_eval 的上下文窗口，因此会真实影响困惑度。Thu, 09 Jul 2026 16:00:00 GMThttps://onecrewdev.com/posts/inp-former-plus-plus-paper-reading/https://onecrewdev.com/posts/inp-former-plus-plus-paper-reading/INP-Former++ 在 INP-Former 的单图内在正常原型上加入 Soft INP Coherence Loss 和 Residual Learning，把方法扩展到 semi-supervised、few-shot、multi-class 和一定 zero-shot 场景。Thu, 09 Jul 2026 02:16:00 GMThttps://onecrewdev.com/posts/dinomaly-v2-paper-reading/https://onecrewdev.com/posts/dinomaly-v2-paper-reading/Dinomaly2 在 Dinomaly 的特征重建框架上加入 Context-Aware Recentering，并把同一套最小化设计扩展到多视角、多模态、few-shot 和 inference-unified MUAD。Thu, 09 Jul 2026 02:08:00 GMThttps://onecrewdev.com/posts/inp-former-paper-reading/https://onecrewdev.com/posts/inp-former-paper-reading/INP-Former 从测试图像自身动态提取 Intrinsic Normal Prototypes，并用这些正常原型指导特征重建，缓解训练集正常原型与测试图不对齐的问题。Thu, 09 Jul 2026 01:58:00 GMThttps://onecrewdev.com/posts/dinomaly-paper-reading/https://onecrewdev.com/posts/dinomaly-paper-reading/Dinomaly 用强预训练 ViT 特征、Noisy Bottleneck、Linear Attention 和 Loose Reconstruction，缓解多类别无监督异常检测中的 identity mapping 问题。Thu, 09 Jul 2026 01:50:00 GMThttps://onecrewdev.com/posts/seqmse-principle/https://onecrewdev.com/posts/seqmse-principle/SeqMSE 的核心思想、候选 encoding 搜索、reconstruction loss 计算、block-wise 优化方式，以及它和 min/max、AdaRound、GPTQ 的区别。Wed, 08 Jul 2026 01:30:00 GMThttps://onecrewdev.com/posts/rknn-ocr-rec-int8-cle/https://onecrewdev.com/posts/rknn-ocr-rec-int8-cle/记录一次 OCR recognition presoftmax 模型在 RKNN W8A8 量化下的精度排查：对比 normal、KL、MMSE，尝试手动 Cross-Layer Equalization 处理 weight outlier，并分析为什么最终仍需要 hybrid。Wed, 08 Jul 2026 00:00:00 GMThttps://onecrewdev.com/posts/mnn-qnn-qwen3-4b-bringup/https://onecrewdev.com/posts/mnn-qnn-qwen3-4b-bringup/完整记录从本地编译 MNN、生成 QNN 离线模型、准备高通 QNN 依赖，到在 QCS8550/8 Gen 2 板端按 MNN 文档跑通 Qwen3-4B 的全过程，以及中间遇到的权限、路径和库问题。Fri, 26 Jun 2026 12:00:00 GMThttps://onecrewdev.com/posts/llama-cpp-hexagon-ubatch-prefill-hang/https://onecrewdev.com/posts/llama-cpp-hexagon-ubatch-prefill-hang/本来只是想在 Hexagon HTP 上跑一条稍长一点的总结题，结果 `llama.cpp` 默认 `ubatch=512` 直接卡在 prefill。最后一路排到 HMX matmul，发现是小 remainder batch 走异步 pipeline 后没回来。Tue, 23 Jun 2026 08:30:00 GMThttps://onecrewdev.com/posts/llama-cpp-lm-head-q6k-q4/https://onecrewdev.com/posts/llama-cpp-lm-head-q6k-q4/从 Qwen3/Qwen3.5 的 tied embedding 看 lm-head 性能瓶颈：0.6B 改 output-q4_0 有收益，4B 上收益有限甚至可能变慢。Fri, 05 Jun 2026 10:00:00 GMThttps://onecrewdev.com/posts/llama-cpp-htp-cpu-fallback/https://onecrewdev.com/posts/llama-cpp-htp-cpu-fallback/用 Qwen3-0.6B 的 profile 解释一个朴素误区：减少 CPU 参与不等于更快。HTP attention、SET_ROWS、图切分和真实 token/s 的关系。Fri, 05 Jun 2026 09:00:00 GMThttps://onecrewdev.com/posts/llama-cpp-qwen3-0-6b-htp-70tps/https://onecrewdev.com/posts/llama-cpp-qwen3-0-6b-htp-70tps/一次 Snapdragon Hexagon HTP 上的真实调优记录：OPPOLL、算子过滤、lm-head 量化，以及为什么 70 token/s 不是“全上 NPU”跑出来的。Fri, 05 Jun 2026 08:00:00 GMThttps://onecrewdev.com/posts/llama-cpp-quantization/https://onecrewdev.com/posts/llama-cpp-quantization/Q4_0 / Q4_1 / IQ4_NL / MXFP4 / Q8_0 五种 HTP 原生量化格式的原理、反量化路径与对比。Sat, 30 May 2026 00:00:00 GMThttps://onecrewdev.com/posts/tvm-compilation-pipeline/https://onecrewdev.com/posts/tvm-compilation-pipeline/从整体架构到端到端流水线，理解 TVM 是什么、分几层、一个模型如何从 Relax 走到机器码。Fri, 29 May 2026 06:00:00 GMThttps://onecrewdev.com/posts/llama-cpp-hexagon-npu/https://onecrewdev.com/posts/llama-cpp-hexagon-npu/从 GGUF 量化、交叉编译到板端推理，完整记录 llama.cpp 在骁龙 Hexagon NPU 上的部署流程与调优经验。Fri, 29 May 2026 00:00:00 GMThttps://onecrewdev.com/posts/tvm-ffi-ecosystem/https://onecrewdev.com/posts/tvm-ffi-ecosystem/Python/Rust 绑定 SDK、JIT 即时编译、stubgen 类型标注生成、全局注册表、stream 管理及 addons。Thu, 28 May 2026 16:00:00 GMThttps://onecrewdev.com/posts/tvm-ffi-type-system/https://onecrewdev.com/posts/tvm-ffi-type-system/Any/AnyView 所有权语义、Array/Map/Variant/Expected 容器、结构相等性与哈希、反射系统与 Dataclass。Thu, 28 May 2026 14:00:00 GMThttps://onecrewdev.com/posts/tvm-ffi-deep-dive/https://onecrewdev.com/posts/tvm-ffi-deep-dive/TVM FFI 的核心骨架：引用计数对象系统、类型擦除容器 TVMFFIAny、Packed Function 调用约定，以及 DLPack 零拷贝张量传递。Thu, 28 May 2026 12:00:00 GMT