量化 (2 / 2)

含有标签 "量化".

• 【arXiv】Activation Quantization of Vision Encoders Needs Prefixing Registers

  更新于:21 Jul, 2026

  RegCache 发现视觉编码器中的高范数 outlier 会严重放大量化误差，并通过中间层 prefix registers 和 token deletion 改善 CLIP、SigLIP、DINOv2 等模型的低比特量化。

• SeqMSE 原理：用输出重构误差选择量化 Encoding

  8 Jul, 2026

  SeqMSE 的核心思想、候选 encoding 搜索、reconstruction loss 计算、block-wise 优化方式，以及它和 min/max、AdaRound、GPTQ 的区别。

• llama.cpp Hexagon NPU 量化：Q4_0 / IQ4_NL / MXFP4 / Q8_0

  30 May, 2026

  对比 llama.cpp Hexagon HTP 支持的 Q4_0、Q4_1、IQ4_NL、MXFP4、Q8_0 格式，解释存储表示、反量化 kernel 和格式选择。