文章 (5 / 5)

所有文章。

• llama.cpp 高通 Hexagon NPU 初跑 Qwen3.5 4B 模型

  29 May, 2026

  从 GGUF 量化、交叉编译到板端推理，完整记录 llama.cpp 在骁龙 Hexagon NPU 上的部署流程与调优经验。

• TVM FFI（三）：多语言绑定与工具链

  29 May, 2026

  Python/Rust 绑定 SDK、JIT 即时编译、stubgen 类型标注生成、全局注册表、stream 管理及 addons。

• TVM FFI（二）：类型系统与容器

  28 May, 2026

  Any/AnyView 所有权语义、Array/Map/Variant/Expected 容器、结构相等性与哈希、反射系统与 Dataclass。

• TVM FFI（一）：对象系统与调用约定

  28 May, 2026

  TVM FFI 的核心骨架：引用计数对象系统、类型擦除容器 TVMFFIAny、Packed Function 调用约定，以及 DLPack 零拷贝张量传递。