南北阁 Nanbeige4.3-33B 放出 INT4 等量化版，INT4 经过量化感知训练

BOSS直聘背后的看准科技旗下「南北阁」团队，10月31日在 Hugging Face 上补齐了 Nanbeige4.3-33B 的三个量化版本：INT4、INT8 和 FP8，协议依旧是 Apache-2.0。其中 INT4 版最值得说，因为它不是简单地把权重压一压就发出来。

INT4 版做了什么

按照官方模型卡的说明，团队为了让 4 比特精度下的性能不掉太多，用了量化感知训练：先让 BF16 原版模型对 INT4 模型做在线蒸馏，再直接在 INT4 模型上跑强化学习。也就是说，这个 INT4 是「专门训练过」的低精度版本，而不是事后压缩的副产品。

原版模型的定位

Nanbeige4.3-33B 本身在10月下旬发布，官方把它定为这一代的「教师模型」，主打智能体编程和办公协作类任务，支持中英文，上下文最长 512K。团队还表示会用它把能力蒸馏到更小的模型上，例如计划中的 Nanbeige4.3-3B。

模型卡里和 Qwen3.8-27B、Gemma4-31B 等同级模型的对比中，它在 Terminal-Bench 2.1 拿到 80.9、AIME 2026 拿到 95.2；不过在 SWE-Bench Pro 上略低于 Qwen3.8-27B，GPQA Diamond 也不如 Gemma4-31B。这些都是团队自己跑的分，还要等第三方复测。

我的看法

30B 级别的模型，BF16 版本基本要多张显卡才跑得动，真正决定它能不能被个人开发者和中小团队用起来的，往往是量化版的质量。南北阁这次把 QAT 加强化学习用在 INT4 上，思路是对的。我更关心的是 INT4 版在长上下文和工具调用上会损失多少，这个只能等社区实测了。另外一家招聘平台持续在开源大模型上投入，本身也挺有意思。