gguf格式laya-multilingual（多语言版-支持中文），llama.cpp测试通过。

aya-multilingual（多语言版-支持中文），采用官方 Python 库发布的模型转换格式生成。实测普通笔记本4G核显，llama.cpp-b11012 Vulkan 版启动成功，四语言完整推理跑通，也验证了显式 token 数组不会被偷偷插入 BOS（传 11 个 token 返回 11 行），所以运行时的推理路径是干净的。注意：它是一个编码器（Embedding）模型，而不是聊天模型。如果你手上有几百到几千条已标注的历史数据，价值就完全不一样了。官方给了具体数字：同一个基准上微调后从 0.362 提到 0.766，超过 Jev 公布的 0.727。再加上温度校准（一个很小的拟合），ECE 从 0.314 降到 0.106 —— 那时候置信度才真正可信、才能拿来做自动化门控。这条路的价值不在于"省下标注"（省不下），而在于一个 300M 的前向模型，本地能跑、单次百毫秒、无 API 成本、数据不出内网。如果你要处理的是量大、单条价值低、但需要一致口径的判断，这个组合是有意义的。说实话如果不追求这些，用个 LLM 加提示词、或者训个常规分类器（BERT 甚至 TF-IDF + 逻辑回归），大概率更省事、效果也不差。

价格链接尚未核验或已过期，不显示外链。

资料有误或需要补证？反馈该条目