Underdog AI 发布 Saluki 27B 模型:2-bit 量化 Qwen3.8-27B,仅 7.89GB

大模型之家讯 近日,人工智能实验室 Underdog AI 发布 Saluki 27B 模型,该模型是 Qwen3.8-27B 的 2-bit 量化调优版本,仅保留文字 I/O 能力,文件大小仅7.89 GB。Underdog 表示,Saluki 针对智能体应用设计,长于日常推理和工具使用,数学表现相对逊色,其工具选择和多工具并行调用表现甚至优于全尺寸的 Qwen3.8-27B。Saluki 使用标准的 llama.cpp 格式,可在标准 llama.cpp 及基于其构建的应用程序中加载,无需任何自定义编译,为本地端侧智能体部署提供了更轻量的选择。

上一篇:

下一篇:

发表回复

登录后才能评论