← 返回信息流

IT之家新闻

Underdog AI 发布 Saluki 27B 模型:2-bit 量化 Qwen3.8-27B,7.89GB 大小

ithome.com模型AI评分:70/100

人工智能实验室 Underdog AI 发布 Saluki 27B 模型。该模型是 Qwen3.8-27B 的 2-bit 量化版本,仅保留文字 I/O,体积仅 7.89GB。针对智能体应用优化,长于日常推理和工具使用,多工具并行调用能力优于原版。采用标准 llama.cpp 格式,无需自定义编译即可加载。

IT之家 10 月 10 日消息,人工智能实验室 Underdog AI 本月发布了 Saluki 27B 模型。该模型是 Qwen3.8-27B 的 2-bit 量化调优版本,仅保留文字 I/O 能力,文件大小则仅有 7.89 GB。

Underdog 表示,Saluki 针对智能体应用设计,长于日常推理和工具使用,数学表现则相对逊色。其工具选择和多工具并行调用表现甚至优于全尺寸的 Qwen3.8-27B。

Saluki 模型使用标准的 llama.cpp 格式,可在标准的 llama.cpp 以及基于它构建的应用程序中加载,无需任何自定义编译。

  • https://underdog.ai/underdog-27b
  • https://underdog.ai/saluki
  • https://huggingface.co/ConwayResearch/Underdog-Saluki-27B-1.0

阅读原文