← 返回信息流

Reddit r/LocalLLaMA短讯

分享我的最新项目:strata-mlx

reddit.com作者:/u/yibie开源AI评分:70/100

作者开发了 strata-mlx,这是一个非官方的 MLX 引擎,旨在让 Strata 设计的模型能在 macOS 上运行。该项目支持在 12GB 显存的显卡上运行 Qwen3.8-Flash-Next(125B 参数 MoE 模型),直接读取 Strata 的 GGUF 文件而无需修改权重。作者在 128GB M4 Max MacBook Pro 上进行了开发测试并取得了初步成果。

阅读原文