通义千问(Qwen)官方近日公开感谢 Unsloth 团队,对其发布的 Qwen3.8-27B GGUF 量化版本表示高度认可,并称该版本“更小更聪明”。这一互动迅速在开源社区引发热议,进一步凸显了本地大模型部署门槛的持续降低。
通义千问官方明确表示,对 Unsloth 的出色工作表示衷心感谢,认为这对社区是极好的消息,并鼓励大家尝试这一“更小更聪明”的 Qwen3.8-27B 版本。此举体现了开源模型团队与量化优化方的紧密协作。

Unsloth Dynamic V3量化重磅升级
Unsloth 最新推出的 Dynamic V3(v3.0)量化方案,专为 Qwen3.8-27B 进行了优化。官方数据显示,该方案在相同文件大小下,准确率较其他主流量化方案提升超过10%,在 Div-300、KLD(KL Divergence)等关键基准测试中表现尤为突出。
这一升级并非简单压缩,而是通过改进的后训练量化技术,更好地保留了原模型的输出质量,尤其在智能体编码、对话和多语言任务上更接近全精度表现。相关 GGUF 文件已在 Hugging Face 上线,兼容 llama.cpp、Unsloth Desktop 等主流推理工具。
更引人注目的是,Unsloth 同步推出了1-bit 量化版本。该版本在保留约77% 准确率的同时,大幅降低了资源需求,可在8GB 内存环境下运行。部分极致压缩版本(如约6.2GB 的 UD-IQ1_S)在保持可用性能的前提下,体积较全精度缩小约89%。
此前,Qwen3.8-27B 的4-bit 量化通常需要16-19GB 显存 / 内存,而现在的低比特选项让普通笔记本和消费级设备也能尝试这一270亿参数级多模态模型。
Qwen3.8-27B 本身具备原生多模态能力、262K 上下文窗口(可扩展至约100万 tokens),并在编码、办公工作流等场景表现出色,采用 Apache2.0开源协议。结合 Unsloth Dynamic V3的高效量化,开发者可更便捷地在本地进行推理与微调,进一步减少对云端资源的依赖。
AIbase 认为,此次通义千问与 Unsloth 的良性互动,以及 Dynamic V3在精度与效率上的双重突破,标志着开源大模型本地化部署正进入新阶段。感兴趣的开发者可前往 Hugging Face 下载最新 GGUF 文件,并参考 Unsloth 官方文档获取运行指南。
阿里达摩院旗舰CPU玄铁C950实现里程碑:原生运行通义千问3.8-27B大模型,成为RISC-V架构首次不依赖GPU、无需模拟层直接驱动270亿参数大模型。该64位服务器级处理器采用台积电5nm工艺,集成64个计算核心,展现技术潜力。
前阿里通义千问负责人林俊旸在沪创立AI实验室“Pragmatik Labs”(语用科技),专注研发贯通数字与物理世界的通用智能体,提出“Agents for digital and physical worlds”核心理念。首轮融资获高榕创投与红杉中国联合注资。
通义千问开放平台上线,支持手机、PC、AI眼镜三端,用户无需跳转APP,通过对话即可使用物流、租房、家政、理财等十余领域服务。例如@顺丰速运查寄件、@自如根据条件匹配房源并VR看房、@天鹅到家预约保洁核对合同、@盈米基金提供理财分析,彩云天气也可推荐信息。
通义千问大模型升级,新增“思考研究”“定时任务”“办公助理”三大能力,全面支持旗舰模型Qwen3.8-MAX。此次升级推动大模型从辅助对话向自主执行转型,聚焦复杂决策与重复性工作痛点。其中“思考研究”模式经深度优化,助力职场效率提升。
国内大模型开源节奏持续加快。阿里即将发布并开源新一代通义千问3.8,预览版Qwen3.8-Max已率先上线阿里云Token Plan、Qoder及QoderWork三平台,用户可提前体验其能力边界,正式版近期推出。此举进一步推动通义千问家族在开源赛道上的迭代与布局。

关注 “悠AI” 更多干货技巧行业动态