阿里开源Qwen3.8-27B 本地设备可运行前沿AI能力
作者:亿邦动力 文章来源:亿邦动力
2026-08-20 15:47
2026年8月中旬,阿里巴巴推出270亿参数多模态大模型Qwen3.8-27B,以对企业友好的Apache 2.0开源协议上线Hugging Face,开放可下载权重。该模型原生支持图片与视频理解,配备262144 token上下文窗口,支持可配置推理、编码及智能体工作流,是Qwen3.8系列的轻量化部署版本。
该模型的硬件适配门槛大幅降低,16位精度全量运行需约56GB GPU显存,FP8版本需约28GB显存,4位量化后模型体量仅约17GB,可在高端游戏台式机、高配笔记本等消费级硬件上本地运行,无需调用云端API。
官方公布的基准测试数据显示,该模型在SWE-bench Pro测试中得分61.7,LiveCodeBench v6测试得分90.3,CoWorkBench办公基准测试得分70.7,OSWorld-Verified测试得分84.3,部分测试项得分超过Claude Opus 4.6 Max。相关测试说明显示,部分评测为内部开展,不同对比的基准框架存在差异,相关数值不能作为通用性能最优的判定依据。
第三方测试结果陆续公开后,开发者群体关注度进一步上升。第三方AI评测机构Artificial Analysis的Intelligence Index测试中,Qwen3.8-27B得分52,与仅支持云端调用的OpenAI低阶模型GPT-5.6 Luna最高推理设置得分持平。在面向智能体任务的Agentic Index测试中,该模型得分51,超过发布不到三个月的前沿模型Claude Opus 4.8最高推理版本。有开源编码智能体开发者公开提及,这是本地模型首次达到前沿模型能力评分,本地AI技术的迭代速度远超行业预期。
上线三日,该模型在Hugging Face的下载量突破300万,各类适配本地推理工具的量化版本快速出现。海外Reddit平台的LocalLLaMA社区专门开设汇总帖,集中整理相关测试结果、量化版本、配置指南及对比内容。有开发者在M5 Max MacBook Pro设备上测试17GB的量化版本,可正常完成代码编写、图片解析、智能体工作流操作,包括梳理代码库的身份验证逻辑、编写JSONL转Markdown的Python工具脚本等任务。有相关领域从业者提及,此前仅能在高价托管模型上实现的能力,现在已经压缩到可存放在个人工作站的小体积文件中。
当前测试也暴露出该模型的明显短板。默认高推理设置下,模型运行效率偏低,Artificial Analysis测试期间,该模型累计生成1.6亿输出tokens,远超同类开源权重模型4300万的中位数水平。有测试显示,高推理设置下生成特定内容耗时可达21分钟,消耗推理token超22000,同等任务下推理质量略占优势,但速度约为同类竞品的三十分之一,成本约为4.5倍。开启多token预测功能后,推理速度可提升约72%,但常规本地运行速度仍为每秒15至30token,远低于多数云端模型的响应效率。
对企业用户而言,该模型的核心价值在于可在组织自有基础设施内部署。Apache 2.0协议允许用户自行查验、修改模型权重,部署在企业自有安全管控体系内,当前已经适配vLLM、SGLang、TokenSpeed等服务框架。后续官方还将推出默认100万token上下文窗口、内置工具的托管云版本。小体量和低硬件要求也可满足独立开发者、个人用户的本地部署需求,避免数据流出设备,提升隐私与信息安全的可控性。
相关下载数据显示,2026年大模型下载量中,700亿参数以上的模型占比极低,用户实际使用更倾向于选择小体量模型。阿里巴巴的Qwen系列覆盖多个实用参数规格,已经成为开发者本地部署的常用选择,本次发布的27B版本进一步拓展了小体量模型的能力边界。目前该模型的基准评分仍需更多独立验证,默认推理行为的效率问题也有待优化,但已有大量用户通过本地实测确认,该小体积模型可完成此前仅属于大型专有系统的任务。
免责声明:本内容全程由AI生成,请注意甄别信息。若存在信息错漏、理解偏差,欢迎随时指正。
如您发现问题,请发送邮件至 ai-content-feedback@ebrun.com 。
【版权提示】亿邦动力倡导尊重与保护知识产权。未经许可,任何人不得复制、转载、或以其他方式使用本网站的内容。如发现本站文章存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至run@ebrun.com,我们将及时沟通与处理。
已点赞
{{ praise_text }}
好文章,值得被更多人看到
下一篇
亚马逊2026年底将无人机配送覆盖近500个美国城市
今年以来,亚马逊Prime Air服务已完成数十万单配送,日均配送数千单。









