0.6B起！vLLM开源多模态决策模型登顶全球测评榜

智东西10月12日消息，vLLM社区孵化的开源AI基础设施项目vLLM Semantic Router推出并开源多模态决策模型Decision 3.0系列。该系列模型可根据输入内容完成分类、选择、是非判断和评分等任务，直接返回判断结果和概率，不生成长篇文本。

这类专门“做判断”的模型近期因Jev走红受到关注。Jev上线仅3天Token用量达1万亿；上线24天，其开发商TypeSafe AI宣布获a16z领投的8.7亿美元融资，估值达75亿美元。10月10日，微软也推出决策模型Microsoft-Decision-1，通过Microsoft Foundry和OpenRouter提供服务，基于Qwen3.5-9B微调，可对预设选项评分、返回结构化判断及置信度，用于工具选择、模型路由和Agent流程控制。

Decision 3.0共包含d3、d3-flash、d3-mini、d3-nano、d3-lite和d3-edge六款模型，参数规模覆盖0.6B至27B，权重已在Hugging Face开源。旗舰模型d3基于Qwen3.8-27B打造，支持输入多张图片和视频，其余5款基于不同参数规模的Qwen3.5打造。与Jev通过云端API提供文本决策服务不同，Decision 3.0开放权重，支持本地部署，可直接处理图片和视频。

在Jev Decision Index 0.3.1榜单中，d3文本决策指数64.7分，公开集得分65.5分，位列文本榜第一，超过Jev的60.1分。d3（27B）、d3-flash（9B）及d3-mini（4B）均领先微软Decision-1（9B）的53.2分。视觉榜中，d3得分71.6分，同样排名第一。d3-flash在文本榜获59.8分，视觉榜获66.9分，位列对应规模模型前列。

第三方评测中，一位开发者设置75道工具选择题，让模型判断应调用哪个WebMCP工具。本地Mac测试中，Microsoft-Decision-1答对71题位列第一；d3-flash和d3-mini答对70题并列第二；Jev答对69题；d3-nano答对68题。

Decision 3.0可用于客服分流、内容审核、风险识别和模型路由等场景。例如客户称搅拌机破损希望换货并附收据图片和配送视频，模型可在一次请求中回答由哪个团队处理、收据是否包含该搅拌机、包裹如何送达，分别给出“退换货团队”“是”“当面送达”。

团队数据显示，在单张AMD Instinct MI325X GPU上，d3处理文本请求延迟中位数55毫秒，含图片请求273毫秒，10秒视频请求553毫秒。另有开发者将d3-lite通过Core ML部署在M5 Pro Mac上，对1000个PR进行工作组分类与路由，总耗时约2分钟，单个PR平均约0.12秒，吞吐量约每秒8.3个PR，全程本地推理，无需云端API。

随着AI应用对意图识别、任务分类和模型路由需求提升，类Jev决策模型有望承担更多轻量、结构化判断任务，先识别用户意图、判断请求类型，再交给更合适的生成模型处理，从而减少通用大模型处理简单任务的负担，帮助系统控制推理成本、提升响应速度和路由准确性。