传统NLP翻红：小模型融资2450万，快200倍成本低467倍

AI圈风向转变，传统NLP技术重新受到关注。专注任务型小模型的创业公司Fastino此前获1750万美元种子轮融资，加上700万美元Pre-seed轮，累计融资约2450万美元，领投方Khosla Ventures是OpenAI早期投资方。ScaleDown近日发布全新CDM约束解码模型架构，上线分类、实体提取、摘要三款模型。相比前沿大模型API，新模型最高快200倍、成本低467倍，可处理100万Token多模态输入，每百万输入Token仅0.05美元，输出免费，摘要生成不另收费。《福布斯》也讨论称，小语言模型正在部分任务上反过来赢大模型。

今年6月《福布斯》报道了专用小语言模型测试结果。ScaleDown当时已推出面向分类、信息提取、摘要等任务的小模型，并与Claude、GPT、Gemini比较。三项基准测试中，其专用模型与Claude系列相比平均准确率高约8%，成本约为1/161，速度约3.8倍；与OpenAI系列相比准确率高8.72%，成本约1/89，速度约2.4倍；与Gemini系列相比准确率高9%，成本约1/29，速度约8.3倍。文本分类任务上，其调用成本相比测试中Anthropic模型平均低约5250倍，相比OpenAI模型低约1810倍。摘要生成方面，按每天1万份估算，专用模型每天约7.2美元，GPT-4.1 Mini约58美元，人类评价中两者摘要质量无明显差异。

ScaleDown创始人Neal Patel提出，既然已把答案给大模型，它为何还要从头写一遍。CDM针对特定任务设计，读取一次输入，跳过逐Token生成循环，直接返回结果。三款模型中，Classify可预定义标签，返回校准概率和判断理由；Extract用自然语言描述需求，返回规范JSON及置信度和引用信息；Summarize可接收长文本、图像或PDF，返回不超过1000 Token的摘要。CDM支持100万Token文本与图像输入，已接入OpenRouter、Vercel、LiteLLM、LangChain等平台。在DecisionBench上，CDM取得77.2%，Jev为72%；ScaleDown称其100万Token输入窗口是Jev的31倍。

Jev来自TypeSafe AI，主打结构化决策，开发者提供上下文和候选答案，模型直接选择并返回概率信息。Jev 1.14.0刚发布，新增图片输入能力，TypeSafe AI透露Jev 1.13.0已具备多模态能力但此前未开放。更新后开发者可直接输入图片让Jev根据视觉内容判断，无需先OCR转文字，图片还可作为候选答案示例。新版还增加Box输出类型，可返回物体在图片中的矩形边界框坐标，并改进多语言能力、开放实验性长上下文选项。TypeSafe AI提醒，图像、Box和长上下文功能仍处实验阶段，需手动开启，尚未达到生产环境可靠性要求。

从Jev到ScaleDown，专用小模型动作日益密集。这并非旧技术打败新技术，而是大模型包办一切的时代，行业重新计算哪些任务真正需要强模型。文本分类、实体识别、摘要生成需求一直都在，如今AI应用规模化，成本、速度和输出稳定性成为关键，行业意识到杀鸡不必用屠龙刀，这些NLP老任务重新回到聚光灯下。