中国LLM讨论纪要

中国LLM讨论纪要

AI 资讯 来源:新闻/公众号 发布时间:2026-11-07 18:57:59 预计阅读 5 分钟

中国LLM讨论纪要

10月初中国LLM讨论纪要显示,反蒸馏使短期蒸馏成本上升5-10倍、多则20倍,替代方案效果均不如直接蒸馏。OpenAI、Anthropic在订阅和非定向API大量反蒸馏,完整推理仅深度合作企业API可得;Amazon等第三方CSP出现封号潮。coding/agent benchmark已刷到90%+,下一市场大概率转向AI for Science或机器人,数据壁垒更高,AI for Science做药模型完全封闭,机器人基线数据更难提取。算力是最大问题:海外模型普遍5-10T,700B蒸3-5T效果很差,训3-5T至少需几万张B卡。前沿方向转向空间理解、computer use、视频生成,难反向拿完整数据。结论是国产模型追赶越来越难,有买方认为无长期价值。

算力差距拉大:国内等效B卡一万到几万张,海外明年单个AI lab训练算力或达4-6GW。反蒸馏后中美差距预期从3-4个月拉长到约12个月,若海外明年实现RSI可能进一步到18-24个月。研究员瓶颈明显,50个研究员只能开50条线,RSI后线数由算力决定。公开数据约35-50T token,未定义数据需Mercor类公司帮助跨阈值。国内3T左右模型算力够用,下一代10T影响较大,B300国内价格近期反涨。有数据称国内厂商蒸馏年开销数亿美金,成本上升5-10倍即十几亿到几十亿美金,对比DeepSeek、Kimi、智谱总融资约100-150亿美金影响不小;有厂商一天蒸馏约30万美金token,年化约1亿美金。RSI关键是verification,硅谷讨论在模型/agent无法自我验证领域拿outcome feedback,coding主攻build system和CI/CD反馈速度。空间方向从DCC软件到仿真、具身大脑再到真实世界simulation,老游戏物理碰撞系统可提供空间理解数据。当前RL挖fifty-fifty成功率任务,再往前核心是模型生成内容能否突破人类verify极限且仍可verify。

国模格局:DeepSeek专注少数方向、走华为卡路线,有差异化但不确定性大;美国CSP有利润、举债能力和金融深度,若中国举国支持一家主权AI,DeepSeek容忍度更高,其他独立公司更危险。华为内部能用黑卡就用黑卡,自研卡对外卖,代工找“手套”或走三星仍有路子但更难。

Frontier labs开始做cheap intelligence,闭源做高价值、开源做低价值的两层结构被打破。开源价值主张为便宜、可微调、隐私/自部署,闭源先攻“便宜”,部分低价值workflow预算流向闭源。闭源降价空间大,每代GPU token output约为上一代3-4倍,大幅降价不影响利润。国产增长逻辑被打破:上半年靠参数量提升+提价,现在闭源价格下探,国产效果不占优、提不了价,下一代大参数模型成本只会上升,国产效率优化接近瓶颈,海外才刚开始。价格预期从“向上收敛”调整为“向中间收敛”。剩余空间在合规严格的国内客户、本地部署/微调,但海外开源和微软MAI也在起来。国内付费依赖重度用户,前1%用户付费大于后50%,重度用户可直接付费Claude/Codex,存在value leakage。可微调短期不会被快速攻破,post-train市场未收敛,闭源投入相对小,OpenAI的RFT没推起来,下一个冲击看闭源何时推出产品化调参产品或大规模投FDE。闭源降价意图对Anthropic成立、对OpenAI不成立。有用户称Codex更划算、跨agent更方便,已取消国产订阅统一用Codex,Codex/Claude价格已能下探到flash层级。

下一个大场景:28年需求总量看不清是当前估值overhang,能否支撑约2T capex。AIDD是当前主要押注,药企研发费用约中几千亿美金,20-30%投入AI即千亿美金场景,concern在节奏:药物周期长,能否忍受两年无新管线进展仍每年2-3倍投入。金融、客服、法律更多是context和数据问题,需慢慢释放。医药同行对AIDD悲观:研发遵循反摩尔定律,靶点有限,IRR走低;即使AIDD成立,改变的是靶点发现速率,瓶颈转到实验、入组、实验猴等物理环节,价值更可能在药明等CXO/CDMO。大药企capex很大部分是收购管线,市场高估真实capacity;LLM替代科学家本质是coding,真正有价值的是AI制药模型,几千张卡就够,壁垒在数据;药企私有失败数据不会给Anthropic,Anthropic长期大概率自建实验室甚至收购药企,但算力消耗不大,撑不起28年capex;AI制药只是猜得更多,实验费用大增而产出不保证,小分子公开数据多做得好,有价值的新靶点反而没数据。不看好金斯瑞、Twist等蛋白合成,看好动物实验和临床,海外受动保限制、需求回流中国,AI加速后明年初就要上猴子,认为买实验猴、药明康德最正确。

中国模型公司与CSP分成:智谱、Kimi已上架Bedrock,take rate约10-15%。收入upside不大,Bedrock约90%调用量来自前沿模型,剩余5-10%由多家

标签: AI 资讯 AI

更多推荐阅读

AI短剧门槛降降降!实测即梦短剧工作室:剧本分镜预演一条龙,伙伴计划长期护航

AI短剧门槛降降降!实测即梦短剧工作室:剧本分镜预演一条龙,伙伴计划长期护航

最近追《The Accident》有点上头,也注意到精品短剧不少,比如《被裁掉的女孩》《丧尸清道夫》。随着AI视频模型能力增强,更多创作者想讲长故事,但做连续剧集面临一致性、资产管理等痛点,精力容易被流程性工作占用。我用即梦短剧工作室拍了一部美高短剧。该工作室把剧本、资产库和分镜串在同一项目里,可从一句话灵感开始,也能拿小说或已有剧本接着做。据即梦方面介绍,实际是即梦整合了小云雀的短剧agent能...

2026-11-07 19:59:22
梁圣做空Anthropic

梁圣做空Anthropic

AI行业超高估值建立在Tokenmaxxing和Benchmaxxing两个支柱上。Tokenmaxxing指无脑使用顶尖大模型(尤其是Claude最新模型),营造不给员工配无限量API就是落伍公司的氛围。但这一模式不可持续,API调用成本连全球最大公司都难以承担。该风潮今年上半年只流行两三个月,随后中美互联网大厂纷纷限额、削减额度。要求所有公司借高利贷给Anthropic充钱并不现实。缺乏宗教式...

2026-11-07 19:59:10
独家丨自然选择完成 A+ 轮融资,要靠社交网络参与 Personal Agent 竞赛

独家丨自然选择完成 A+ 轮融资,要靠社交网络参与 Personal Agent 竞赛

《晚点 AI》独家获悉,AI 陪伴产品 EVE 与 AI 社交产品 Elys 的母公司自然选择已完成 A+ 轮融资,累计融资金额超 1 亿美元,新一轮投资方包括五源资本、启明创投、源码律动、经纬创投和华业天成。 自然选择由张筱帆于 2024 年创立,他曾创办游戏公司终极幻境并推出恋爱手游《奇点时代》。公司目前超过 100 人,核心产品 Elys 团队仅十余人。 2026 年春节前后,Elys ...

2026-11-07 19:58:59
Gemini 正在成为美国师生「不得不用」的 AI

Gemini 正在成为美国师生「不得不用」的 AI

Google宣布,从明年初开始,K-12教育账户中的AI工具将默认关闭,学校管理员可自行决定是否为学生启用Gemini等功能。但附带条款规定“搜索和AI是深度融合的”,不能二选一。这意味着一旦学校选择屏蔽AI,学生将连Google搜索也一并失去,屏幕上只会显示学校提示,说明服务暂不可用。 许多学区管理者因此陷入两难:一边是家长和教师对AI在校园扩张的忧虑,另一边是放弃搜索引擎的不可承受之重。Go...

2026-11-07 19:58:57
一夜变天!奥特曼刚改名「Ram」,芯片股全崩 AI 基建踩刹车

一夜变天!奥特曼刚改名「Ram」,芯片股全崩 AI 基建踩刹车

11月4日,OpenAI CEO Sam Altman在X上短暂将显示名称改为“Ram Altman”。起因是他在播客中提出,个人电脑中大量DRAM仅有约5%的时间被使用,从资源利用率看,将计算资源集中到云端数据中心统一调度效率可能更高。此番言论引发网友吐槽,马斯克也发布恶搞图片并配文“人民也有权拥有自己的RAM”。 但随后出现重大反转:民主党赢得美国众议院和参议院多数席位后,计划出台史上最严格...

2026-11-07 19:57:27
DeepSeek带火稀疏计算,国产芯片公司加速突围:这家公司又融近10亿

DeepSeek带火稀疏计算,国产芯片公司加速突围:这家公司又融近10亿

近日,墨芯人工智能完成近10亿元人民币C+轮融资。距上一轮近10亿元融资仅过去5个月,短时间内连续完成两轮融资,反映出资本市场对其在专用稀疏推理芯片领域技术壁垒与商业化进展的高度认可。 当前,大模型技术架构持续演进,推动稀疏计算从辅助优化手段走向AI算力设计的重要位置。随着混合专家(MoE)架构加速应用,大模型推理呈现明显的条件计算特征。以DeepSeek-V4-Pro为例,其总参数约1.6万亿...

2026-11-07 19:54:42
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部