AI搜索原理揭秘：从ChatGPT插件到DeepSeek元宝

大家可能知道，我是AI搜索的第一批从业者，最早ChatGPT里的内置搜索插件是我写的。前两天DeepSeek发布了AI搜索方案，昨天元宝也开放了搜索API，两家前后脚，算是行业共识的小趋势。正好元宝那边有场行业交流会，来说说AI搜索大概怎么实现。原理并不复杂，但为了让搜索有更好适用性，会加很多工程上的狠活。

问AI“北京明天天气怎么样，出门要带伞吗”，它通常回答“明天晴，3～14℃，不用带伞。出处：北京日报”。但大模型本身没法知道明天天气，它默认不知道今天几号，也查不到天气。它是怎么答上来的？模型和搜索之间来回走了一趟，完成信息额外注入：模型拿到问题后发现光靠自己答不了，先写出格式固定的请求，说清楚搜什么、要几条；外面的程序认出来，拿检索词去搜，把搜到的十条结果原样贴回模型上下文；模型读完接着往下写，有了带出处的回答。这一趟模型只做两件事：决定搜什么，决定怎么用搜回来的东西。坑在于搜出来的结果是搜索引擎说了算，模型分不清哪篇文章是真的，可能塞进营销号内容或过时信息，这就需要工程狠活。

搜索这个行当经历了几轮演变：最开始搜索给人用，敲关键词给十条链接，自己判断；后来ChatGPT能读懂网页，搜索结果先交给模型读一遍写成总结；这两年Agent起来，读结果的换成Agent，把任务拆成子问题，一轮一轮搜，读完这轮再决定下轮搜什么。读结果的从人换成Agent，搜索面对的情况整个变了：检索词由Agent拆出来，搜索得听懂Agent；读结果的模型不辨真假，真假只能由搜索把关；模型知识停在训练结束那天，新东西靠搜索补；Agent一个任务要搜好几轮，每轮都得快。

放回一次搜索流程看，四件事卡在不同环节。一、听懂检索词。老问题是用户问“苹果”是水果还是手机，意图理解错了后面排得再好也没用；Agent时代难在检索词是Agent写的，拆问题习惯和人不一样，搜索得反过来适应它。元宝搜索的做法是让搜索和Agent互相喂信号：搜索往Agent送每条结果的权威等级、发布时间、排序满意度，帮Agent挑该引用哪条；Agent往搜索送最后引用了哪几条、思考过程、答案打分，搜索拿去改排序。WorkBuddy联合评测显示，接入升级后的元宝搜索，一个任务平均调用搜索次数从8次降到5次左右；有内容产品开发者说以前问一个问题Agent要翻20个网页，现在5个就够。这些信号最后喂给排序模型，元宝搜索的排序模型也是用大模型训出来的：Label模型先给海量检索词和网页标注产出监督信号，训一个大尺寸Teacher模型学会复杂排序偏好，再蒸馏成小尺寸Student模型上线保证速度；训练样本从线上来，系统把结果不满意的检索词挖出来交给智能体标注再增量训练，以前按月迭代，现在能按天。

二、分辨真假。模型不辨真假，营销号、AI批量写的水文进了上下文都会用，所以一个网页靠不靠谱最好在收录那一刻就判断好。元宝搜索给每个网页打三级质量分：站点、账号、页面，收录时用大模型解析网页：作者是谁、历史上发过什么、内容有没有出处。对付AIGC水文和GEO是一场攻防：单篇内容用专门识别模型打，频繁发AIGC内容的账号和网站按发布规律专项识别。更管用的是反过来把优质信源找出来排上去。也有些内容搜不到：设了反爬的网站出于尊重版权不收录，像携程这种打不开的走三方合作拿内容。

三、补上新信息。模型知识停在训练结束那天，互联网内容按秒在变，财报、赛程晚一个小时可能就错了。网页这边时效性高的站点刷新更勤，财经、股票类大约一小时一次；但股价、天气、航班变得比网页还快，等网页写出来就过时了。所以元宝搜索单独做了一套插件系统，类似谷歌OneBox、百度“阿拉丁”，接了13个垂直行业157个头部信源，比如腾讯自选股、飞常准、携程、京东。插件直接调合作方接口，拿到数据封装成卡片跟网页结果一起返回，字段名是中文、带更新时间，模型拿到能直接用；对接入方来说，航班、行情、商品数据不用再一家家谈授权。

四、压低延迟。Agent一个任务要搜好几轮，每轮慢一秒用户就等不下去。元宝搜索最快版本单次300ms以内返回，升级前要400到500ms，连搜三轮加起来不到一秒。索引方面，元宝搜索把按词查的倒排索引和按意思查的向量索引合进同一张千亿规模索引里，召回率94%以上，平均检索耗时8ms。排序更贵，精排要跑模型，网页全文动辄几千token，每次查询都算又慢又贵。解法叫Gist Token：建索引时先把每个网页压成100个Gist Token，算好存进KV Cache；查询时把这100个token放前面、检索词放后面，前面已算好，只需算检索词那十几个token，排序计算量只跟检索词长度有关。缓存只存热门的，命中率越高越省，这项能省下30%左右在线推理成本。推理框架能跑在多种卡型上，单位推理成本降了90%。