千问 APP × 阿里云:MaxCompute 向量检索重构 RAG 数据收录评估链路,一条SQL将性能提速 11 倍

2026-10-10 09:49 来源:朝闻天下   阅读量:6992   会员投稿 小 中

评估一个领域的数据收得全不全,千问 App数据团队过去要花大半天:导出数据、发版审批、部署常驻服务、等召回跑完。现在,基于阿里云MaxCompute 多模态检索,只需一条提交即跑的数仓 SQL——全链路从约 6 小时 15 分压到约 32 分钟,全程零常驻资源。

业务诉求:从自建向量服务到数仓内批量召回

千问 APP 数据团队负责各领域垂类数据的收集与加工,持续供给 RAG 场景。某领域的数据是否收全,直接决定回答质量的上限,因此团队需要周期性地回答一个问题:各领域数据的覆盖率是多少?

评估方法很直接:以权威数据源为基准抽取一批 query,对向量化后的自有语料做全量向量召回,候选交模型判定命中,命中比例即覆盖率。全流程的关键环节是"全量批量向量召回"——而问题恰恰出在这里。

迁移之前,这一步依赖内部自建的 ude 向量服务。数据在数仓(ODPS)里,召回服务在数仓外,中间隔着导出转换、新建服务、字段配置、发版审批、资源部署等一串环节,一轮评估从准备到出结果,往往要耗大半天。

这条链路带来三方面负担:

·资源常驻:向量服务以固定核数的实例长期部署,即便不做检索时也持续占用资源。

·研发效率受限:发版审批、资源申请、部署等环节串行阻塞、耗时不可控,一轮评估周期长,难以支撑当天多轮迭代。

·数据要出仓:向量数据经由额外链路流出数仓,权限与安全管理的复杂度随之增加。

所以团队要的不是简单换一个检索引擎,而是同时要三样东西:能承载全量批式向量召回的引擎能力;足够低的检索成本,以支撑高频甚至全量重跑;能与既有自研数据处理与向量化链路衔接,无需为迁移重写流程。

解决方案:MaxCompute 离线向量检索承接批量召回

千问 APP 数据团队与阿里云大数据 AI 平台共同梳理了数据链路,形成"自研链路负责数据加工与向量化、MaxCompute 负责存储与批量检索"的分工。

上游,一行不改。 原始数据存储在 OSS / ODPS,由 Python 脚本或 Ray 调用模型实例完成数据处理与向量化,产出的 embedding 直接写入 ODPS 表——这条链路在迁移前后完全不变。

检索,收进一条 SQL。 向量存储、索引构建与全量批式检索三个环节由 MaxCompute 离线向量检索统一承接,"导出转换 + 服务化部署"的整段工程工作被抹掉,收敛为四个动作(SQL 示意):

2.1 建表

1791543398721080.png

2.2建索引

1791543418768654.png

2.3导入向量数据并建索引

1791543440641322.png

2.4批量召回

1791543475905156.png

除首次建表建索引外,此后每一轮评估都是"提交即跑"的周期性 SQL 作业:没有审批排期,没有部署等待,数据始终留在数仓内,复用现有权限体系。

合作成效:让覆盖率评估从"重工程"回到"轻查询"

专业文档场景实测(base 约 2400 万 × query 约 120 万):

1791543513140608.png

*注:表中 1100+ QPS 为批量作业的等效吞吐,用于与批量场景对比,不代表在线服务能力;在线毫秒级点查场景请使用专业向量服务。*

全链路口径的提速,一方面来自索引构建与检索本身的性能提升,另一方面来自导出转换、审批部署等流程环节的彻底消除。

成本结构也随之改变:固定常驻实例换成按量弹性作业,"不用也要花"变成"用多少花多少"。相同预算下,同一领域的覆盖率评估可以更高频地重跑,新增垂类也能低成本接入同一套链路。

迭代方式同样变了。仍以专业文档领域为例:外部权威文档条目清单约百万行作为 query 集,自有文档向量千万条作为 base 集,每条 query 召回 top10 交模型判定,命中比例即覆盖率。升级 embedding,重灌 base 表,一条 SQL;调整 query 集,重落 query 表,一条 SQL;检索结果十几分钟返回,当天即可完成多轮评估。"发现缺口 → 补充数据 → 再评估"的循环,第一次真正转了起来。

“以前一轮评估要经历导出转换、发版审批、资源部署一连串环节,常驻实例的成本也长期摆在那里。现在批量向量检索收敛成了数仓里的一条 SQL 作业——数据不出仓,索引由平台自动维护。我们希望把它推广到更多垂类和更大规模,让覆盖率评估成为可持续、低成本的常规动作。”—— 千问 APP 数据团队

目前该方案已在生产上线,新垂类沿用同一架构;团队还在 亿级向量的全量规模上验证了链路可行性——规模越大,相较常驻服务方案的优势越明显。

展望

覆盖率评估只是这套向量检索能力的起点。随着法律、财经、学术等更多垂类陆续接入同一套架构,数仓内批量召回正在从单一的评估动作,延伸为数据建设各环节的通用底座——无论是训练数据集构建中的 corner case 圈选、候选集的批量生产,还是新增数据的相似性排查,都可以复用同一条 SQL 链路,而无需为每个场景单独搭建和维护向量服务。

对千问 APP数据团队而言,把大规模批量检索交给平台承接之后,团队得以将精力集中在真正构成差异化的环节——垂类数据的理解、加工与向量化质量上。对阿里云大数据 AI 平台而言,这一实践也在持续反哺产品能力:大表索引分片调度参数的沉淀,正推动向量检索在超大规模场景下的易用性完善。双方将围绕检索性能、规模上限与场景覆盖持续联合打磨,让"在数仓里批量找相似"成为一种低门槛、可持续的常规能力。




郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

热门

一键全自动换电——泰州市首家蔚来第三代换电站在兴化戴南上线
一键全自动换电——泰州市首家蔚来第三代换电站

一辆新能源汽车稳稳地停到蔚来充换电一体站的停车平台上,汽车下部的换电装置自动开启,卸下用完电的电池,换上充足电的...更多>

喜报!中诚信托荣获深交所优秀债券投资交易机构奖项
喜报!中诚信托荣获深交所优秀债券投资交易机构

2月27日,深圳证券交易所组织召开2022年度债券监管发展业务座谈会,并表彰在服务国家重点战略、推进债券市场高质...更多>

人民银行:指导银行将个人信贷延期还款政策落到实处
人民银行:指导银行将个人信贷延期还款政策落到

2022年第一季度金融统计数据新闻发布会现场。人民网黄盛摄人民网北京4月14日电(黄盛)今日,中国人民银行(以下...更多>

发放消费券、举办消费节、推动线上线下消费融合,近期一批促消费措施密集推出—— 为消费升温积聚合力
发放消费券、举办消费节、推动线上线下消费融合

4月20日是海南离岛免税政策落地实施11周年。11年来,海南离岛免税销售金额和购物人数不断攀升,离岛免税购物已成...更多>

线上线下加速融合,新型业态惠民便民—— 商业新模式激发消费新活力
线上线下加速融合,新型业态惠民便民—— 商业

在上海街头,一家集合了艺术展览、画材、图书、生活家居、艺术衍生品、服装零售等多种业态内容的超级百货集合体验店,吸...更多>

聚焦

青松股份300132:业绩触底静待拐点
中信托平台资产登记正式开始
——企业债券贴息升级,金融政策持续发力助投资、降成本、助力平...更多>
视小仙常温系列:以品质工艺与多元品类服务家庭
视小仙常温系列是视小仙品牌面向家庭日常乳饮需求布局的主要产品...更多>
中企控股携手中国药科大学 产学研协同布局老
近日,中企控股旗下北京药食同源中医药有限公司与中国药科大学在...更多>
与世赛同行,这家企业把“人才第一”写进青年成
22日晚,第48届世界技能大赛在上海拉开帷幕。开幕式上,来自...更多>
杭州缝纫课|从一块布开始,越来越多人重新爱上
这几年,缝纫好像又重新回到了年轻人的生活里。以前提到裁缝,很...更多>
秋天来陆家嘴看一片“会发光的海”,上海海洋水
如果说秋天需要一点治愈感,那么水母大概是来自海洋的答案。10...更多>
“妈走了,你怎么办?”这句母亲的追问,今天被
母亲临终一句话,拍成了一部电影——《妈走了,你怎么办》今日广...更多>
寒露染山河,书香暖深秋:时代华语以治愈系书单
“寒露惊秋晚,朝看菊渐黄。”当寒露节气如约而至,全国大部分地...更多>
筑牢合规兑付底线 共享算力发展红利——中国梦
近日,国内智能算力运营平台中国梦智算正式发布公告,全面开放首...更多>
杨浩在2026核能核工业可持续发展国际论坛发
本报讯由中国核能行业协会主办的2026核能可持续发展国际论坛...更多>