国内刊号:11-2560/TP
国际刊号:1000-9825
发布日期:
作者:王嘉翼,徐士惠,李国良
单位:王嘉翼,清华大学 计算机科学与技术系, 北京 10008411,徐士惠,清华大学 计算机科学与技术系, 北京 10008402,李国良,清华大学 计算机科学与技术系, 北京 10008403
关键词:K近邻图;近似最近邻搜索;嵌入模型
基金:国家重点研发计划 (2023YFB4503600); 国家自然科学基金 (62525202, 62232009); 深圳市承接国家重大科技项目 (CJGJZD20230724093403007); 高速铁路与城轨交通系统技术国家工程研究中心实验室基础研究项目&中国国家铁路集团有限公司科技研究开发计划 (L2024W001)
在高维数据处理中, K近邻图作为一种关键的数据结构, 广泛应用于聚类、图神经网络和推荐系统等领域. 然而, 随着预训练嵌入模型在非结构化数据建模与检索中的广泛使用, 嵌入模型的微调逐渐成为提升嵌入向量的语义表示能力的核心步骤. 嵌入微调通常会导致全部数据的向量表示发生系统性变化, 从而使原有K近邻图的邻接关系失效. 现有研究主要关注于如何为静态数据构建K近邻图, 缺乏对微调后的嵌入向量进行快速适应的研究. 为此, 提出一种面向嵌入模型微调场景的高效K近邻图更新方法FastAdjust. 该方法基于嵌入模型微调为每条数据嵌入带来的影响较小的观察, 通过局部更新策略对原始K近邻图进行增量调整, 在确保最终K近邻图质量的同时, 显著提升更新效率. 具体而言, 首先, FastAdjust利用基于乘积量化的聚类结构, 为每条数据高效且准确地定位可能成为邻居的数据子集, 缩小候选邻居搜索范围; 其次, 基于数据密度和嵌入变化幅度, FastAdjust结合二者与数据K近邻变化程度的相关性, 为邻居关系变化程度不同的数据针对性地分配不同的更新资源, 从而提升整体更新效率. 真实数据集上的实验结果表明, FastAdjust在嵌入模型微调的场景下能够快速调整K近邻图, 准确地适应数据嵌入的变化, 同时大幅减少计算开销, 具有良好的实用价值和扩展性.
来源:2026年第3期
《软件学报》期刊编辑部