公开(公告)号：CN118861211A

公开(公告)日：2024-10-29

申请号：CN202411331303.1

申请日：2024-09-24

Applicant: 浙江大学

Inventor： 陈璐 ,  谭博宇 ,  房子荃 ,  高云君

IPC: G06F16/33 ,  G06F16/31 ,  G06F16/583 ,  G06F16/51 ,  G06F16/783 ,  G06F16/71 ,  G06F16/29

Abstract: 本发明公开了一种基于度量索引的多模态数据检索方法及装置，该方法包括：获取多模态数据，每条多模态数据包括不同模态的数据元素和该多模态数据产生的时间戳，多模态数据包括文本模态数据、图像模态数据、视频模态数据、地理信息模态数据中的若干种；提取多模态数据的关键属性信息；对关键属性信息进行优化，得到优化特征，从而基于关键属性信息和优化特征形成多模态嵌入向量；根据多模态嵌入向量，基于SPBTree、Mtree和M3Tree构建多索引结构框架；获取用户输入的查询信息，对查询信息进行关键属性信息提取及优化，得到查询向量，基于多索引结构框架进行查询向量的匹配，从而实现多模态数据检索。

公开(公告)号：CN118861211B

公开(公告)日：2025-03-11

申请号：CN202411331303.1

申请日：2024-09-24

Applicant: 浙江大学

Inventor： 陈璐 ,  谭博宇 ,  房子荃 ,  高云君

IPC: G06F16/334 ,  G06F16/31 ,  G06F16/583 ,  G06F16/51 ,  G06F16/783 ,  G06F16/71 ,  G06F16/29

Abstract: 本发明公开了一种基于度量索引的多模态数据检索方法及装置，该方法包括：获取多模态数据，每条多模态数据包括不同模态的数据元素和该多模态数据产生的时间戳，多模态数据包括文本模态数据、图像模态数据、视频模态数据、地理信息模态数据中的若干种；提取多模态数据的关键属性信息；对关键属性信息进行优化，得到优化特征，从而基于关键属性信息和优化特征形成多模态嵌入向量；根据多模态嵌入向量，基于SPBTree、Mtree和M3Tree构建多索引结构框架；获取用户输入的查询信息，对查询信息进行关键属性信息提取及优化，得到查询向量，基于多索引结构框架进行查询向量的匹配，从而实现多模态数据检索。