一种大语言模型分层加载方法及装置

    公开(公告)号:CN117349034B

    公开(公告)日:2024-02-23

    申请号:CN202311650783.3

    申请日:2023-12-05

    Abstract: 本发明提供了一种大语言模型分层加载方法及装置,属于模型加载技术领域。方法包括:根据大语言模型的模型层次结构,在内存中创建对应的空模型,并确定空模型中参数层的元数据信息;依据空模型中参数层的元数据信息进行空间占用计算,并根据空间占用计算结果确定空模型中参数层的设备分布状况;基于空模型中参数层的设备分布状况,从磁盘中分层加载空模型的模型参数权重,并将分层加载的模型参数权重拷贝至空模型中各参数层对应的分布设备;释放已拷贝至分布设备的模型参数权重所占用的内存资源,完成大语言模型的分层加载。本发明可以大幅度提升模型的加载速度,减少模型的加载时间,实现了时间资源与空间资源的模型双向优化加载。

    大数据量去重接口数据采集方法、装置、设备及存储介质

    公开(公告)号:CN117390007A

    公开(公告)日:2024-01-12

    申请号:CN202311677011.9

    申请日:2023-12-08

    Abstract: 本发明公开了一种大数据量去重接口数据采集方法、装置、设备及存储介质,该方法包括:采集接口数据、数据标识、建立数据索引和数据去重;本发明通过配置的接口信息,以分片广播的任务执行方式循环获取接口数据,再通过计算每条数据的散列值,用以生成每条数据的唯一标识,最后利用位图数据结构建立数据索引,以此判断数据是否重复,由此,能够提高数据质量,节省存储空间,提高数据采集效率,具有空间利用率高、时间效率高等优点,能够快速准确地判断重复数据,提高了数据采集的效率和准确性,特别适合大数据量的去重判断。

    灭火控制方法、装置、设备及存储介质

    公开(公告)号:CN116350986B

    公开(公告)日:2023-11-17

    申请号:CN202310394435.8

    申请日:2023-04-13

    Abstract: 本发明公开了一种灭火控制方法、装置、设备及存储介质,所述方法包括:在接收到灭火信号时,获取目标区域中每个距离感应装置采集的与其余距离感应装置的距离值;根据所述距离值,生成灭火控制指令;将所述灭火控制指令发送至灭火控制组件,以使对应的灭火控制组件执行灭火动作。本发明通过获取目标区域中每个距离感应装置采集的与其余距离感应装置的距离值,以此来判断目标区域中是否有人员遗留,进而控制对应的灭火控制组件执行灭火动作,解决了现有技术中区域灭火无法通过简单、低成本的方式判断目标区域中的人员遗留问题。

    一种航迹关联方法及装置
    84.
    发明授权

    公开(公告)号:CN116451177B

    公开(公告)日:2023-09-12

    申请号:CN202310710837.4

    申请日:2023-06-15

    Abstract: 本申请公开了一种航迹关联方法及装置,属于航迹分析技术领域,方法包括获取待分析航迹数据集;将待分析航迹数据集输入预设航迹关联模型进行时空关联的航迹有效关联融合分析,获得初始航迹关联分析结果;依据预设衡量指标对初始航迹关联分析结果进行评估处理,获得最终的航迹有效关联结果。本申请通过预设航迹关联模型对多传感器采集的待分析航迹数据进行有效关联融合分析,提取出多航迹目标的时间和空间特征,完成对航迹目标的时空关联分析和目标分类。同时根据预设衡量指标对航迹关联分析结果进行评估,获得最终的航迹有效关联结果,实现了在多场景任务中多源航迹的有效关联,提高了对航迹数据信息的分析整合效率。

    一种结合实体属性图的自动文本摘要方法

    公开(公告)号:CN116562275A

    公开(公告)日:2023-08-08

    申请号:CN202310680690.9

    申请日:2023-06-09

    Abstract: 本申请公开了一种结合实体属性图的自动文本摘要方法,属于自动文本摘要技术领域,方法先获取训练数据集,并采用自然语言处理工具对训练数据集进行解析处理,获得解析处理结果,依据解析处理结果,为训练数据集中的样本构建实体属性图;训练数据集包括原文本和标准摘要文本;对预训练语言模型进行结构改进,获得改进预训练语言模型,并分别将训练数据集的原文本和实体属性图输入改进预训练语言模型进行编码,获得文本上下文向量和图上下文向量;对文本上下文向量和图上下文向量进行联合解码,并以标准摘要文本为监督信号,生成原文本对应的文本摘要。本申请减少了文本摘要生成过程中的一致性错误,提高了摘要质量。

    一种防疫管理调度系统
    86.
    发明授权

    公开(公告)号:CN115881286B

    公开(公告)日:2023-06-16

    申请号:CN202310141101.X

    申请日:2023-02-21

    Abstract: 本发明公开了一种防疫管理调度系统,包括刷脸认证模块、重点区域门禁模块、监控调度中心、人员轨迹监管模块和门户管理模块;刷脸认证模块用于医护人员登录系统时进行刷脸身份认证;重点区域门禁模块用于对重点区域的人员流动情况进行监管和出入控制;人员轨迹监管模块用于对医院内出入的人员人脸图像进行实时抓拍,对重点人员的实时轨迹进行跟踪监控;门户管理模块用于对医院业务应用系统和管理类系统进行统一管理;监控调度中心用于以3D GIS地图为基础展示医院监控区域的事件信息和人员轨迹信息,并对全局资源进行统一管理和调度。本发明能抓取重点人群轨迹进行数据分析,实现全局资源的可视化展示、智能预警、统一管理和调度。

    基于知识表示增强的图像目标关系识别算法

    公开(公告)号:CN115861715B

    公开(公告)日:2023-05-09

    申请号:CN202310113097.6

    申请日:2023-02-15

    Abstract: 本发明涉及图像特征识别领域,特别是指基于知识表示增强的图像目标关系识别算法,本发明解决了现有技术中因设备所采集的稀疏图像数据无法使用常规的视觉与语义混合特征来进行视觉关系检测的问题。本发明包括以下步骤:A视觉特征采集;B知识图谱建立;C其他信息来源获取;D特征映射。本发明很好地解决物联网图像数据稀疏而无法使用传统视觉关系检测算法的问题。本发明提出的基于知识表示增强的模型不仅引入先验知识来弥补输入数据稀疏的不足,还通过减少用于提取关系的视觉特征的参数并设计一个将视觉特征与先验知识相结合的损失函数,提高了视觉关系检测的效率及表现。

    一种边缘网关云服务管理系统

    公开(公告)号:CN114666554B

    公开(公告)日:2023-04-11

    申请号:CN202210563053.9

    申请日:2022-05-23

    Abstract: 本发明公开了一种边缘网关云服务管理系统,包括设备管理模块、实时视频模块、历史视频模块、画面质量检测模块、人脸识别模块、用户管理模块和系统管理模块。设备管理模块提供Edge集中式管理并统一配置插件。实时视频模块提供所有接入实时视频查看和实时视频分享。历史视频模块提供历史视频列表查询、视频查看和下载。画面质量检测模块进行画面质量检测配置。人脸识别模块通过调节参数进行以图搜图和搜索抓拍记录,根据摄像头记录时间和地点形成人员轨迹图。用户管理模块通过多租户形式对用户数据进行隔离为多个用户提供服务。本发明可以汇聚大部分不同厂商生产的监控设备,且具备可以持续扩展能力,可简单迅速提升Edge视频并发观看能力。

    基于知识表示增强的图像目标关系识别算法

    公开(公告)号:CN115861715A

    公开(公告)日:2023-03-28

    申请号:CN202310113097.6

    申请日:2023-02-15

    Abstract: 本发明涉及图像特征识别领域,特别是指基于知识表示增强的图像目标关系识别算法,本发明解决了现有技术中因设备所采集的稀疏图像数据无法使用常规的视觉与语义混合特征来进行视觉关系检测的问题。本发明包括以下步骤:A视觉特征采集;B知识图谱建立;C其他信息来源获取;D特征映射。本发明很好地解决物联网图像数据稀疏而无法使用传统视觉关系检测算法的问题。本发明提出的基于知识表示增强的模型不仅引入先验知识来弥补输入数据稀疏的不足,还通过减少用于提取关系的视觉特征的参数并设计一个将视觉特征与先验知识相结合的损失函数,提高了视觉关系检测的效率及表现。

Patent Agency Ranking