-
公开(公告)号:CN119252022A
公开(公告)日:2025-01-03
申请号:CN202411349688.4
申请日:2024-09-26
Applicant: 浙江大学
IPC: G08G1/01 , G06F18/2411 , G06F18/214 , G06N3/0455
Abstract: 本发明公开一种多层次嵌入的基于预训练大语言模型的交通流时空预测方法,其中的交通流时空预测模型包括时空嵌入层、多层时间编码网络、分词对齐层、预训练大语言模型和交通流解码层;通过自适应的交通流时空嵌入和多层时间编码网络,构建并捕获交通流复杂的动态时空关系;通过分词对齐层将以节点维度分词描述时间语义信息的交通流节点tokens与提示文本tokens对齐结合;最后,将融合了历史特征、动态时空特征和提示文本特征的多层次嵌入输入预训练大语言模型,通过训练大语言模型完成下游预测任务。本发明的方法能够提高预测精度,并减少可训练参数。
-
公开(公告)号:CN119226888A
公开(公告)日:2024-12-31
申请号:CN202411370323.X
申请日:2024-09-29
Applicant: 浙江大学
IPC: G06F18/241 , G06F18/22 , G06N3/0895 , G06N3/088 , G06N3/09 , G06F18/213 , G06N3/047
Abstract: 本发明公开了一种持续无监督域适应故障诊断方法,采集旋转机械设备的源域和目标域故障数据;采取基于度量和表征学习的原型对比学习策略,用源域数据预训练故障诊断模型,得到均匀分割的单位超球面特征空间,故障诊断模型包括特征提取器和余弦相似度分类器;冻结源域预训练得到的原型,对故障诊断模型进行结合源域数据的有监督训练,实现对目标域的持续域适应;进行源特征知识蒸馏和局部域对齐,并最大化特征与原型之间的互信息损失,结合源域数据对故障诊断模型进行有监督训练;故障诊断模型完成当前所有目标域的学习后,应用到实际故障诊断中。本发明能快速有效地适应新的数据分布,并保持模型在历史数据分布上的性能,避免知识遗忘。
-
公开(公告)号:CN118488075A
公开(公告)日:2024-08-13
申请号:CN202410588289.7
申请日:2024-05-13
Applicant: 浙江大学
Abstract: 本发明公开一种基于区块链的车联网联邦学习方法,通过向车联网联邦学习引入区块链技术,利用智能合约协调车辆客户端之间的协作,消除了联邦学习对中心化服务器的依赖,避免了源自不诚实中心化服务器的安全威胁;通过对客户端上传的本地模型进行验证,判别并排除了恶意客户端上传的投毒模型,从而保护全局模型性能;引入基于区块链的虚拟货币作为激励手段,从本地模型精度和模型更新幅度两个方面评价车辆客户端在联邦学习中的贡献,鼓励良性客户端投入本地数据和计算资源;对投毒攻击或搭便车的恶意客户端进行惩罚,从而维护在车联网中协作建模的公平性。
-
-