- 专利标题: 攻击防御方法、装置、终端设备以及存储介质
-
申请号: CN202410132758.4申请日: 2024-01-31
-
公开(公告)号: CN117675415B公开(公告)日: 2024-04-19
- 发明人: 王智民
- 申请人: 北京六方云信息技术有限公司 , 北京六方云科技有限公司
- 申请人地址: 北京市海淀区上地信息路12号1幢2层C202室;
- 专利权人: 北京六方云信息技术有限公司,北京六方云科技有限公司
- 当前专利权人: 北京六方云信息技术有限公司,北京六方云科技有限公司
- 当前专利权人地址: 北京市海淀区上地信息路12号1幢2层C202室;
- 代理机构: 北京恒程知识产权代理有限公司
- 代理商 许峰
- 主分类号: H04L9/40
- IPC分类号: H04L9/40
摘要:
本发明公开了一种攻击防御方法、装置、终端设备以及存储介质,接收用户输入的用户提示文本;根据所述用户提示文本,生成用户提示请求并发送至模型端,由所述模型端将所述用户提示请求输入到预设的生成式大模型中进行提示应答,获取模型提示响应;接收所述模型端发送的模型提示响应;基于预设的提取信息攻击识别规则,根据所述模型提示响应进行攻击识别,获取提取信息攻击识别结果,并根据所述提取信息攻击识别结果采取对应的防御措施,所述提取信息攻击识别规则基于所述生成式大模型进行规则生成得到。实现了对生成式大模型注入攻击防御场景中提取信息注入攻击的防御,提高了对攻击识别的准确性以及生成式大模型应答的安全性。
公开/授权文献
- CN117675415A 攻击防御方法、装置、终端设备以及存储介质 公开/授权日:2024-03-08