公开(公告)号：CN113887694B

公开(公告)日：2025-03-04

申请号：CN202010629307.3

申请日：2020-07-01

Applicant: 复旦大学 ,  珠海复旦创新研究院

Inventor： 杨卫东 ,  杜博亚

IPC: G06N3/045 ,  G06N3/047 ,  G06N3/0499 ,  G06N3/08 ,  G06F17/16

Abstract: 为了根据待测对象的对象特征完成点击率预估，可作为数据精排环节应用于企业级推荐系统、搜索系统和在线广告系统等领域。本发明提供一种注意力机制下基于特征表征的点击率预估模型，该模型包括：特征嵌入层，用于将连续型特征和离散型特征进行矢量化处理进而形成堆叠特征、显式特征交叉网络，通过注意力交叉网络将堆叠特征进行显式特征组合、隐式特征交叉网络，通过多层感知机将堆叠特征进行隐式特征组合以及预估概率输出层，根据接收到的组合特征对点击率进行预估。其中，注意力交叉网络消除了预估模型对人工特征工程的依赖，同时注意力机制的引入，区分了各组合特征对模型预估的重要性，消除了无用、冗余特征对模型的影响。

公开(公告)号：CN113887694A

公开(公告)日：2022-01-04

申请号：CN202010629307.3

申请日：2020-07-01

Applicant: 复旦大学 ,  珠海复旦创新研究院

Inventor： 杨卫东 ,  杜博亚

IPC: G06N3/04 ,  G06N3/08 ,  G06F17/16

Abstract: 为了根据待测对象的对象特征完成点击率预估，可作为数据精排环节应用于企业级推荐系统、搜索系统和在线广告系统等领域。本发明提供一种注意力机制下基于特征表征的点击率预估模型，该模型包括：特征嵌入层，用于将连续型特征和离散型特征进行矢量化处理进而形成堆叠特征、显式特征交叉网络，通过注意力交叉网络将堆叠特征进行显式特征组合、隐式特征交叉网络，通过多层感知机将堆叠特征进行隐式特征组合以及预估概率输出层，根据接收到的组合特征对点击率进行预估。其中，注意力交叉网络消除了预估模型对人工特征工程的依赖，同时注意力机制的引入，区分了各组合特征对模型预估的重要性，消除了无用、冗余特征对模型的影响。