推荐系统精排层的分片本地缓存方法及装置与流程

本申请涉及内容推荐与数据处理，尤其涉及一种推荐系统精排层的分片本地缓存方法及装置。

背景技术：

1、相关技术中，精排阶段需对召回的数千篇候选物料进行深度模型打分，单次打分延迟直接决定推荐系统的响应速度。当前主流优化方案是将物料特征常驻排序服务本地内存，消除远程特征查询开销。

技术实现思路

1、为解决或部分解决相关技术中存在的问题，本申请提供一种推荐系统精排层的分片本地缓存方法及装置，可以应用于物料推荐场景，在业务增长带来物料量激增前后，能够动态扩缩容，避免全量缓存会引发频繁垃圾回收，有利于提升精排服务响应速度支撑高效特征调用。

2、本申请第一方面提供一种推荐系统精排层的分片本地缓存方法，包括：满足目标触发条件，获取候选物料标识；接收精排打分服务的分片总量和为每个精排打分实例分配的分片编号；采用一致性哈希算法，根据候选物料标识、分片总量和分片编号，确定候选物料标识对应的归属分片编号；根据候选物料标识对应的归属分片编号，将候选物料标识对应的候选物料特征写入目标分片以本地缓存。

3、在一些实施方式中，采用一致性哈希算法，根据候选物料标识、分片总量和分片编号，确定候选物料标识对应的归属分片编号，包括：将候选物料标识编码为唯一性的无符号整数；采用一致性哈希算法，根据分片总量和分片编号对无符号整数进行哈希计算，确定候选物料标识对应的归属分片编号。

4、在一些实施方式中，根据候选物料标识对应的归属分片编号，将候选物料标识对应的候选物料特征写入目标分片以本地缓存，包括：响应于接收到来自调度端的广播调用请求，根据广播调用请求获取候选物料标识；根据候选物料标识对应的归属分片编号和本机的分片编号进行归属判定；若确定候选物料标识对应的归属分片编号和本机的分片编号二者匹配，则将候选物料标识对应的候选物料特征写入目标分片以本地缓存。

5、在一些实施方式中，方法还包括：精排打分实例从本机的本地缓存读取候选物料特征；将候选物料特征输入打分模型，得到打分模型输出的打分结果。

6、在一些实施方式中，方法还包括：获取各精排打分实例对应的打分结果，并过滤空结果，得到有效打分结果；根据有效打分结果生成精排排序结果。

7、本申请第二方面提供一种推荐系统精排层的分片本地缓存装置，该装置包括：获取模块，用于满足目标触发条件，获取候选物料标识；接收模块，用于接收精排打分服务的分片总量和为每个精排打分实例分配的分片编号；确定模块，用于采用一致性哈希算法，根据候选物料标识、分片总量和分片编号，确定候选物料标识对应的归属分片编号；缓存模块，用于根据候选物料标识对应的归属分片编号，将候选物料标识对应的候选物料特征写入目标分片以本地缓存。

8、本申请第三方面提供一种电子设备，包括：

9、处理器；以及

10、存储器，其上存储有可执行代码，当所述可执行代码被所述处理器执行时，使所述处理器执行如上所述的方法。

11、本申请第四方面提供一种计算机可读存储介质，其上存储有可执行代码，当所述可执行代码被电子设备的处理器执行时，使所述处理器执行如上所述的方法。

12、本申请提供的技术方案可以包括以下有益效果：

13、本申请提供的技术方案，可以应用于物料推荐场景，在业务增长带来物料量激增前后，能够动态扩缩容，避免全量缓存会引发频繁垃圾回收，有利于提升精排服务响应速度支撑高效特征调用。

14、应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本申请。

1.一种推荐系统精排层的分片本地缓存方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述采用一致性哈希算法，根据所述候选物料标识、所述分片总量和所述分片编号，确定所述候选物料标识对应的归属分片编号，包括：

3.根据权利要求1所述的方法，其特征在于，所述根据所述候选物料标识对应的归属分片编号，将所述候选物料标识对应的候选物料特征写入目标分片以本地缓存，包括：

4.根据权利要求3所述的方法，其特征在于，所述方法还包括：

5.根据权利要求4所述的方法，其特征在于，所述方法还包括：

6.一种推荐系统精排层的分片本地缓存装置，其特征在于，包括：

7.根据权利要求6所述的装置，其特征在于，所述确定模块，包括：

8.根据权利要求6所述的装置，其特征在于，所述缓存模块，包括：

9.一种电子设备，其特征在于，包括：

10.一种计算机可读存储介质，其上存储有可执行代码，当所述可执行代码被电子设备的处理器执行时，使所述处理器执行如权利要求1-5中任一项所述的方法。