内容处理方法、装置、电子设备及存储介质与流程
本公开涉及人工智能,尤其涉及一种内容处理方法、装置、电子设备及存储介质。
背景技术:
1、虚拟社区可以是指通过互联网技术构建的、以共同兴趣或需求为纽带形成的线上互动空间,用户通过数字化手段进行信息共享、社交互动及文化共建用户可以通过虚拟社区找到志同道合的伙伴。虚拟社区内容可以包括文本,图片,视频,音频等等各种形式内容,随着虚拟社区内容的丰富和增长,内容本身的质量也是层次不齐,导致大量的各种内容与虚拟社区相关或者不相干内容出现,同时也影响了虚拟社区内部优质内容的产出和分发。
2、当前对虚拟社区的内容管理方式主要包括平台内容审核与社区管理方运营管理,平台会依据平台本身定位和政策法规的监管要求,对一些安全规则相关的内容,包括底线安全和平台安全,这个是内容的底线平台统一处理,还有其他的一些偏向社区内容规则的内容问题,比如相关性低,谩骂/吵架/不文明发言等内容处理,通常是通过频道运营人员收集严格标记样本来训练一些监督的算法模型,通过模型识别和召回相关的内容。由于这些内容本身主观性很强,模型召回的一部分内容通常需要机器与人工协助一起审核,同时社区管理方作为虚拟社区的实际管理人员,在虚拟社区的日常内容巡检过程当中,也会参与虚拟社区的内容管理和成员管理。因此,在上述方案中存在模型训练成本高,虚拟社区的运维复杂度高且运维效率低的问题。
技术实现思路
1、有鉴于上述存在的技术问题,本公开提出了一种内容处理方法、装置、电子设备及存储介质。
2、根据本公开实施例的一方面,提供一种内容处理方法,包括:
3、在接收到目标对象对应的内容处理指令的情况下,获取所述目标对象对应的目标虚拟社区的预设参考内容集合;所述预设参考内容集合用于指示针对所述目标虚拟社区对应的内容处理的限制条件,所述预设参考内容集合反映所述目标对象针对所述目标虚拟社区的规则设定偏好,所述内容处理指令包括内容处理指示信息;
4、对所述内容处理指示信息和所述预设参考内容集合进行匹配处理,得到所述内容处理指令对应的目标匹配内容信息;
5、将所述目标匹配内容信息和所述内容处理指示信息输入至预设内容处理模型进行内容处理,得到目标内容处理结果。
6、根据本公开实施例的另一方面,提供一种内容处理装置,包括:
7、第一数据获取模块,用于在接收到目标对象对应的内容处理指令的情况下,获取所述目标对象对应的目标虚拟社区的预设参考内容集合;所述预设参考内容集合用于指示针对所述目标虚拟社区对应的内容处理的限制条件,所述预设参考内容集合反映所述目标对象针对所述目标虚拟社区的规则设定偏好,所述内容处理指令包括内容处理指示信息;
8、第一匹配处理模块,用于对所述内容处理指示信息和所述预设参考内容集合进行匹配处理,得到所述内容处理指令对应的目标匹配内容信息;
9、内容处理模块,用于将所述目标匹配内容信息和所述内容处理指示信息输入至预设内容处理模型进行内容处理,得到目标内容处理结果。
10、可选的,所述预设参考内容集合包括至少一个第一参考内容信息;所述装置还包括:
11、第二数据获取模块,用于获取所述目标虚拟社区对应的异常社区对象对应的异常对象标识信息和所述异常社区对象对应的异常内容描述信息;所述异常对象标识信息和所述异常内容描述信息为所述目标对象针对所述目标虚拟社区执行异常标识输入操作生成的;
12、第三数据获取模块,用于基于所述异常对象标识信息和所述异常内容描述信息,获取所述异常社区对象对应的至少一个异常社区内容信息;所述异常社区内容信息为所述异常社区对象在所述目标虚拟社区中发布的异常内容信息;
13、第一内容生成模块,用于基于所述异常对象标识信息、所述异常内容描述信息和所述至少一个异常社区内容信息,生成所述至少一个第一参考内容信息。
14、可选的,所述第三数据获取模块包括:
15、社区内容获取模块,用于基于所述异常对象标识信息,获取所述异常社区对象对应的至少一个对象社区内容信息;
16、社区内容筛选模块,用于基于所述异常内容描述信息,从所述至少一个对象社区内容信息中,筛选出所述至少一个异常社区内容信息。
17、可选的,所述装置还包括:
18、第四数据获取模块,用于获取所述目标虚拟社区对应的对象管理操作数据;所述对象管理操作数据用于记录所述目标对象针对所述目标虚拟社区中至少一个社区对象的管理操作内容;
19、操作数据筛选模块,用于从所述对象管理操作数据中,筛选出目标管理操作数据;所述目标管理操作数据为对应的对象管理操作的操作类型属于异常行为管理类型的管理操作数据;
20、对象标识生成模块,用于将所述目标管理操作数据对应的社区对象的对象标识信息,作为所述异常对象标识信息。
21、可选的,所述预设参考内容集合包括至少一个第二参考内容信息;所述装置还包括:
22、内容特征提取模块,用于基于所述至少一个异常社区内容信息进行内容特征提取,得到所述至少一个异常社区内容信息各自对应的社区内容特征信息;
23、重复特征获取模块,用于基于所述社区内容特征信息,确定重复内容特征信息;所述重复内容特征信息包括所述社区内容特征信息中对应的重复率高于预设重复率的至少一个子特征信息;
24、第二内容生成模块,用于基于所述至少一个子特征信息,生成所述至少一个第二参考内容信息。
25、可选的,所述预设参考内容集合包括至少一个第三参考内容信息;所述装置还包括:
26、第五数据获取模块,用于获取所述目标虚拟社区对应的至少一个目标社区内容信息和每个目标社区内容信息对应的参考标签信息;所述参考标签信息用于指示所述每个目标社区内容信息是否满足所述限制条件;
27、思维链生成模块,用于基于所述每个目标社区内容信息对应的参考标签信息,对所述每个目标社区内容信息进行思维链生成处理,得到所述每个目标社区内容信息对应的思维链描述信息;所述每个目标社区内容信息对应的思维链描述信息用于指示基于所述每个目标社区内容信息推理得到所述每个目标社区内容信息对应的参考标签信息的中间思路过程;
28、第三内容生成模块,用于基于所述每个目标社区内容信息和所述每个目标社区内容信息对应的思维链描述信息,生成所述至少一个第三参考内容信息。
29、可选的,所述预设参考内容集合包括至少一个第四参考内容信息;所述装置还包括:
30、历史对话获取模块,用于获取所述目标对象对应的历史对话内容信息;所述历史对话内容信息用于描述所述目标对象与所述目标虚拟社区对应的虚拟社区管理对象之间的对话内容;
31、规则内容提取模块,用于对所述历史对话内容信息进行管理规则内容提取,得到所述至少一个第四参考内容信息。
32、可选的,所述装置还包括:
33、描述扩展模块,用于对所述内容处理指示信息进行描述扩展处理,得到至少一个扩展处理指示信息;
34、第二匹配处理模块,用于对所述至少一个扩展处理指示信息中每个扩展处理指示信息和所述预设参考内容集合进行匹配处理,得到所述每个扩展处理指示信息对应的扩展匹配内容信息;
35、融合处理模块,用于对所述至少一个扩展处理指示信息对应的扩展匹配内容信息和所述目标匹配内容信息进行融合处理,得到融合匹配内容信息;
36、相应的,所述内容处理模块530包括:
37、执行模块,用于将所述融合匹配内容信息和所述内容处理指示信息输入至所述预设内容处理模型进行内容处理,得到所述目标内容处理结果。
38、根据本公开实施例的另一方面,提供一种电子设备,包括:处理器;用于存储计算机程序的存储器;其中,所述处理器被配置为执行所述计算机程序,以实现上述内容处理方法。
39、根据本公开实施例的另一方面,提供一种计算机可读存储介质,当所述存储介质中的计算机程序由电子设备的处理器执行时,使得所述电子设备能够执行上述内容处理方法。
40、根据本公开实施例的另一方面,提供一种包含计算机程序的计算机程序产品,当其在计算机上运行时,使得计算机执行上述内容处理方法。
41、本公开的实施例提供的技术方案至少带来以下有益效果:
42、通过在接收到目标对象对应的内容处理指令的情况下,获取目标对象对应的目标虚拟社区的预设参考内容集合,所述预设参考内容集合用于指示针对所述目标虚拟社区对应的内容处理的限制条件,所述预设参考内容集合反映所述目标对象针对所述目标虚拟社区的规则设定偏好,所述内容处理指令包括内容处理指示信息,可以实现包含有目标对象的规则设定偏好的预设参考内容集合的获取,再对所述内容处理指示信息和所述预设参考内容集合进行匹配处理,得到所述内容处理指令对应的目标匹配内容信息,可以实现与内容处理指令相关联的参考内容信息的快速获取,接着,将所述目标匹配内容信息和所述内容处理指示信息输入至预设内容处理模型进行内容处理,得到目标内容处理结果,可以提高内容处理效率和内容处理准确度,降低模型训练成本,进而可以降低虚拟社区运维复杂度,提高运维效率,提升用户体验。
43、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com