一种数据处理方法、装置和电子设备与流程

摘要: 本公开一般涉及数据处理技术,尤其涉及一种数据处理方法、装置和电子设备。背景技术:1、随着大模型技术的快速发展,人们对于针对大模型的数据处理的关注也日益提升。特别...
一种数据处理方法、装置和电子设备与流程

本公开一般涉及数据处理技术,尤其涉及一种数据处理方法、装置和电子设备。

背景技术:

1、随着大模型技术的快速发展,人们对于针对大模型的数据处理的关注也日益提升。特别地,针对大模型的内容安全检测,更是成为了研究的重点之一。有效、可靠、灵活的大模型安全检测不仅可以防范有害内容生成、发布与传播,更能够‌保障数据隐私的安全。

2、近年来,针对大模型的安全监测,主要采用基于规则进行检测的方式。然而,目前基于规则进行检测的方式尚不存在完善,往往会导致检测结果不准确。这样一来,如何有效、可靠、灵活地进行针对大模型的数据处理,就成为了亟需解决的问题。

技术实现思路

1、本公开实施例针对背景技术中所涉及的一些缺陷,提供一种数据处理方法、装置和电子设备。

2、在第一方面,本公开实施例提供一种数据处理方法,包括:接收目标内容检测模型和目标规则检测模型,并根据目标内容检测模型和目标规则检测模型,设置安全拦截器;基于安全拦截器和目标内容检测模型,对请求进行内容检测,以得到内容检测结果,并基于安全拦截器和目标规则检测模型,进行规则检测,以得到规则检测结果;根据内容检测结果和/或规则检测结果,对请求进行处理;响应于内容检测结果为放行,且规则检测结果为拦截,对目标内容检测模型进行更新,以在更新完成后使用更新后的目标内容检测模型进行内容检测。

3、在第二方面,本公开实施例提供一种数据处理装置,包括:安全拦截器设置单元,用于接收目标内容检测模型和目标规则检测模型,并根据目标内容检测模型和目标规则检测模型,设置安全拦截器;检测单元,用于基于安全拦截器和目标内容检测模型,对请求进行内容检测,以得到内容检测结果,并基于安全拦截器和目标规则检测模型,进行规则检测,以得到规则检测结果;请求处理单元,用于根据内容检测结果和/或规则检测结果,对请求进行处理;模型更新单元,用于响应于内容检测结果为放行,且规则检测结果为拦截,对目标内容检测模型进行更新,以在更新完成后使用更新后的目标内容检测模型进行内容检测。

4、在第三方面,本公开实施例提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行程序时,实现第一方面所述的方法。

5、在第四方面,本公开实施例提供一种处理器可读存储介质,处理器可读存储介质存储有计算机程序,计算机程序用于使处理器执行第一方面所述的方法。

6、在第五方面,本公开实施例提供一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时,实现第一方面所述的方法。

7、本公开提供的实施例,至少具有如下有益技术效果:

8、根据本公开实施例的一种数据处理方法,可以通过接收目标内容检测模型和目标规则检测模型,并根据目标内容检测模型和目标规则检测模型,设置安全拦截器,然后基于安全拦截器和目标内容检测模型,对请求进行内容检测,以得到内容检测结果,并基于安全拦截器和目标规则检测模型,进行规则检测,以得到规则检测结果。进一步地,可以根据内容检测结果和/或规则检测结果,对请求进行处理,响应于内容检测结果为放行,且规则检测结果为拦截,对目标内容检测模型进行更新,以在更新完成后使用更新后的目标内容检测模型进行内容检测。由此,本公开实施例能够通过实施多模态融合的自我学习的动态内容检测机制,通过目标规则检测模型与目标内容检测模型协同工作,实现业务系统请求全流程实时拦截与智能升级,解决传统静态规则检测滞后性问题,提高了数据处理过程中的有效性、可靠性和灵活性。

9、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,在所述基于所述安全拦截器和所述目标内容检测模型,对请求进行内容检测之前,还包括:

3.根据权利要求2所述的方法,其特征在于,所述基于所述安全拦截器和所述目标内容检测模型,对请求进行内容检测,包括:

4.根据权利要求3所述的方法,其特征在于,所述目标内容检测模型至少包括多模态特征融合塔、上下文状态机、动态检测头和输出层,所述基于所述安全拦截器,将所述请求响应结构体输入至所述目标内容检测模型中,由所述目标内容检测模型对请求进行内容检测,包括:

5.根据权利要求2所述的方法,其特征在于,在所述基于所述安全拦截器和所述目标规则检测模型,进行规则检测之前,还包括:

6.根据权利要求5所述的方法,其特征在于,所述基于所述安全拦截器和所述目标规则检测模型,进行规则检测,包括:

7.根据权利要求5所述的方法,其特征在于,所述响应于所述内容检测结果为放行,且所述规则检测结果为拦截,对所述目标内容检测模型进行更新,包括:

8.一种数据处理装置,其特征在于,包括:

9.一种电子设备,其特征在于,包括:

10.一种处理器可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序用于使处理器执行如权利要求1-7任一项所述的方法。