一种基于数据分析的项目筛选智能监管系统及方法与流程

摘要: 本发明涉及数据分析,具体为一种基于数据分析的项目筛选智能监管系统及方法。背景技术:1、在智能推荐、多源信息融合及分布式数据处理领域,经常需要将多个独立数据源对同...
一种基于数据分析的项目筛选智能监管系统及方法与流程

本发明涉及数据分析,具体为一种基于数据分析的项目筛选智能监管系统及方法。

背景技术:

1、在智能推荐、多源信息融合及分布式数据处理领域,经常需要将多个独立数据源对同一批待筛选对象的评估结果进行融合,以生成全局推荐排序或决策依据。例如,在个性化推荐系统中,不同用户行为通道可视为不同的需求节点,需要对商品进行综合评分;在物联网边缘计算中,多个传感器节点对同一计算任务的资源需求进行评估,需要筛选出最优的任务分配策略。而在企业的项目筛选中由于企业存在部门较多,因此也需要将不同信息进行融合处理分析;

2、在现有技术中对数据进行融合多使用加权平均融合和分布式共识算法,而现有的加权平均融合方法通常假设各数据源提供的评估值具有一致的量纲和可信度。当不同需求节点对同一筛选节点的评估值存在显著冲突时,简单的加权平均会得到一个中间值,但该值无法反映节点间的实际分歧程度,且当冲突持续存在时,融合结果往往偏离真实情况。

3、现有分布式共识算法允许节点通过邻居交换信息迭代更新自身的估计值,最终使全网数值趋于一致。但是,这些算法仅处理一维数值,无法处理多维特征空间中节点之间的“偏好方向”差异。当节点在多维特征空间中的偏好方向不同时,现有共识算法需要大量迭代轮次才能收敛,甚至在非凸偏好空间中出现震荡不收敛,严重影响系统实时性。

4、综上所述,为解决现有技术所存在的融合结果往往偏离真实情况、无法处理多维特征空间中节点之间的“偏好方向”差异等技术缺陷,亟需提供一种基于数据分析的项目筛选智能监管系统及方法。

技术实现思路

1、本发明的目的在于提供一种基于数据分析的项目筛选智能监管系统及方法,以解决现有技术中提出的问题。

2、为实现上述目的,本发明提供如下技术方案:

3、一种基于数据分析的项目筛选智能监管方法,所述方法包括以下步骤:

4、s100、在企业中部署智能量化推荐平台,在项目筛选时企业将所有部门需求数据和所有项目的项目参数输入到智能量化推荐平台中存储;智能量化推荐平台对所有数据进行量化计算输出基础参数;

5、进一步的,所述输出基础参数的具体步骤为:

6、s101、在项目筛选时企业将所有部门需求数据和所有项目的项目参数输入到智能量化推荐平台中存储后,将每个部门作为智能量化推荐平台的需求节点,每个项目作为筛选节点;当企业启动项目筛选任务时,智能量化推荐平台接收任务指令,对智能量化推荐平台存储的所有数据量化计算;

7、所述基础参数包括基础匹配度、主观系数、偏好方向角和动态权重;

8、智能量化推荐平台需求节点的需求数据和筛选节点的项目参数,量化每个筛选节点的覆盖率,所述覆盖率=覆盖参数个数÷需求数据总个数;所述覆盖参数个数表示项目参数值大于需求数据值的项目参数个数;将不同来源、不同格式的部门需求数据和项目参数统一输入智能量化推荐平台,通过覆盖率、完整度等量化指标将非结构化数据转化为可计算的数值向量,解决了多源异构数据无法直接融合的技术问题。

9、计算每个筛选节点的参数完整度,所述参数完整度=有效字段数÷信息总字段数,所述有效字段数表示对项目输入的项目参数中除去自身信息字段中缺失值和异常值的字段,所述异常值表示超出平均值3倍的字段数据;

10、分别对覆盖率和参数完整度赋予权重,加权求和计算得到部门对项目的基础匹配度;所述权重由部门工作人员主动设置;

11、s102、在智能量化推荐平台中设置主观对比滑块,在主观对比滑块两端分别放置两种筛选节点,由企业工作人员根据主观意愿拖动滑块,将主观对比滑块中间值设为0,两端设置为1;0表示完全不确定,1表示非常确定;根据工作人员主观拖动滑块结果计算得到每个筛选节点的主观系数;重复对所有种类项目均进行计算;

12、s103、对不同筛选节点的所有项目参数进行差值计算,提取出筛选节点中差值最大的两种项目参数作为角度特征,根据角度特征构建平面直角坐标系,提取每个项目在平面直接坐标系中的特征点,提取特征点在平面直角坐标系中与x轴的角度作为项目类型角度,角度取值范围为0至2π;

13、提取需求节点历史筛选项目集合,计算需求节点历史筛选项目的两种平均角度特征值,输入平面直角坐标系中得到需求特征点,提取需求特征点在平面直角坐标系中与x轴的角度作为偏好中心角度,角度取值范围为0至2π;

14、在每个需求节点中利用项目类型角度和偏好中心角度计算得到偏好方向角,所述偏好方向角=(项目类型角度-偏好中心角度)mod2π;利用基础匹配度、主观系数和偏好方向角构建初始匹配态;通过提取两个特征差距最大的项目参数构建二维坐标系,将高维项目特征压缩为单一角度值,使节点间的偏好差异可被数学距离度量,为后续冲突检测提供了可计算的几何依据。

15、s104、分别提取每个需求节点在智能量化推荐平台中的需求数据量和需求时间,所述需求数据量表示需求节点输入的需求数据总信息量,所述需求时间表示每个需求节点输入的每种需求数据持续时间;将每个部门需求数据量和需求时间归一化后加权求和得到动态权重;

16、企业工作人员针对系统中使用参数进行自定义设置,所述使用参数包括学利率、耦合系数、角度惩罚因子、自信度衰减系数、收敛匹配度阈值和收敛主观系数阈值。

17、s200、针对每个需求节点根据其余需求节点的初始匹配态对基础匹配度和主观系数进行迭代调整,之后进行收敛判断,当判断收敛时执行企业匹配度计算;不收敛时继续迭代调整;

18、进一步的,所述针对每个需求节点根据其余需求节点的初始匹配态对基础匹配度和主观系数进行迭代调整的具体步骤为:

19、s201、针对每个需求节点利用初始匹配态中的需求节点自身偏好方向角、其余需求节点偏好方向角、基础匹配度和动态权重对自身基础匹配度进行迭代调整,公式为:

20、;

21、公式中,si,p(t+1)表示在迭代t+1时需求节点i对筛选节点p的匹配度,si,p(t)表示调整前t时需求节点i对筛选节点p的基础匹配度,sj,p(t)表示调整前t时其余需求节点j对筛选节点p的基础匹配度,θi,p表示需求节点i自身对筛选节点p的偏好方向角,θj,p表示其余需求节点j对筛选节点p的偏好方向角,wj(t)表示调整前t时其余需求节点j的动态权重,β表示耦合系数,γ表示角度惩罚因子 ,sigmoid函数使结果处于(0,1)之间,d(θi,p,θj,p)表示需求节点i和部门j对筛选节点p的偏好方向角频差异;每个需求节点的匹配度不再固定,而是根据其他节点的匹配度、偏好方向角及动态权重进行迭代更新。解决了传统加权融合方法只改权重不改原始值、无法消除节点间评估分歧的根本缺陷。

22、针对同一个筛选节点p,需求节点i和需求节点j的偏好方向角差异具体为:

23、;

24、在迭代公式中,节点间的相互影响强度受偏好方向角差异调制,方向相近的节点影响力大,方向相反的影响力小甚至为负,相当于在融合过程中自动识别“意见相近”与“意见相左”的节点群体,避免了盲目平均导致的融合失真。

25、s202、利用需求节点i在迭代调整前后的基础匹配度和匹配度对主观系数进行调整,公式为:

26、;

27、公式中,ci,p(t+1)表示调整后t+1时需求节点i对筛选节点p的主观系数,ci,p(t)表示调整前t时需求节点i对筛选节点p的主观系数,λ表示自信度衰减系数;若计算结果ci,p(t+1)<0,则ci,p(t+1)置为0.01;

28、s203、在每一轮调整所有需求节点的匹配度和主观系数后,分别计算所有需求节点匹配度和主观系数调整前后的差值,提取所有需求节点匹配度差值的最大值△smax;当△smax

29、s300、在需求节点迭代调整时,每r轮执行一次权重演化,更新每个需求节点的动态权重;

30、进一步的,所述更新每个需求节点的动态权重的具体步骤为:

31、s301、当需求节点迭代调整执行r=5轮时,执行一次权重演化,所述权重演化表示针对每个需求节点利用最近一轮的匹配度和偏好方向角计算动态权重变化量,公式为:

32、;

33、公式中,δwi表示需求节点i的动态权重变化量,si,p表示需求节点i对筛选节点p最近一轮调整时的匹配度,sj,p表示其余需求节点j对筛选节点p最近一轮调整时的匹配度,n表示智能量化推荐平台中的需求节点总个数,α表示学习率;

34、s302、针对每个需求节点利用动态权重变化量更新动态权重,公式为:winew=wiold+δwi;公式中,winew表示更新后需求节点i的动态权重,wiold表示更新前需求节点i的动态权重;若winew<0时,则复制为0.01;更新后使所有需求节点动态权重之和为1。按固定轮次对需求节点动态权重进行演化更新,依据最新一轮的匹配度与偏好方向角计算权重变化量,能够让需求动态权重随着筛选节点筛选的迭代进程实时优化,不再局限于初始设定值,始终适配当前筛选节点筛选的实际情况,修正初始权重与实际需求不匹配的问题;

35、s400、在需求节点迭代调整时,针对每一轮迭代进行冲突检测,当存在冲突且冲突持续轮次超过预设轮数时执行仲裁机制;

36、进一步的,所述当存在冲突且冲突持续轮次超过预设轮数阈值时执行仲裁机制的具体步骤为:

37、s401、预设轮数阈值为tconflict;在对所有需求节点进行迭代调整时,每一轮迭代调整后执行冲突检测,所述冲突检测利用偏好方向角和匹配度差值确定,具体为:当d(θi,p,θj,p)>θangle且|si,p-sj,p|>△s时,判断需求节点i和需求节点j针对筛选节点p存在冲突,θangle表示偏好方向角冲突阈值,△s表示匹配度冲突阈值;

38、当检测到存在冲突且持续轮次超过tconflict时,执行仲裁机制;所述仲裁机制包括全局注入调整、局部退火和人工介入;只有冲突状态持续超过轮数阈值才触发仲裁,避免了瞬时扰动导致不必要的仲裁干预,提高了系统的抗噪能力。

39、所述全局调整包括构建虚拟企业全局视角需求节点a,设企业全局视角需求节点的偏好方向角为所有需求节点偏好方向角平均值,动态权重为所有需求节点动态权重中最大值的1.2倍后归一化,工作人员根据智能量化推荐平台所有需求数据与项目参数中相同字段在总字段的占比作为企业全局视角需求节点的基础匹配度,主观系数采用所有需求节点中的最大值,将企业全局视角部门a加入到智能量化推荐平台所有需求节点中,重新迭代调整,当10轮内冲突消失时判断仲裁完成,当10轮内冲突未消失时,执行局部退火;

40、所述局部退火包括针对存在冲突的两个需求节点,分别将耦合系数降低一半,主观系数增长二倍;重新迭代调整后当5轮内冲突消失时判断仲裁完成,当5轮内冲突未消失时,执行人工介入;

41、所述人工介入包括企业工作人员直接介入冲突需求节点,工作人员将冲突需求节点i和j的偏好方向角和匹配度设置两者的中间值,之后消除冲突,重新迭代调整。

42、三级仲裁机制遵循自动化优先、人工兜底的原则,全局注入调整通过虚拟全局需求节点自动化解常规冲突,无需人工干预即可快速恢复迭代;局部退火针对性弱化冲突需求节点的耦合关系,高效解决中度分歧;人工介入作为最终保障,处理极端争议问题,全程保证筛选流程不中断,在智能自动化与人工灵活性之间实现完美平衡,确保所有冲突都能得到合理解决。

43、s500、利用迭代调整结束后每个需求节点的匹配度和主观系数的最终迭代值计算每个筛选节点的企业匹配度;

44、进一步的,所述计算每个筛选节点的企业匹配度的具体步骤为:

45、s501、当判断需求节点迭代调整收敛后,利用收敛后匹配度和主观系数最终迭代值计算得到企业匹配度,公式为:

46、;

47、公式中,si,p(final)表示需求节点i对筛选节点p的匹配度最终迭代值,ci,p(final)表示需求节点i对筛选节点p的主观系数最终迭代值,ep表示对筛选节点p的企业匹配度;输出企业对每个筛选节点的企业匹配度和收敛轮数。

48、s600、根据企业匹配度对所有筛选节点进行排序,在仲裁机制中针对不同的仲裁结果标记项目,最终生成决策报告进行输出。

49、进一步的,所述生成决策报告进行输出的具体步骤为:

50、s601、根据企业匹配度从大到小的顺序将所有筛选节点进行排序,在所有筛选节点中若存在通过仲裁机制中的全局注入调整、局部退火导致最终收敛的项目,标记对应筛选节点为“低共识筛选节点”;若存在通过仲裁机制中的人工介入导致最终收敛的筛选节点,标记对应筛选节点为“争议筛选节点”;

51、构建筛选节点排序表、冲突解决日志,所述筛选节点排序表包括企业匹配度和收敛轮数;所述冲突解决日志包括冲突需求节点、仲裁方法;

52、选取筛选节点排序表前k个非争议筛选节点进行推荐,在前k非争议筛选节点中对低共识筛选节点进行风险提示;k由工作人员设置;将筛选节点排序表、冲突解决日志和推荐筛选节点构成决策报告输出。

53、一种基于数据分析的项目筛选智能监管系统,项目筛选智能监管系统包括智能量化推荐平台模块、收敛迭代模块、权重调整模块、冲突检测模块、企业匹配模块和决策报告模块;

54、所述智能量化推荐平台模块用于在企业中部署智能量化推荐平台,在项目筛选时企业将所有部门需求数据和所有项目的项目参数输入到智能量化推荐平台中存储;智能量化推荐平台对所有数据进行量化计算输出基础参数;

55、所述收敛迭代模块用于针对每个需求节点根据其余需求节点的初始匹配态对基础匹配度和主观系数进行迭代调整,之后进行收敛判断,当判断收敛时执行企业匹配度计算;不收敛时继续迭代调整;

56、所述权重调整模块用于在需求节点迭代调整时,每r轮执行一次权重演化,更新每个需求节点的动态权重;

57、所述冲突检测模块用于在需求节点迭代调整时,针对每一轮迭代进行冲突检测,当存在冲突且冲突持续轮次超过预设轮数时执行仲裁机制;

58、所述企业匹配模块用于利用迭代调整结束后每个需求节点的匹配度和主观系数的最终迭代值计算每个筛选节点的企业匹配度;

59、所述决策报告模块用于根据企业匹配度对所有筛选节点进行排序,在仲裁机制中针对不同的仲裁结果标记项目,最终生成决策报告进行输出。

60、与现有技术相比,本发明的有益效果是:

61、1、本技术通过迭代调整各节点的原始评估值,使节点间相互校准,最终收敛状态下的匹配度更接近群体共识中心。同时,自信度衰减机制自动识别并削弱不稳定节点的贡献。整体上,在相同输入条件下,本方案输出的企业匹配度与理想真实值的偏差大大降低。

62、2、现有的分布式平均共识算法在处理多维特征空间中节点偏好方向差异较大的场景时,需要大量迭代轮次才能收敛,甚至出现震荡。本技术引入偏好方向角作为影响力调制因子,使方向相近的节点快速聚合、方向相反的节点相互削弱,本质上构建了一种有向带权共识网络,使迭代轮数大大降低。

63、3、本技术现有系统在检测到节点间评估冲突时,要么丢弃数据,要么直接报警人工介入。本方案首创三级自动升级仲裁机制:全局注入→局部退火→人工接口。在绝大多数冲突场景下,前两级无需人工干预即可自动解决,使系统保持自动化运行;仅在极端情况下才触发人工介入。