一种广告处理方法、装置和电子设备与流程

技术特征：
1.一种广告处理方法，其特征在于，包括：获取违规广告和正常投放广告，利用所述违规广告得到模型训练负样本，并利用所述正常投放广告得到模型训练正样本；其中，所述模型训练负样本和所述模型训练正样本均是广告文本；通过所述模型训练负样本和模型训练负样本对文本分类算法模型进行训练，得到广告文本分类模型；获取品牌名称集合和待检测的广告文本，将待检测的所述广告文本中的词语在品牌名称集合中进行查询，当能够从所述品牌名称集合中查询出与广告文本中词语一致的品牌名称时，将所述广告文本判定为违规广告文本；其中，所述品牌名称集合，包括：品牌名称和多含义词语；所述多含义词语，是指具有品牌以及非品牌双重含义的词语；当从所述品牌名称集合中查询出与广告文本中词语一致的多含义词语时，利用广告文本分类模型对所述广告文本进行处理，得到所述广告文本是违规广告文本的第一概率值；当所述第一概率值大于概率阈值时，将所述广告文本判定为违规广告文本。2.根据权利要求1所述的方法，其特征在于，还包括：当获取到待检测的广告图像时，利用光学字符识别技术ocr提取所述广告图像中的文字，将提取出的文字确定为广告图像的文本；将所述广告图像的文本中的词语在品牌名称集合中进行查询，当能够从所述品牌名称集合中查询出与所述广告图像的文本中词语一致的品牌名称时，确定所述广告图像中包含违规词语；当从所述品牌名称集合中查询出与所述广告图像的文本中词语一致的多含义词语时，利用广告文本分类模型对所述广告图像的文本进行处理，得到所述广告图像的文本包含违规词语的违规概率值；当所述违规概率值大于概率阈值时，确定所述广告图像中包含违规词语。3.根据权利要求2所述的方法，其特征在于，还包括：当利用广告文本分类模型确定广告图像未包含违规词语时，获取带有品牌标志的图片和带有所述品牌标志的图片的图片信息，所述带有所述品牌标志的图片的图片信息，包括：所述图片中的品牌标志所属的品牌名称和品牌标志在图片中的位置信息；利用带有品牌标志的图片和带有所述品牌标志的图片的图片信息对目标检测模型进行训练，得到品牌标志的检测器；将未包含违规词语的广告图像输入到所述品牌标志的检测器进行处理，得到未包含违规词语的广告图像中具有品牌标志的第二概率值；获取品牌款式图像类型的违规图像、著名人物图像类型的违规图像、漫画人物图像类型的违规图像以及正常投放广告中的图像，利用所述品牌款式图像类型的违规图像、所述著名人物图像类型的违规图像、所述漫画人物图像类型的违规图像和所述正常投放广告中的图像对图像分类模型进行训练，得到图片分类器；将未包含违规词语的广告图像输入到所述图片分类器中进行处理，得到所述未包含违规词语的广告图像的图像类型以及第三概率值；所述图像类型，包括：品牌款式图像类型、著名人物图像类型和漫画人物图像类型；通过以下公式对未包含违规词语的广告图像的违规概率值进行计算：
s＝2*s1*s2/(s1 s2)其中，s表示违规概率值；s1表示第二概率值；s2表示第三概率值；当计算得到的所述违规概率值大于所述概率阈值时，判定所述未包含违规词语的广告图像是违规广告。4.根据权利要求3所述的方法，其特征在于，还包括：当获取到待检测的广告视频时，利用关键帧提取技术对所述广告视频中的视频关键帧进行提取；将提取到的视频关键帧中位于广告视频开头的视频关键帧和位于广告视频结尾的视频关键帧删除，并按照预设时间间隔从已删除位于广告视频开头的视频关键帧和位于广告视频结尾的视频关键帧的剩余的视频关键帧中提取出待检测的多个视频关键帧；对待检测的多个视频关键帧中的各视频关键帧进行违规判定，得到各视频关键帧的违规判定结果；其中，所述违规判定结果，包括：包含违规词语的视频关键帧以及被判定为违规广告的视频关键帧；当所述违规判定结果指示各视频关键帧中具有包含违规词语的视频关键帧或者各视频关键帧中具有被判定为违规广告的视频关键帧时，确定所述广告视频为违规广告。5.一种广告处理装置，其特征在于，包括：获取模块，用于获取违规广告和正常投放广告，利用所述违规广告得到模型训练负样本，并利用所述正常投放广告得到模型训练正样本；其中，所述模型训练负样本和所述模型训练正样本均是广告文本；训练模块，用于通过所述模型训练负样本和模型训练负样本对文本分类算法模型进行训练，得到广告文本分类模型；检测模块，用于获取品牌名称集合和待检测的广告文本，将待检测的所述广告文本中的词语在品牌名称集合中进行查询，当能够从所述品牌名称集合中查询出与广告文本中词语一致的品牌名称时，将所述广告文本判定为违规广告文本；其中，所述品牌名称集合，包括：品牌名称和多含义词语；所述多含义词语，是指具有品牌以及非品牌双重含义的词语；处理模块，用于当从所述品牌名称集合中查询出与广告文本中词语一致的多含义词语时，利用广告文本分类模型对所述广告文本进行处理，得到所述广告文本是违规广告文本的第一概率值；判定模块，用于当所述第一概率值大于概率阈值时，将所述广告文本判定为违规广告文本。6.根据权利要求5所述的装置，其特征在于，还包括：广告图像检测模块；所述广告图像检测模块，具体用于：当获取到待检测的广告图像时，利用光学字符识别技术ocr提取所述广告图像中的文字，将提取出的文字确定为广告图像的文本；将所述广告图像的文本中的词语在品牌名称集合中进行查询，当能够从所述品牌名称集合中查询出与所述广告图像的文本中词语一致的品牌名称时，确定所述广告图像中包含违规词语；当从所述品牌名称集合中查询出与所述广告图像的文本中词语一致的多含义词语时，利用广告文本分类模型对所述广告图像的文本进行处理，得到所述广告图像的文本包含违
规词语的违规概率值；当所述违规概率值大于概率阈值时，确定所述广告图像中包含违规词语。7.根据权利要求6所述的装置，其特征在于，所述广告图像检测模块，还具体用于：当利用广告文本分类模型确定广告图像未包含违规词语时，获取带有品牌标志的图片和带有所述品牌标志的图片的图片信息，所述带有所述品牌标志的图片的图片信息，包括：所述图片中的品牌标志所属的品牌名称和品牌标志在图片中的位置信息；利用带有品牌标志的图片和带有所述品牌标志的图片的图片信息对目标检测模型进行训练，得到品牌标志的检测器；将未包含违规词语的广告图像输入到所述品牌标志的检测器进行处理，得到未包含违规词语的广告图像中具有品牌标志的第二概率值；获取品牌款式图像类型的违规图像、著名人物图像类型的违规图像、漫画人物图像类型的违规图像以及正常投放广告中的图像，利用所述品牌款式图像类型的违规图像、所述著名人物图像类型的违规图像、所述漫画人物图像类型的违规图像和所述正常投放广告中的图像对图像分类模型进行训练，得到图片分类器；将未包含违规词语的广告图像输入到所述图片分类器中进行处理，得到所述未包含违规词语的广告图像的图像类型以及第三概率值；所述图像类型，包括：品牌款式图像类型、著名人物图像类型和漫画人物图像类型；通过以下公式对未包含违规词语的广告图像的违规概率值进行计算：s＝2*s1*s2/(s1 s2)其中，s表示违规概率值；s1表示第二概率值；s2表示第三概率值；当计算得到的所述违规概率值大于所述概率阈值时，判定所述未包含违规词语的广告图像是违规广告。8.根据权利要求7所述的装置，其特征在于，还包括：广告视频检测模块；所述广告视频检测模块，具体用于：当获取到待检测的广告视频时，利用关键帧提取技术对所述广告视频中的视频关键帧进行提取；将提取到的视频关键帧中位于广告视频开头的视频关键帧和位于广告视频结尾的视频关键帧删除，并按照预设时间间隔从已删除位于广告视频开头的视频关键帧和位于广告视频结尾的视频关键帧的剩余的视频关键帧中提取出待检测的多个视频关键帧；对待检测的多个视频关键帧中的各视频关键帧进行违规判定，得到各视频关键帧的违规判定结果；其中，所述违规判定结果，包括：包含违规词语的视频关键帧以及被判定为违规广告的视频关键帧；当所述违规判定结果指示各视频关键帧中具有包含违规词语的视频关键帧或者各视频关键帧中具有被判定为违规广告的视频关键帧时，确定所述广告视频为违规广告。9.一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，其特征在于，所述计算机程序被处理器运行时执行上述权利要求1-4任一项所述的方法的步骤。10.一种电子设备，其特征在于，所述电子设备包括有存储器，处理器以及一个或者一个以上的程序，其中所述一个或者一个以上程序存储于所述存储器中，且经配置以由所述处理器执行权利要求1-4任一项所述的方法的步骤。

技术总结
本发明提供了一种广告处理方法、装置和电子设备，可以在广告上架之前通过训练得到的广告文本分类模型，对广告文本是否违规进行判断，从而可以自动对广告是否违规进行判断，尽可能避免广告因违规而遭到下架而遭受的损失，使经过违规判定的广告可以顺利通过广告平台审核，提高广告投放效率。提高广告投放效率。提高广告投放效率。


技术研发人员：张聪 沈菁 康单 陈文海 张天生 陆璐 熊家治
受保护的技术使用者：飞书深诺数字科技（上海）股份有限公司
技术研发日：2022.03.31
技术公布日：2022/6/24