一种自动驾驶训练防攻击方法与流程

1.本发明涉及信息技术领域，尤其涉及一种自动驾驶训练防攻击方法。


背景技术：

2.随着科技的发展，汽车产业正在发生巨大的变革，人们对于汽车的要求正在提高，正在追逐以科技力量为出行带来便利的技术。尤其是人工智能、机器学习和深层神经网络等领域的日趋成熟，使得l5(sae)级别的完全自动化的自动驾驶技术在不久的未来得以实现，可在所有的道路和环境条件下由无人驾驶系统完成所有的驾驶操作，人类驾驶者在可能的情况下可以通过操纵方向盘接管驾驶。自动驾驶过程中需要对障碍物、控制语音、视频跟踪等进行标注训练，但是很多时候这些工作是分配给一些劳动密集型地区的闲散人员。


技术实现要素：

3.本发明提供了一种自动驾驶训练防攻击方法，主要包括：基于标注内容建立检测模型和图片标签；提取图片特征计算图片的危险指数；判断处理上述图片的所有标注人是否有异常标注行为；统计标注人异常行为的类型及次数判断攻击类型；生成标注人账号可信度，剔除低可信度账号；根据标注人账号的详细度及可信度计算该账号的信用评分；基于账号信用评分为账号分配标注任务；进一步可选地，所述基于标注内容建立检测模型和图片标签包括： 所述标注内容具体是指：交通标识、行人及车辆，其中交通标识具体包括：道路交通线、信号灯、指示牌、监控，在上述标注内容中，行人和车辆为危险因素，交通标识属于非危险因素；将预先采集的行人图片样本集作为训练集输入，通过决策树算法训练出行人检测模型，将待检测图象输入上述行人检测模型进行行人检测，检测但图像中存在行人时输出该图片的行人标签；将预先采集的车辆图片样本集作为训练集输入，通过svm算法对神经网络模型进行训练，得到训练后神经网络模型，根据所述训练后神经网络模型对待检测图像进行车辆检测，输出图片的车辆标签；获取交通标识样本图像和非交通标识样本图像，建立训练样本图库，使用haar小波特征对所述训练样本图库中的图像进行特征选择，将选择到的特征输入到三层感知器神经网络进行交通标识的综合训练，获得神经网络模型，所述神经网络模型输入的是图象，输出的是图象交通标识标签。
4.进一步可选地，所述提取图片特征计算图片的危险指数包括： 所述统计行人和车辆数目，具体包括：选取包含有行人标签和车辆标签的图片作为训练集输入，通过深度卷积神经网络进行训练，输出训练完成后的目标检测模型，将待检测的有标签的图片输入上述目标检测模型，输出检测结果并统计结果中监测到的行人和车辆的数目。
5.所述识别图片中车辆所处的路面类型，具体包括：获取不同路面的图片，从所述图片中提取路面特征，具体包括：利用深度神经网络对所述图片进行像素分析，从所述图片中分割出地面区域，利用所述深度神经网络从所述
地面区域中提取路面特征，通过朴素贝叶斯算法训练路面分类器，将待检测图片输入上述路面分类器，输出路面类型，所述路面类型包括：沥青路面、雪地、沙地、泥地。 所述计算图片的危险指数，具体包括：收集安全行车图片和危险行车图片作为训练集，所述危险行车图片为发生交通事故前拍摄到的车辆行驶图片，通过上述目标检测模型输出训练集中行人和车辆的数目，将行人数目、车辆数目、行人和车辆的比例、路面类型作为特征值作为输入，通过logistic回归训练得到危险性预测模型，将待检测图片输入到上述危险性预测模型中，输出该图片的危险指数。根据危险指数的不同将图片分为三个危险等级：高危险，中危险，低危险。
6.进一步可选地，所述判断处理上述图片的所有标注人是否有异常标注行为包括： 获取上述有行人标签和车辆标签图片的标注人账号以及设定时间段内的标注记录，将所有上述图片中该标注人的标注与图片最终确定的标注进行一一比对，所述最终确定的标注指同一张图片多数人的标注结果，得到全部不一致的标注并判断错误类型，所述错误类型包括：将危险因素标注为非危险因素，记为错误类型一，将非危险因素标注为危险因素记为错误类型二，所述危险因素是指：标注内容中的行人和车辆，所述非危险因素是指：标注内容中的交通标识，预先设定允许每类错误发生次数的阈值，当其中任何一类错误超过该阈值时，则认为该标注人存在异常标注行为，会对其账号进行记录。
7.进一步可选地，所述统计标注人异常行为的类型及次数判断攻击类型包括： 统计规定时间段中标注人账号记录中异常行为的次数以及每次异常行为中错误类型一和错误类型二的次数，收集历史训练中遭受攻击的标注记录，将上述标注记录作为训练集，具体包括：异常行为次数，错误类型一的次数和错误类型二的次数以及所遭受到的攻击类型，所述攻击类型包括：恶意攻击、普通攻击、非攻击行为，通过线性回归算法训练攻击类型预测模型，将需要判断的账号记录输入到上述分类模型中得到所遭受的攻击类型，根据不同的攻击类型对该标注人的账号进行相应记录和处理，存在恶意攻击行为的账号直接禁用，存在普通攻击行为的账号通知管理员进行处理。
8.进一步可选地，所述生成标注人账号可信度，剔除低可信度账号包括： 所述计算标注人账号可信度，具体包括： 获取标注人账号在预设周期内的历史标注数据，根据所述历史标注数据获得标注人账号特征，所述标注人账号特征包括：预设周期内的工作时长、预设周期内的工作量，对上述特征指标进行归一化处理，获得归一化特征指标值，对所述标注人账号特征的归一化特征指标进行加权平均处理，获得标注人的基础可信度，根据所述标注人账号是否有异常标注行为：若存在异常标注行为，则根据所述异常标注行为在所述基础可信度的基础上进行调整，根据判定的攻击类型设定不同的调整数值，得到预设周期的内的标注人账号可信度，否则，根据基础可信度得到预设周期内的标注人账号的可信度。 所述根据可信度对账号进行处理，具体包括： 设定可信度的最低阈值，当账号的可信度低于所述阈值时，将对账号进行注销处理，不再参与训练标注过程。
9.进一步可选地，所述根据标注人账号的详细度及可信度计算该账号的信用评分包括：获取标注人账号的信息填写情况计算账号的详细度，所述账号详细度是指账号已填写信息与全部应填信息的比值，所述应填信息包括：姓名、性别、出生日期、国籍、有效证件号码、学历、联系方式、每天可标注的图片数量；确定上述各应填信息各自的权重，将已填
的信息记为1，未填的信息记为0，并根据所述权重进行加权平均值的计算，得到账号详细度；获取账号的可信度并赋予第一权重值，为账号详细度赋予第二权重值，所述第一权重值和第二权重值根据具体情况设定，根据账号的可信度和详细度及其对应的权重计算加权平均值记为该账号的信用评分并根据账号的信用评分高低确定其更新的周期，所述账号的信用评分越高对应的信用评分周期越长。 一种自动驾驶训练防攻击方法其特征在于，所述系统包括： 获取待标注图片，通过上述危险性预测模型对图片内容进行危险性评估，根据所得图片的危险指数对应的危险等级将图片分为高风险，中风险，低风险三个组别，根据账号的信用评分高低，为账号分配相应组别的图片，获取标注人账号中填写的每天可标注的图片数量，若未填写则获取该账号前一次标记任务记录的图片数量，根据上述获取的图片数量为该账号分配对应组别中相应数量的图片进行标注，若本组别图片数量不足，则可以从低一危险等级的组别中为账号分配图片，若本组别图片过多，可分配账号不足，则将多余图片归类到高一危险等级的组别中再进行分配。 本发明实施例提供的技术方案可以包括以下有益效果： 通过对标注人员账号的检测和限制，能保证系统中可使用的账号都是信用良好的，且定期清除无人使用的账号能避免系统存储空间的浪费，账号质量提升后能够保障自动驾驶训练标注过程的准确性，使训练结果能满足自动驾驶行车的需要，同时也从源头避免训练过程遭到不法分子的恶意攻击，导致训练无法进行或是训练结果受到较大影响，避免了不必要的时间、人力、财力的浪费。
10.【附图说明】图1为本发明的一种自动驾驶训练防攻击方法的流程图。
11.【具体实施方式】为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。 图1为本发明的一种自动驾驶训练防攻击方法流程图。如图1所示，本实施例一种自动驾驶训练防攻击方法具体可以包括：步骤101，基于标注内容建立检测模型和图片标签。 所述标注内容具体是指：交通标识、行人及车辆，其中交通标识具体包括：道路交通线、信号灯、指示牌、监控，在上述标注内容中，行人和车辆为危险因素，交通标识属于非危险因素；将预先采集的行人图片样本集作为训练集输入，通过决策树算法训练出行人检测模型，将待检测图象输入上述行人检测模型进行行人检测，检测但图像中存在行人时输出该图片的行人标签；将预先采集的车辆图片样本集作为训练集输入，通过svm算法对神经网络模型进行训练，得到训练后神经网络模型，根据所述训练后神经网络模型对待检测图像进行车辆检测，输出图片的车辆标签。获取交通标识样本图像和非交通标识样本图像，建立训练样本图库，使用haar小波特征对所述训练样本图库中的图像进行特征选择，将选择到的特征输入到三层感知器神经网络进行交通标识的综合训练，获得神经网络模型，所述神经网络模型输入的是图象，输出的是图象交通标识标签。
12.步骤102，提取图片特征计算图片的危险指数。 统计行人和车辆数目。 选取包含有行人标签和车辆标签的图片作为训练集输入，通过深度卷积神经网络进行训练，输出训练完成后的目标检测模型，将待检测的有标签的图片输入上述目标检测模型，输出检测结果并统计结果中监测到的行人和车辆的数目。 识别图片中车辆所处的路面类型。 获取不同路面的图片，从所述图片中提取路面特征，具体包括：利用深度神经网络对所述图片进行
像素分析，从所述图片中分割出地面区域，利用所述深度神经网络从所述地面区域中提取路面特征，通过朴素贝叶斯算法训练路面分类器，将待检测图片输入上述路面分类器，输出路面类型，所述路面类型包括：沥青路面、雪地、沙地、泥地。 计算图片的危险指数。 收集安全行车图片和危险行车图片作为训练集，所述危险行车图片为发生交通事故前拍摄到的车辆行驶图片，通过上述目标检测模型输出训练集中行人和车辆的数目，将行人数目、车辆数目、行人和车辆的比例、路面类型作为特征值作为输入，通过logistic回归训练得到危险性预测模型，将待检测图片输入到上述危险性预测模型中，输出该图片的危险指数。根据危险指数的不同将图片分为三个危险等级：高危险，中危险，低危险。
13.步骤103，判断处理上述图片的所有标注人是否有异常标注行为。 获取上述有行人标签和车辆标签图片的标注人账号以及设定时间段内的标注记录，将所有上述图片中该标注人的标注与图片最终确定的标注进行一一比对，所述最终确定的标注指同一张图片多数人的标注结果，得到全部不一致的标注并判断错误类型，所述错误类型包括：将危险因素标注为非危险因素，记为错误类型一，将非危险因素标注为危险因素记为错误类型二，所述危险因素是指：标注内容中的行人和车辆，所述非危险因素是指：标注内容中的交通标识，预先设定允许每类错误发生次数的阈值，当其中任何一类错误超过该阈值时，则认为该标注人存在异常标注行为，会对其账号进行记录。
14.步骤104，统计标注人异常行为的类型及次数判断攻击类型。 统计规定时间段中标注人账号记录中异常行为的次数以及每次异常行为中错误类型一和错误类型二的次数，收集历史训练中遭受攻击的标注记录，将上述标注记录作为训练集，具体包括：异常行为次数，错误类型一的次数和错误类型二的次数以及所遭受到的攻击类型，所述攻击类型包括：恶意攻击、普通攻击、非攻击行为，通过线性回归算法训练攻击类型预测模型，将需要判断的账号记录输入到上述分类模型中得到所遭受的攻击类型，根据不同的攻击类型对该标注人的账号进行相应记录和处理，存在恶意攻击行为的账号直接禁用，存在普通攻击行为的账号通知管理员进行处理。
15.步骤105，生成标注人账号可信度，剔除低可信度账号。 计算标注人账号可信度。 获取标注人账号在预设周期内的历史标注数据，根据所述历史标注数据获得标注人账号特征，所述标注人账号特征包括：预设周期内的工作时长、预设周期内的工作量，对上述特征指标进行归一化处理，获得归一化特征指标值，对所述标注人账号特征的归一化特征指标进行加权平均处理，获得标注人的基础可信度，根据所述标注人账号是否有异常标注行为：若存在异常标注行为，则根据所述异常标注行为在所述基础可信度的基础上进行调整，根据判定的攻击类型设定不同的调整数值，得到预设周期的内的标注人账号可信度，否则，根据基础可信度得到预设周期内的标注人账号的可信度。 根据可信度对账号进行处理。 设定可信度的最低阈值，当账号的可信度低于所述阈值时，将对账号进行注销处理，不再参与训练标注过程。 步骤106，根据标注人账号的详细度及可信度计算该账号的信用评分。 获取标注人账号的信息填写情况计算账号的详细度，所述账号详细度是指账号已填写信息与全部应填信息的比值，所述应填信息包括：姓名、性别、出生日期、国籍、有效证件号码、学历、联系方式、每天可标注的图片数量。确定上述各应填信息各自的权重，将已填的信息记为1，未填的信息记为0，并根据所述权重进行加权平均值的计算，得到账号详细度；获取账号的可信度并赋予第一权重值，为账号详细度赋予第二权重值，所述第一权重值和第二权
重值根据具体情况设定，根据账号的可信度和详细度及其对应的权重计算加权平均值记为该账号的信用评分并根据账号的信用评分高低确定其更新的周期，所述账号的信用评分越高对应的信用评分周期越长。
16.步骤107，基于账号信用评分为账号分配标注任务。 获取待标注图片，通过上述危险性预测模型对图片内容进行危险性评估，根据所得图片的危险指数对应的危险等级将图片分为高风险，中风险，低风险三个组别，根据账号的信用评分高低，为账号分配相应组别的图片，获取标注人账号中填写的每天可标注的图片数量，若未填写则获取该账号前一次标记任务记录的图片数量，根据上述获取的图片数量为该账号分配对应组别中相应数量的图片进行标注，若本组别图片数量不足，则可以从低一危险等级的组别中为账号分配图片，若本组别图片过多，可分配账号不足，则将多余图片归类到高一危险等级的组别中再进行分配。 以上所述仅为本发明的实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其它相关的技术领域，均同理包括在本发明的专利保护范围内。 用于实现本发明进行信息控制的程序，可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、python、c ，还包括常规的过程式程序设计语言—诸如c语言或类似的程序设计语言。 程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算机，或者，可以连接到外部计算机（例如利用因特网服务提供商来通过因特网连接）。 在本发明所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。 所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。 另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。 上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）或处理器（processor）执行本发明各个实施例所述方法的部分步骤。 而前述的存储介质包括：u盘、移动硬盘、只读存储器（read-only memory，rom）、随机存取存储器（random access memory，ram）、磁碟或者光盘等各种可以存储程序代码的介质。