一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种视频处理方法、装置和介质与流程

2022-02-19 02:42:43 来源:中国专利 TAG:


1.本发明涉及通信技术领域,特别是涉及一种视频处理方法、装置和介质。


背景技术:

2.随着通信技术的发展,虚拟对象可被广泛应用于播报场景、教学场景、医疗场景、客服场景等应用场景。在这些应用场景中,虚拟对象通常需要对文本进行表达,相应地,可以生成并播放虚拟对象对应的视频,该视频可以表征虚拟对象表达文本的过程。视频的生成过程通常包括:语音生成环节和图像序列生成环节,其中,语音生成环节通常采用语音合成技术,图像序列生成环节通常采用图像处理技术。
3.发明人在实施本发明实施例的过程中发现,相关技术针对完整文本,生成对应的完整视频,通常会耗费较多的时间成本,导致视频的处理效率较低。


技术实现要素:

4.如何提高视频的处理效率,是本领域技术人员需要解决的技术问题。鉴于上述问题,本发明实施例提出了一种克服上述问题或者至少部分地解决上述问题的视频处理方法、装置和介质。
5.为了解决上述问题,本发明公开了一种视频处理方法,包括:
6.提供模板文本对应的第一视频片段;所述第一视频片段在所述模板文本与变量文本之间的分界位置处,设置有:经过停顿处理的视频子片段;
7.生成待处理变量文本对应的第二视频片段;
8.对所述第一视频片段和所述第二视频片段进行拼接,以得到所述模板文本和所述待处理变量文本对应的视频。
9.另一方面,本发明公开了一种视频处理装置,包括:
10.提供模块,用于提供模板文本对应的第一视频片段;所述第一视频片段在所述模板文本与变量文本之间的分界位置处,设置有:经过停顿处理的视频子片段;
11.生成模块,用于生成待处理变量文本对应的第二视频片段;
12.拼接模块,用于对所述第一视频片段和所述第二视频片段进行拼接,以得到所述模板文本和所述待处理变量文本对应的视频。
13.再一方面,本发明公开了一种用于视频处理的装置,包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,所述程序被一个或者一个以上处理器执行时,实现前述方法的步骤。
14.又一方面,本发明实施例公开了一个或多个机器可读介质,其上存储有指令,当由一个或多个处理器执行时,使得装置执行如前述一个或多个所述的方法。
15.本发明实施例包括以下优点:
16.本发明实施例对模板文本对应的第一视频片段与待处理变量文本对应的第二视频片段进行拼接。其中,第一视频片段可以为预先保存的视频片段,在视频处理过程中可以
生成待处理变量文本对应的第二视频片段。由于待处理变量文本的长度小于完整文本的长度,故本发明实施例能够缩短生成视频的长度和对应的时间成本,因此,能够提高视频的处理效率。
17.并且,本发明实施例的第一视频片段在模板文本与变量文本之间的分界位置处,设置有:经过停顿处理的视频子片段。上述停顿处理能够在一定程度上克服拼接位置处的跳变或抖动问题,因此能够提高拼接位置处的连续性。
附图说明
18.图1是本发明的一种视频处理方法实施例一的步骤流程图;
19.图2是本发明的一种视频处理方法实施例二的步骤流程图;
20.图3是本发明的一种视频处理装置实施例的结构框图;
21.图4是本发明的一种用于视频处理的装置的结构框图;及
22.图5是本发明的一些实施例中服务端的结构框图。
具体实施方式
23.为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
24.本发明实施例中,虚拟对象是通过对象建模、动作捕捉等技术得到的一种生动自然的、与真实对象接近的虚拟对象,通过语音识别、自然语言理解等人工智能技术,能够使得虚拟对象具备认知、或者理解、或者表达等能力。虚拟对象具体包括:虚拟人物、或虚拟动物、或二维卡通对象、或三维卡通对象等。
25.例如,在播报场景下,虚拟对象可以代替例如媒体工作者进行新闻播报、或者游戏解说等。又如,在医疗场景下,虚拟对象可以代替例如医学工作者进行医学指导等。
26.在具体实现中,虚拟对象可以对文本进行表达。而本发明实施例可以生成文本和虚拟对象对应的视频。该视频具体可以包括:文本对应的语音序列、以及语音序列对应的视频帧序列。
27.在一些应用场景中,文本具体包括:模板文本和变量文本。其中,模板文本相对固定,变量文本通常会根据用户输入等预设因素发生变化。
28.例如,变量文本可以根据用户输入确定。以医疗场景为例,可以根据用户输入中包含的疾病名称,确定对应的变量文本。可选地,变量文本对应的字段具体包括:疾病名称字段、食物种类字段、食材数量字段等,可以根据用户输入中包含的疾病名称,确定这些字段。
29.可以理解,本领域技术人员可以根据实际应用需求,确定文本中的变量文本,本发明实施例对于变量文本的具体确定方式不加以限制。
30.为了使视频质量符合要求,相关技术在变量文本发生改变的情况下,通常针对改变后的完整文本,生成对应的完整视频。然而,针对改变后的完整文本,生成对应的完整视频,通常会耗费较多的时间成本,导致视频的处理效率较低。
31.针对如何提高视频的处理效率的技术问题,本发明实施例提供了一种视频处理方案,该方案具体包括:提供模板文本对应的第一视频片段;该第一视频片段在该模板文本与变量文本之间的分界位置处,设置有:经过停顿处理的视频子片段;生成待处理变量文本对
应的第二视频片段;对该第一视频片段和该第二视频片段进行拼接,以得到该模板文本和该待处理变量文本对应的视频。
32.本发明实施例对模板文本对应的第一视频片段与待处理变量文本对应的第二视频片段进行拼接。其中,第一视频片段可以为预先保存的视频片段,在视频处理过程中可以生成待处理变量文本对应的第二视频片段。由于待处理变量文本的长度小于完整文本的长度,故本发明实施例能够缩短生成视频的长度和对应的时间成本,因此,能够提高视频的处理效率。
33.并且,本发明实施例的第一视频片段在模板文本与变量文本之间的分界位置处,设置有:经过停顿处理的视频子片段。上述停顿处理能够在一定程度上克服拼接位置处的跳变或抖动问题,因此能够提高拼接位置处的连续性。
34.本发明实施例提供的视频处理方法可应用于客户端和服务端对应的应用环境中,客户端与服务端位于有线或无线网络中,通过该有线或无线网络,客户端与服务端进行数据交互。
35.可选地,客户端可以运行在终端上,上述终端具体包括但不限:智能手机、平板电脑、电子书阅读器、mp3(动态影像专家压缩标准音频层面3,moving picture experts group audio layer iii)播放器、mp4(动态影像专家压缩标准音频层面4,moving picture experts group audio layer iv)播放器、膝上型便携计算机、车载电脑、台式计算机、机顶盒、智能电视机、可穿戴设备等等。
36.客户端是指与服务端相对应,为用户提供本地服务的程序。本发明实施例中的客户端可以接收用户输入,并提供该用户输入对应的视频。该视频可由客户端或服务端生成,本发明实施例对于视频的具体生成主体不加以限制。
37.在本发明的一种实施例中,客户端可以接收用户输入,并向服务端上传用户输入,以使服务端生成用户输入对应的视频。服务端可以根据用户输入确定待处理变量文本,生成待处理变量文本对应的第二视频片段,并对预先保存的第一视频片段和该第二视频片段进行拼接,以得到该模板文本和该待处理变量文本对应的视频。
38.方法实施例一
39.参照图1,示出了本发明的一种视频处理方法实施例一的步骤流程图,具体可以包括如下步骤:
40.步骤101、提供模板文本对应的第一视频片段;该第一视频片段在该模板文本与变量文本之间的分界位置处,设置有:经过停顿处理的视频子片段;
41.步骤102、生成待处理变量文本对应的第二视频片段;
42.步骤103、对该第一视频片段和该第二视频片段进行拼接,以得到该模板文本和该待处理变量文本对应的视频。
43.图1所示实施例的至少一个步骤可由服务端执行,当然本发明实施例对于各个步骤的具体执行主体不加以限制。
44.步骤101中,可以预先生成并保存模板文本对应的第一视频片段。该第一视频片段在分界位置处设置有:经过停顿处理的视频子片段,该视频子片段能够提高拼接位置处的连续性。
45.本发明实施例的文本具体包括:模板文本和变量文本。分界位置可用于对相邻的
模板文本和变量文本进行分割。
46.以文本a“关于<糖尿病>和<水果>的问题,我还在研究。我想这份<糖尿病>的饮食建议可能也对你有帮助,里面包含了约<1800>种食材的推荐、禁忌,请你点击查看”为例,文本a中存在多个分界位置。例如,模板文本“关于”与变量文本“<糖尿病>”之间对应有分界位置,变量文本“<糖尿病>”与模板文本“和”之间对应有分界位置,模板文本“和”与变量文本“<水果>”之间对应有分界位置,变量文本“<水果>”与模板文本“的”之间对应有分界位置,等等。
47.在一种实现方式中,第一视频片段的确定过程可以包括:根据模板文本、预设变量文本、以及对应分界位置处的停顿信息,生成预设视频;从上述预设视频中截取上述模板文本对应的第一视频片段。
48.其中,预设变量文本可以为任意的变量文本,或者,预设变量文本可以为变量文本的任意实例。
49.本发明实施例可以根据模板文本和预设变量文本对应的预设完整文本,生成预设视频,其中,预设视频的生成过程中可以考虑分界位置处的停顿信息。
50.在实际应用中,预设视频可以包括:语音部分对应的预设语音和图像部分对应的预设图像序列。
51.在具体实现中,可以利用tts(语音合成,text to speech)技术,将预设完整文本转换为预设语音。预设语音可以表征为波形的形式。
52.本发明实施例的将预设完整文本转换为预设语音,具体包括:语言分析环节和声学系统环节。其中,语言分析环节用于根据预设完整文本及其对应的停顿信息,生成对应的语言学信息;声学系统环节主要是根据语音分析环节提供的语言学信息,生成对应的预设语音,实现发声的功能。
53.在一种实现方式中,语言分析环节的处理具体可以包括:文本结构与语种判断、文本标准化、文本转音素和韵律预测。
54.其中,文本结构与语种判断,用于判断预设完整文本的语种,例如中文、英文、藏语、维语等语种,并根据对应语种的语法规则,把预设完整文本切分为语句,并将切分好的语句传到后面的处理模块。
55.文本标准化,用于根据设置好的规则,对切分好的语句进行标准化。
56.文本转音素,用于确定语句对应的音素特征。
57.由于人类在语言表达的时候通常带着语气与感情,语音合成的目的往往是为了模仿真实的人声;因此,韵律预测可用于确定语句的什么地方需要停顿,停顿多久,哪个字或者词语需要重读,哪个词需要轻读等,进而实现声音的高低曲折,抑扬顿挫。
58.本发明实施例可以首先利用韵律预测技术,确定韵律预测结果,然后,根据停顿信息,对韵律预测结果进行更新。
59.以文本a为例,停顿信息可以为:在模板文本“关于”与变量文本“<糖尿病>”之间添加预设时长的停顿信息,则对韵律预测结果进行更新具体可以包括:在模板文本“关于”的音素特征“guan”、“yu”和变量文本“<糖尿病>”的音素特征“tang”、“niao”、“bing”之间添加预设时长的停顿信息,更新后的韵律预测结果可以为:“guan”、“yu”、“停顿n毫秒”、“tang”、“niao”、“bing”等。其中,n可以为大于0的自然数,n的值可由本领域技术人员根据实际应用
需求确定。
60.声学系统环节可以按照语音合成参数,得到符合需求的预设语音。
61.可选地,语音合成参数可以包括:音色参数。音色参数可以指不同的声音的频率表现在波形方面的与众不同的特性,通常不同的发声体对应不同的音色,因此可以按照音色参数,得到与目标发声体的音色相匹配的语音序列,目标发声体可由用户指定,例如,目标发声体可以为指定的医学工作者等。在实际应用中,可以依据目标发声体的预设长度的音频,得到目标发声体的音色参数。
62.图像部分对应的预设图像序列可以在虚拟对象图像的基础上得到,换言之,本发明实施例可以为虚拟对象图像赋予状态特征,以得到预设图像序列。虚拟对象图像可由用户指定,例如,虚拟对象图像可以为知名人物(例如主持人)的图像。
63.上述状态特征可以包括如下特征中的至少一种:
64.表情特征;
65.唇部特征;以及
66.肢体特征。
67.表情,表达感情、情意,可以指表现在面部的思想感情。
68.表情特征通常是针对整个面部的。唇部特征可以专门针对唇部,而且跟文本的文本内容、语音、发音方式等都有关系,因此可以提高预设图像序列所对应表达的自然度。
69.肢体特征可以通过头、眼、颈、手、肘、臂、身、胯、足等人体部位的协调活动来传达人物的思想,形象地借以表情达意。肢体特征可以包括:转头、耸肩、手势等,可以提高图像序列所对应表达的丰富度。例如,说话时至少一个手臂自然下垂,不说话时至少一个手臂自然放在腹部等。
70.本发明实施例在生成预设视频的图像部分的过程中,可以根据预设完整文本及停顿信息,确定图像参数,该图像参数可以表征虚拟对象的状态特征;并根据图像参数生成图像部分对应的预设图像序列。
71.其中,图像参数可以包括:停顿图像参数,该停顿图像参数可以表征停顿信息对应的停顿状态特征。相应地,预设图像序列中可以包括:停顿状态特征对应的图像序列。例如,停顿状态特征可以包括:中性表情、唇部闭合状态、以及手臂下垂状态等。
72.在生成预设语音和预设图像序列后,可以对预设语音和预设图像序列进行融合,得到对应的预设视频。
73.在得到预设视频后,可以从上述预设视频中截取上述模板文本对应的第一视频片段。具体地,可以根据预设变量文本在预设视频中的起始位置和结束位置,进行第一视频片段的截取。
74.以文本a为例,假设预设变量文本“<糖尿病>”在预设视频中的起始位置为t1,预设变量文本“<糖尿病>”在预设视频中的结束位置为t2,则可以从预设视频中截取t1之前的视频片段,作为模板文本“关于”对应的第一视频片段。需要说明的是,在生成预设视频的过程中利用了分界位置处的停顿信息,故t1之前的第一视频片段带有停顿信息,因此能够提高后续拼接过程中拼接位置处的连续性。
75.以文本a为例,假设预设变量文本“<水果>”在预设视频中的起始位置为t3,预设变量文本“<水果>”在预设视频中的结束位置为t4,则可以从预设视频中截取t2与t3之间的视
频片段,作为模板文本“和”对应的第一视频片段。
76.由于预设完整文本中的模板文本被预设变量文本分割为多处,故在实际应用中,可以从预设视频中分别提取多处模板文本对应的第一视频片段。
77.可以理解,上述在生成预设视频的过程中利用了分界位置处的停顿信息、以获得第一视频片段的获取方式,只是作为可选实施例,实际上,本领域技术人员还可以根据实际应用需求,采用其他获取方式。
78.例如,一种获取方式的实现过程可以包括:根据模板文本和预设变量文本,生成第一视频;从上述第一视频中截取上述模板文本对应的视频片段;在分界位置处对所述视频片段进行停顿处理。
79.以语音部分的停顿处理为例,可以视频片段在分界位置处的语音信号与静音信号进行加权处理,以实现语音部分的停顿处理。以图像部分的停顿处理为例,可以视频片段在分界位置处的图像序列与停顿信息对应目标状态特征的图像序列进行加权处理,以实现图像部分的停顿处理。
80.在获得第一视频片段后,可以对第一视频片段进行保存,以在变量文本发生变化的情况下,对第一视频片段与改变后的变量文本(以下简称待处理变量文本)对应的第二视频片段进行拼接。
81.步骤102中,待处理变量文本可以根据用户输入得到。可以理解,本发明实施例对于待处理变量文本的具体确定方式不加以限制。
82.本发明实施例可以提供生成待处理变量文本对应的第二视频片段的如下技术方案:
83.技术方案1、
84.技术方案1中生成待处理变量文本对应的第二视频片段,具体包括:针对待处理变量文本所在的语句,确定对应的语音参数和图像参数;从所述语音参数和图像参数中,提取所述待处理变量文本对应的目标语音参数和目标图像参数;根据所述待处理变量文本对应的目标语音参数和目标图像参数,生成待处理变量文本对应的第二视频片段。
85.技术方案1首先以待处理变量文本所在的语句为单位,确定对应的语音参数和图像参数,然后从语音参数和图像参数中,提取所述待处理变量文本对应的目标语音参数和目标图像参数。
86.语句是一个语法上自成体系的单位,它由一个词或句法上有关连的一组词构成,表达一种主张、疑问、命令、愿望或感叹。
87.在待处理变量文本对应词的情况下,语句中通常既包含模板文本又包含待处理变量文本。由于语句对应的语音参数和图像参数具有一定的连续性,故从中提取的待处理变量文本对应的目标语音参数和目标图像参数与语句中模板文本对应的语音参数和图像参数具有一定的连续性;在此基础上,能够提高待处理变量文本对应的第二视频片段与语句中模板文本对应的第一视频片段之间的连续性,进而能够提高拼接位置处的连续性。
88.在实际应用中,语音参数可以表征语音合成所对应的参数。语音参数可以包括:语言特征和/或声学特征。
89.语言特征可以包括:音素特征。音素是根据语音的自然属性划分出来的最小语音单位,依据音节里的发音动作来分析,一个动作构成一个音素。音素可以包括:元音与辅音。
90.声学特征可以从发声角度表征语音的特征。
91.声学特征可以包括但不限于如下特征:
92.韵律学特征(超音段特征/超语言学特征),具体包括时长相关特征、基频相关特征、能量相关特征等;
93.音质特征;
94.基于谱的相关性分析特征,其是声道形状变化和发声运动之间相关性的体现,目前基于谱的相关特征主要包括:线性预测倒谱系数(lpcc,linearpredictioncoefficients)、梅尔频率倒谱系数(mfcc,mel frequency cepstrum coefficient)等。
95.可以理解,上述语音参数只是作为示例,本发明实施例对具体的语音参数不加以限制。
96.在具体实现中,可以根据目标语音参数,对待处理变量文本进行语音合成,以将待处理变量文本转换为目标语音。
97.图像参数可以为图像序列的生成所对应的参数。图像参数可用于确定虚拟对象对应的状态特征,或者,图像参数可以包括:虚拟对象对应的状态特征。例如,图像参数可以包括唇部特征。
98.在具体实现中,可以为虚拟对象图像赋予目标图像参数对应的状态特征,以得到目标图像序列。对目标语音和目标图像序列进行融合,可以得到第二视频片段。
99.技术方案2、
100.技术方案2中生成待处理变量文本对应的第二视频片段,具体包括:根据预设变量文本在边界位置处的预设图像参数,对待处理变量文本对应的目标图像参数进行平滑处理;根据平滑处理后的目标图像参数,生成所述待处理变量文本对应的第二视频片段。
101.技术方案2根据预设变量文本在边界位置处的预设图像参数,对待处理变量文本对应的目标图像参数进行平滑处理。由于预设变量文本在边界位置处的预设图像参数与模板文本在边界位置处的图像参数具有一定的连续性,故上述平滑处理能够提高平滑处理后的目标图像参数与模板文本的图像参数在边界位置处的连续性;在此基础上,能够提高待处理变量文本对应的第二视频片段与语句中模板文本对应的第一视频片段之间的连续性,进而能够提高拼接位置处的连续性。
102.在具体实现中,可以利用汉宁窗等窗函数,根据预设图像参数,对待处理变量文本对应的目标图像参数进行平滑处理。可以理解,本发明实施例对于具体的平滑处理过程不加以限制。
103.根据前面的介绍,本发明实施例在生成预设视频的图像部分的过程中,可以根据预设完整文本及停顿信息,确定图像参数,本发明实施例可以从图像参数中提取预设变量文本在边界位置处的预设图像参数,并对该预设图像参数进行保存。
104.以文本a为例,假设预设变量文本“<糖尿病>”在预设视频中的起始位置为t1,预设变量文本“<糖尿病>”在预设视频中的结束位置为t2,则可以提取t1至t2之间的图像参数,作为预设变量文本“<糖尿病>”在边界位置处的预设图像参数。
105.技术方案3、
106.技术方案3中,视频对应的图像序列包括:背景图像序列和运动图像序列,则生成
待处理变量文本对应的第二视频片段,具体包括:生成待处理变量文本对应的目标运动图像序列;根据变量文本对应的预设背景图像序列,确定待处理变量文本对应的目标背景图像序列;对上述目标运动图像序列和上述目标背景图像序列进行融合,以得到所述待处理变量文本对应的第二视频片段。
107.在实际应用中,可以将视频对应的图像序列分解为两部分。第一部分是:运动图像序列,可用于表征虚拟对象表达时运动的部分,通常对应唇部、眼部、手臂部位等预设部位。第二部分是:背景图像序列,可用于表征虚拟对象表达时相对静止的部分,通常对应除了预设部位之外的部分。
108.在具体实现中,背景图像序列可以为预置得到。例如,可以预置预设时长的预设背景图像序列,并在图像序列中对预设背景图像序列进行循环播放。可以根据待处理变量文本对应的目标图像参数,生成运动图像序列。
109.在实际应用中,可以对运动图像序列和背景图像序列进行融合,以得到图像序列。例如,可以将运动图像序列贴到背景图像序列之上,以得到图像序列。
110.技术方案3根据变量文本对应的预设背景图像序列,确定待处理变量文本对应的目标背景图像序列,可以提高目标背景图像序列与预设背景图像序列之间的匹配度,进而能够提高待处理变量文本对应目标背景图像序列与模板文本对应背景图像序列之间的匹配度和连续性。
111.根据前面的介绍,本发明实施例在生成预设视频的图像部分的过程中,可以对预设变量文本对应预设背景图像序列的信息进行记录。例如,预设背景图像序列的信息可以包括:预设背景图像序列在预设视频中的起始帧标识和结束帧标识等。例如,预设背景图像序列的信息可以包括:起始帧编号100和结束帧编号125等。
112.在一种实施方式中,为了提高目标背景图像序列与预设背景图像序列在起始位置处或结束位置处的匹配度,所述目标背景图像序列的位于首尾位置的背景图像,与所述预设背景图像序列的位于首尾位置的背景图像相匹配。
113.首位置可以指起始位置,尾位置可以指结束位置。具体地,目标背景图像序列的位于首位置的背景图像,与预设背景图像序列的位于首位置的背景图像相匹配。或者,目标背景图像序列的位于尾位置的背景图像,与预设背景图像序列的位于尾位置的背景图像相匹配。
114.由于预设背景图像序列与模板文本对应背景图像序列在分界位置处是匹配的和连续的,故在目标背景图像序列与预设背景图像序列在分界位置处相匹配的情况下,也能够提高目标背景图像序列与模板文本对应背景图像序列在拼接位置处的匹配度和连续性。
115.为了实现目标背景图像序列与预设背景图像序列在分界位置处相匹配,上述确定所述待处理变量文本对应的目标背景图像序列所采用的确定方式,具体可以包括:
116.确定方式1、在预设背景图像序列对应的图像数量n1与目标运动图像序列对应的图像数量n2相匹配的情况下,将所述预设背景图像序列确定为目标背景图像序列;或者
117.确定方式2、在预设背景图像序列对应的图像数量n1大于目标运动图像序列对应的图像数量n2的情况下,从所述预设背景图像序列中丢弃位于中间位置的第一背景图像;在丢弃至少两帧第一背景图像的情况下,至少两帧第一背景图像在预设背景图像序列中不连续分布;或者
118.确定方式3、在预设背景图像序列对应的图像数量n1小于目标运动图像序列对应的图像数量n2的情况下,在预设背景图像序列的基础上增加第二背景图像。
119.对于确定方式1,在n1与n2相等的情况下,将预设背景图像序列确定为目标背景图像序列,可以实现目标背景图像序列与预设背景图像序列在分界位置处的匹配。
120.在实际应用中,可以根据待处理变量文本对应的语音时长信息,确定目标运动图像序列对应的图像数量n2。该语音时长信息可以根据待处理变量文本对应的语音参数确定,或者,该语音时长信息可以根据待处理变量文本对应语音片段的时长确定。
121.对于确定方式2,在n1大于n2的情况下,从预设背景图像序列中丢弃位于中间位置的第一背景图像,可以实现目标背景图像序列与预设背景图像序列在分界位置处的匹配。
122.中间位置可以不同于首位置或尾位置。且丢弃的至少两帧第一背景图像在预设背景图像序列中不连续分布;这样,可以在一定程度上避免丢弃连续的背景图像导致的背景图像连续性差的问题。
123.在实际应用中,第一背景图像的数量可以与n1与n2的差值相匹配。例如,预设背景图像序列的信息可以包括:起始帧编号100和结束帧编号125等,n1的值为26,假设目标运动图像序列对应的图像数量n2为24,则可以从预设背景图像序列中丢弃位于中间位置、且位置不连续的2帧第一背景图像。
124.对于确定方式3,在n1小于n2的情况下,在预设背景图像序列的基础上增加第二背景图像,可以实现目标背景图像序列与预设背景图像序列在分界位置处的匹配。
125.在本发明的一种可选实施例中,第二背景图像可以源自预设背景图像序列,换言之,可以从预设背景图像序列中确定出待增加的第二背景图像。
126.在一种实现方式中,可以首先按照正向的顺序,将预设背景图像序列确定为目标背景图像序列的第一部分;然后按照倒向的顺序,将预设背景图像序列确定为目标背景图像序列的第二部分;接着按照正向的顺序,将预设背景图像序列确定为目标背景图像序列的第三部分;其中,第三部分的结束帧与预设背景图像序列的结束帧相匹配。
127.例如,预设背景图像序列的信息可以包括:起始帧编号100和结束帧编号125等,n1的值为26,假设目标运动图像序列对应的图像数量n2为30,则目标背景图像序列的第一部分对应的帧编号可以为:100

125,目标背景图像序列的第二部分对应的帧编号可以为:125

124,目标背景图像序列的第三部分对应的帧编号可以为:124

125。
128.在本发明的另一种可选实施例中,第二背景图像可以源自预设背景图像序列以外的背景图像序列,例如,可以从预设背景图像序列之后的背景图像序列中确定第二背景图像。
129.在一种实现方式中,可以首先按照正向的顺序,将预设背景图像序列确定为目标背景图像序列的第一部分;然后按照正向的顺序,将预设背景图像序列后续的背景图像序列确定为目标背景图像序列的第二部分;接着按照倒向的顺序,将预设背景图像序列后续的背景图像序列和预设背景图像序列的结束帧确定为目标背景图像序列的第三部分;其中,第三部分的结束帧与预设背景图像序列的结束帧相匹配。
130.例如,预设背景图像序列的信息可以包括:起始帧编号100和结束帧编号125等,n1的值为26,假设目标运动图像序列对应的图像数量n2为30,则目标背景图像序列的第一部分对应的帧编号可以为:100

125,目标背景图像序列的第二部分对应的帧编号可以为:
126

127,目标背景图像序列的第三部分对应的帧编号可以为:127

125。
131.可以理解,上述在预设背景图像序列的基础上增加第二背景图像的实现方式,只是作为示例,实际上本领域技术人员可以根据实际应用需求,采用其他实现方式,任意的能够实现目标背景图像序列与预设背景图像序列在分界位置处的匹配的实现方式,均在本发明实施例的实现方式的保护范围之内。
132.例如,在一种其他实现方式中,还可以确定倒向的目标背景图像序列。相应的确定过程可以包括:首先按照倒向的顺序,将预设背景图像序列确定为目标背景图像序列的第一部分;然后按照正向的顺序,将预设背景图像序列确定为目标背景图像序列的第二部分;接着按照倒向的顺序,将预设背景图像序列确定为目标背景图像序列的第三部分;其中,第三部分的起始帧与预设背景图像序列的起始帧相匹配。
133.例如,预设背景图像序列的信息可以包括:起始帧编号100和结束帧编号125等,n1的值为26,假设目标运动图像序列对应的图像数量n2为30,则目标背景图像序列的第一部分对应的帧编号可以为:125

100,目标背景图像序列的第二部分对应的帧编号可以为:100

101,目标背景图像序列的第三部分对应的帧编号可以为:101

100。此种情况下得到目标背景图像序列的帧编号可以为:100

101

101

100

100

125。
134.以上通过技术方案1至技术方案3对生成待处理变量文本对应的第二视频片段的过程进行了详细介绍,可以理解,本领域技术人员可以根据实际应用需求,采用技术方案1至技术方案3中的任一或组合,本发明实施例对生成待处理变量文本对应的第二视频片段的具体过程不加以限制。
135.步骤103中,对该第一视频片段和该第二视频片段进行拼接,可以得到该模板文本和该待处理变量文本对应的视频。
136.在本发明的一种可选实施例中,第一视频片段具体可以包括:第一语音片段,第二视频片段具体可以包括:第二语音片段;
137.则上述对所述第一视频片段和所述第二视频片段进行拼接,具体可以包括:对第一语音片段和第二语音片段在所述分界位置的语音子片段进行平滑处理;对平滑处理后的第一语音片段和第二语音片段进行拼接。
138.本发明实施例首先对第一语音片段和第二语音片段在所述分界位置的语音子片段进行平滑处理,然后对平滑处理后的第一语音片段和第二语音片段进行拼接。上述平滑处理能够提高平滑处理后的第一语音片段与第二语音片段之间的连续性,因此能够提高第一视频片段和第二视频片段在拼接位置处的连续性。
139.在实际应用中,可以对拼接得到的视频进行输出,例如输出给用户。以医疗场景为例,可以根据用户输入中包含的疾病名称,确定对应的待处理变量文本,利用图1所示方法实施例,得到视频,并向用户提供该视频。
140.综上,本发明实施例的视频处理方法,对模板文本对应的第一视频片段与待处理变量文本对应的第二视频片段进行拼接。其中,第一视频片段可以为预先保存的视频片段,在视频处理过程中可以生成待处理变量文本对应的第二视频片段。由于待处理变量文本的长度小于完整文本的长度,故本发明实施例能够缩短生成视频的长度和对应的时间成本,因此,能够提高视频的处理效率。
141.并且,本发明实施例的第一视频片段在模板文本与变量文本之间的分界位置处,
设置有:经过停顿处理的视频子片段。上述停顿处理能够在一定程度上克服拼接位置处的跳变或抖动问题,因此能够提高拼接位置处的连续性。
142.方法实施例二
143.参照图2,示出了本发明的一种视频处理方法实施例二的步骤流程图,具体可以包括如下步骤:
144.步骤201、根据模板文本、预设变量文本、以及对应分界位置处的停顿信息,生成预设视频;
145.步骤202、从上述预设视频中截取上述模板文本对应的第一视频片段,并对第一视频片段进行保存;
146.步骤203、根据预设视频的信息,保存预设变量文本在边界位置处的预设图像参数、以及预设变量文本对应预设背景图像序列的信息;
147.步骤201至步骤203,可用于基于生成的预设视频,预先保存第一视频片段、预设变量文本在边界位置处的预设图像参数、以及预设变量文本对应预设背景图像序列的信息。
148.步骤204至步骤211,可用于根据预先保存的信息,生成待处理变量文本对应的第二视频片段;并对预先保存的第一视频片段与第二视频片段进行拼接。
149.步骤204、针对待处理变量文本所在的语句,确定对应的语音参数和图像参数;
150.步骤205、从所述语音参数和图像参数中,提取所述待处理变量文本对应的目标语音参数和目标图像参数;
151.步骤206、根据预设图像参数,对所述待处理变量文本对应的目标图像参数进行平滑处理;
152.步骤207、根据目标语音参数和平滑处理后的目标图像参数,生成所述待处理变量文本对应的目标运动图像序列;
153.步骤208、根据预设背景图像序列,确定所述待处理变量文本对应的目标背景图像序列;
154.步骤209、对所述目标运动图像序列和所述目标背景图像序列进行融合,以得到所述待处理变量文本对应的第二视频片段;
155.步骤210、对第一视频片段中第一语音片段和第二视频片段中第二语音片段,在所述分界位置的语音子片段进行平滑处理;
156.步骤211、根据平滑处理后的第一语音片段和第二语音片段,对第一视频片段和第二视频片段进行拼接。
157.在本发明的一种应用示例中,假设预设完整文本为前述的文本a,预设变量文本为文本a中的“<糖尿病>”、“<水果>”、“<1800>”等,则可以根据文本a及对应的停顿信息,生成预设视频,并对预设视频中的第一视频片段、预设变量文本在边界位置处的预设图像参数、以及预设变量文本对应预设背景图像序列的信息进行保存。
158.在实际应用中,用户输入等因素可能导致变量文本的变化。例如,在文本a变为文本b“关于<冠心病>和<蔬菜>的问题,我还在研究。我想这份<冠心病的饮食建议可能也对你有帮助,里面包含了约<900>种食材的推荐、禁忌,请你点击查看”的情况下,待处理变量文本可以包括:文本b中的“<冠心病>”、“<蔬菜>”、“<900>”等。
159.本发明实施例可以生成待处理变量文本对应的第二视频片段。例如,可以首先确
定待处理变量文本所在语句的声学参数和唇部特征;然后,从中提取出待处理变量文本对应的目标声学参数和目标唇部特征,并分别生成待处理变量文本对应的语音片段和目标图像序列。目标图像序列可以包括:目标运动图像序列和目标背景图像序列。
160.在生成目标运动图像序列的过程中,可以利用步骤206对目标唇部特征进行平滑处理,以提高唇部特征在拼接位置处的连续性。
161.可以利用步骤208,生成目标背景图像序列,实现目标背景图像序列与预设背景图像序列在分界位置处的匹配,以提高背景图像序列在拼接位置处的连续性。
162.在对第一视频片段与第二视频片段进行拼接之前,可以首先对第一视频片段中第一语音片段和第二视频片段中第二语音片段,在所述分界位置的语音子片段进行平滑处理;然后根据平滑处理后的第一语音片段和第二语音片段,对第一视频片段和第二视频片段进行拼接。
163.综上,本发明实施例的视频处理方法,在第一视频片段的分界位置处加入了预设时长的停顿,能够在一定程度上克服拼接位置处的跳变或抖动问题,因此能够提高拼接位置处的连续性。
164.并且,本发明实施例以待处理变量文本所在的语句为单位,确定对应的语音参数和图像参数,然后从语音参数和图像参数中,提取所述待处理变量文本对应的目标语音参数和目标图像参数。由于语句对应的语音参数和图像参数具有一定的连续性,故从中提取的待处理变量文本对应的目标语音参数和目标图像参数与语句中模板文本对应的语音参数和图像参数具有一定的连续性;在此基础上,能够提高待处理变量文本对应的第二视频片段与语句中模板文本对应的第一视频片段之间的连续性,进而能够进一步提高拼接位置处的连续性。
165.再者,本发明实施例根据预设变量文本在边界位置处的预设图像参数,对待处理变量文本对应的目标图像参数进行平滑处理。由于预设变量文本在边界位置处的预设图像参数与模板文本在边界位置处的图像参数具有一定的连续性,故上述平滑处理能够提高平滑处理后的目标图像参数与模板文本的图像参数在边界位置处的连续性;在此基础上,能够提高待处理变量文本对应的第二视频片段与语句中模板文本对应的第一视频片段之间的连续性,进而能够提高拼接位置处的连续性。
166.此外,本发明实施例根据预设背景图像序列,生成目标背景图像序列,可以实现目标背景图像序列与预设背景图像序列在分界位置处的匹配,以提高背景图像序列在拼接位置处的连续性。
167.进一步,本发明实施例在对第一视频片段与第二视频片段进行拼接之前,对第一视频片段中第一语音片段和第二视频片段中第二语音片段,在所述分界位置的语音子片段进行平滑处理。上述平滑处理能够提高平滑处理后的第一语音片段与第二语音片段之间的连续性,因此能够提高第一视频片段和第二视频片段在拼接位置处的连续性。
168.需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的运动动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的运动动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的运动动作并不一定是本发明实施例所必须的。
169.装置实施例
170.参照图3,示出了本发明的一种视频处理装置实施例的结构框图,具体可以包括:
171.提供模块301,用于提供模板文本对应的第一视频片段;所述第一视频片段在所述模板文本与变量文本之间的分界位置处,设置有:经过停顿处理的视频子片段;
172.生成模块302,用于生成待处理变量文本对应的第二视频片段;
173.拼接模块303,用于对所述第一视频片段和所述第二视频片段进行拼接,以得到所述模板文本和所述待处理变量文本对应的视频。
174.可选地,上述装置还可以包括:
175.预设视频生成模块,用于根据模板文本、预设变量文本、以及对应分界位置处的停顿信息,生成预设视频;
176.截取模块,用于从上述预设视频中截取上述模板文本对应的第一视频片段。
177.可选地,生成模块302可以包括:
178.参数确定模块,用于针对待处理变量文本所在的语句,确定对应的语音参数和图像参数;
179.参数提取模块,用于从上述语音参数和图像参数中,提取上述待处理变量文本对应的目标语音参数和目标图像参数;
180.第一片段生成模块,用于根据上述待处理变量文本对应的目标语音参数和目标图像参数,生成待处理变量文本对应的第二视频片段。
181.可选地,生成模块302可以包括:
182.第一平滑处理模块,用于根据变量文本在边界位置处的预设图像参数,对上述待处理变量文本对应的目标图像参数进行平滑处理;
183.第二片段生成模块,用于根据平滑处理后的目标图像参数,生成上述待处理变量文本对应的第二视频片段。
184.可选地,上述第一视频片段可以包括:第一语音片段,上述第二视频片段可以包括:第二语音片段;
185.拼接模块303可以包括:
186.第二平滑处理模块,用于对第一语音片段和第二语音片段在上述分界位置的语音子片段进行平滑处理;
187.平滑后拼接模块,用于对平滑处理后的第一语音片段和第二语音片段进行拼接。
188.可选地,上述视频对应的图像序列可以包括:背景图像序列和运动图像序列;
189.生成模块302可以包括:
190.运动图像序列生成模块,用于生成待处理变量文本对应的目标运动图像序列;
191.背景图像序列生成模块,用于根据变量文本对应的预设背景图像序列,确定上述待处理变量文本对应的目标背景图像序列;
192.融合模块,用于对上述目标运动图像序列和上述目标背景图像序列进行融合,以得到上述待处理变量文本对应的第二视频片段。
193.可选地,上述目标背景图像序列的位于首尾位置的背景图像,与上述预设背景图像序列的位于首尾位置的背景图像相匹配。
194.可选地,上述背景图像序列生成模块,可以包括:
195.第一背景图像序列生成模块,用于在上述预设背景图像序列对应的图像数量与上述目标运动图像序列对应的图像数量相匹配的情况下,将上述预设背景图像序列确定为目标背景图像序列;或者
196.第二背景图像序列生成模块,用于在上述预设背景图像序列对应的图像数量大于上述目标运动图像序列对应的图像数量的情况下,从上述预设背景图像序列中丢弃位于中间位置的第一背景图像;在丢弃至少两帧第一背景图像的情况下,至少两帧第一背景图像在预设背景图像序列中不连续分布;或者
197.第三背景图像序列生成模块,用于在上述预设背景图像序列对应的图像数量小于上述目标运动图像序列对应的图像数量的情况下,在上述预设背景图像序列中增加第二背景图像。
198.对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
199.本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
200.关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
201.图4是根据一示例性实施例示出的一种用于视频处理的装置900的结构框图。例如,装置900可以是移动来电,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
202.参照图4,装置900可以包括以下一个或多个组件:处理组件902,存储器904,电源组件906,多媒体组件908,音频组件910,输入/输出(i/o)的接口912,传感器组件914,以及通信组件916。
203.处理组件902通常控制装置900的整体操作,诸如与显示,来电呼叫,数据通信,相机操作和记录操作相关联的操作。处理元件902可以包括一个或多个处理器920来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件902可以包括一个或多个模块,便于处理组件902和其他组件之间的交互。例如,处理组件902可以包括多媒体模块,以方便多媒体组件908和处理组件902之间的交互。
204.存储器904被配置为存储各种类型的数据以支持在设备900的操作。这些数据的示例包括用于在装置900上操作的任何应用程序或方法的指令,联系人数据,来电簿数据,消息,图片,视频等。存储器904可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(sram),电可擦除可编程只读存储器(eeprom),可擦除可编程只读存储器(eprom),可编程只读存储器(prom),只读存储器(rom),磁存储器,快闪存储器,磁盘或光盘。
205.电源组件906为装置900的各种组件提供电力。电源组件906可以包括电源管理系统,一个或多个电源,及其他与为装置900生成、管理和分配电力相关联的组件。
206.多媒体组件908包括在所述装置900和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(lcd)和触摸面板(tp)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动运动
动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件908包括一个前置摄像头和/或后置摄像头。当设备900处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
207.音频组件910被配置为输出和/或输入音频信号。例如,音频组件910包括一个麦克风(mic),当装置900处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器904或经由通信组件916发送。在一些实施例中,音频组件910还包括一个扬声器,用于输出音频信号。
208.i/o接口912为处理组件902和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
209.传感器组件914包括一个或多个传感器,用于为装置900提供各个方面的状态评估。例如,传感器组件914可以检测到设备900的打开/关闭状态,组件的相对定位,例如所述组件为装置900的显示器和小键盘,传感器组件914还可以检测装置900或装置900一个组件的位置改变,用户与装置900接触的存在或不存在,装置900方位或加速/减速和装置900的温度变化。传感器组件914可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件914还可以包括光传感器,如cmos或ccd图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件914还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
210.通信组件916被配置为便于装置900和其他设备之间有线或无线方式的通信。装置900可以接入基于通信标准的无线网络,如wifi,2g或3g,或它们的组合。在一个示例性实施例中,通信部件916经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信部件916还包括近场通信(nfc)模块,以促进短程通信。例如,在nfc模块可基于射频识别(rfid)技术,红外数据协会(irda)技术,超宽带(uwb)技术,蓝牙(bt)技术和其他技术来实现。
211.在示例性实施例中,装置900可以被一个或多个应用专用集成电路(asic)、数字信号处理器(dsp)、数字信号处理设备(dspd)、可编程逻辑器件(pld)、现场可编程门阵列(fpga)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
212.在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器904,上述指令可由装置900的处理器920执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是rom、随机存取存储器(ram)、cd

rom、磁带、软盘和光数据存储设备等。
213.图5是本发明的一些实施例中服务端的结构框图。该服务端1900可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(central processing units,cpu)1922(例如,一个或一个以上处理器)和存储器1932,一个或一个以上存储应用程序1942或数据1944的存储介质1930(例如一个或一个以上海量存储设备)。其中,存储器1932和存储介质1930可以是短暂存储或持久存储。存储在存储介质1930的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务端中的一系列指令操作。更进一步地,中央处理器1922可以设置为与存储介质1930通信,在服务端1900上执行存储介质
1930中的一系列指令操作。
214.服务端1900还可以包括一个或一个以上电源1926,一个或一个以上有线或无线网络接口1950,一个或一个以上输入输出接口1958,一个或一个以上键盘1956,和/或,一个或一个以上操作系统1941,例如windows servertm,mac os xtm,unixtm,linuxtm,freebsdtm等等。
215.一种非临时性计算机可读存储介质,当所述存储介质中的指令由装置(设备或者服务端)的处理器执行时,使得装置能够执行一种视频处理方法,所述方法包括:提供模板文本对应的第一视频片段;所述第一视频片段在所述模板文本与变量文本之间的分界位置处,设置有:经过停顿处理的视频子片段;生成待处理变量文本对应的第二视频片段;对所述第一视频片段和所述第二视频片段进行拼接,以得到所述模板文本和所述待处理变量文本对应的视频。
216.本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本发明旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
217.应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
218.以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
219.以上对本发明实施例所提供的一种视频处理方法、一种视频处理装置和一种用于视频处理的装置,进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献