一种自然语言驱动视频调色参数与三维查找表生成系统的制作方法

摘要: 本发明涉及数据处理与数字图像视频信号处理,特别涉及一种自然语言驱动视频调色参数与三维查找表生成系统。背景技术:1、在多媒体艺术创作及其教学场景中,视频调色的工作...
一种自然语言驱动视频调色参数与三维查找表生成系统的制作方法

本发明涉及数据处理与数字图像视频信号处理,特别涉及一种自然语言驱动视频调色参数与三维查找表生成系统。

背景技术:

1、在多媒体艺术创作及其教学场景中,视频调色的工作语汇通常表现为自然语言描述,而调色软件侧的实际可操作量则是一组有限的有界旋钮参数(如色温、对比度、饱和度、伽马、阴影抬升、高光压缩及整体强度等),这些参数值最终需被烘焙为三维查找表(3dlut)并施加于视频素材。将自然语言形式的创作意图转换为精确的参数向量及对应的三维查找表,是一项重复性高且依赖经验的常规工作。

2、现有方案主要分为两类:一类为预设库检索方案,其将输入短语嵌入后检索最相近已存预设并直接取用其参数,该方案虽实现成本低且易于解释,但硬最近邻检索按构造返回一个已存点,导致任何中间语义的短语均被吸附到某个离散预设上,当短语由一种风格连续过渡到另一种风格时,输出呈现为“平台加跳变”的阶梯状而非连续变化,与参数控制所需的平滑插值行为相悖;另一类为依赖云端大模型或商业调色套件的方案,其部署代价较高,需要网络依赖、按次计费、延迟不稳定,且同一短语两次输入时输出不保证一致,在教学演示须可重复、审计留痕须可追溯的场景下难以满足要求;此外,亦有端到端回归网络方案,由单一网络直接从文本回归参数向量,但其输出为单一向量,不暴露决策依据,无法逐支路追溯某一维度取值的来源,且当锚点样本规模有限时须在全部参数维上拟合完整绝对工作点。

3、与此同时,现有方案通常仅输出参数数值,即使声称可驱动查找表,也未提供导出查找表与本地逐像素着色两条路径之间的一致性核对手段,导致导出物与本地预览之间可能存在未经核对的差异。

4、因此,亟需一种能够在不依赖外部网络与预训练模型权重的条件下,实现自然语言到调色参数及三维查找表的离线确定性映射,同时具备输出平滑性、决策可追溯性及导出物可核对性的系统。

技术实现思路

1、本发明的目的是提供一种自然语言驱动视频调色参数与三维查找表生成系统,解决了现有技术中因硬最近邻检索导致的输出吸附与阶梯效应、依赖云端服务带来的部署不确定性与不可复现性、端到端回归网络缺乏决策可追溯性,以及导出查找表与本地逐像素着色之间缺乏一致性核对手段,从而导致无法在离线环境下实现平滑、确定、可解释且可核对的自然语言到调色参数及三维查找表映射的技术问题。

2、为了达到上述发明目的,本发明采用的技术方案为:

3、一种自然语言驱动视频调色参数与三维查找表生成系统,包括锚点库接口单元,用于以可替换方式装载锚点库,所述锚点库由多个锚点构成,每一锚点包含一条锚点文案及与之对应的有界归一化参数向量,所述参数向量的各分量取值于[0,1];

4、确定性文本嵌入单元,用于以确定性的字符n元组散列方式,对输入的自然语言查询短语以及所述锚点库中的全部锚点文案生成特征向量,所述单元不加载外部预训练模型权重文件且不发起外部网络接口调用;

5、规则先验单元,用于将由方向词与强度修饰词构成的词表映射为相对一个中性默认向量的有符号偏移,所述中性默认向量的维数与所述参数向量的维数相同,各分量取值为0.5,且仅在所述查询短语中识别到所述词表中的词项时输出该偏移,未识别到时输出显式的弃权标记;

6、核加权检索单元,用于计算所述查询短语的特征向量与各锚点文案特征向量之间的余弦相似度,并以温度参数t的归一化指数权重对相似度排序在前k位的锚点所对应的参数向量作加权平均;

7、残差学习单元,包括在所述锚点库上拟合的多层感知机,所述多层感知机的输入为所述查询短语的特征向量,残差标签为锚点参数向量减去规则先验输出与核加权检索输出之和,训练样本由锚点文案及其对应参数向量构成,用于输出所述规则先验单元与所述核加权检索单元未解释的残差部分;

8、融合单元,用于按预置权重对所述规则先验单元、所述核加权检索单元与所述残差学习单元的输出加权求和,当所述规则先验单元输出弃权标记时,将其数值化为全零向量参与求和,并将求和结果逐分量限幅至[0,1],得到融合参数向量;

9、配置选定单元,用于在所述核加权检索单元的候选取值中预先选定k与t,所述选定仅依据所述核加权检索单元在插值查询上所得归一化权重的平均香农熵,以该平均香农熵不低于ln2为合格条件,且所述选定不依据所述融合参数向量的任何评估结果;所述插值查询由两条锚点文案按预设比例拼接生成查询文本,或按相同比例对两条锚点文案的特征向量进行线性插值生成查询向量;

10、解释输出单元,用于在输出所述融合参数向量的同一路径上输出解释三元组,所述解释三元组的第一元为已触发的规则词项及其参数贡献或所述弃权标记,第二元为所选锚点的标识、相似度与归一化权重或显式的检索关闭标记,第三元为所述残差部分,且所述解释三元组满足由其重建的参数向量与所输出的融合参数向量一致;

11、查找表导出单元,用于在单位rgb立方体的33^3网格点上对由所述融合参数向量驱动的着色进行采样,并写出adobe .cube格式的三维查找表文件;

12、一致性核对单元,用于将按所述着色直接逐像素处理所得结果与经所述三维查找表文件作三线性插值所得结果相比较,输出二者的通道绝对误差。

13、作为改进,所述确定性文本嵌入单元所生成的特征向量在不同进程中逐位一致;所述系统在推理路径上的外部网络接口调用计数为零;

14、对同一查询短语重复执行不少于100次所得融合参数向量逐位相同,且在进程重启后所得融合参数向量逐位相同;

15、所述系统推理路径的依赖关系中不含三维查找表采样对象与色差计算对象。

16、作为改进,所述配置选定单元选定的工作配置为k取所述锚点库的全部锚点、t取2.0;

17、所述系统在该工作配置、等计数三分位带分层与所述确定性文本嵌入的条件下输出评估结论,并将该工作配置作为所输出结论的声明适用条件一并记录。

18、作为改进,还包括平滑性评估单元,用于:

19、在锚点对之间合成插值查询并按语义距离将其等计数地划分为近、中、远三带,以及在所述中带上计算下述四项度量:

20、吸附指数,其等于一减去预测参数向量到最近锚点参数向量的l_1距离与锚点两两l_1距离均值之比;

21、占用率,其等于落入以锚点云最近邻距离中位数为半径的锚点球内的预测比例;

22、多样性塌缩,其等于一减去互异预测单元的比例;所述互异预测单元以预测参数向量逐分量四舍五入至小数点后两位为判据,两个预测向量至少有一个分量不同则计为互异;

23、路径最大跳变,其等于在两个锚点之间的多步插值路径上的最大单步变化量;所述单步变化量为相邻两步预测参数向量之间的l_1距离;

24、所述平滑性评估单元以硬最近邻检索作为纯检索参照,所述硬最近邻检索为k取1且不加权的检索,并以重采样百分位自助法给出所述四项度量之差的置信区间、以多个随机种子给出符号一致率。

25、作为改进,所述平滑性评估单元排除以最近邻支配比为形式的候选度量,所述排除的依据为该候选度量所度量的对象为邻居间的支配关系而非预测是否塌缩至锚点;

26、且所述平滑性评估单元所输出的结论限定于所述中带,不外推至所述近带与所述远带。

27、作为改进,所述解释输出单元包括导出适配层,所述导出适配层设置于推理核心之外,用于在所述核加权检索单元的输出经包装或经温度配置替换的情形下,仍将各所选锚点的标识、相似度与归一化权重结构化地导出;

28、所述解释输出单元还用于对被关闭的分支输出显式标记而非省略该分支;

29、且由所述解释三元组重建的参数向量与所输出的融合参数向量之间的平均绝对误差与最大绝对误差均为零。

30、作为改进,还包括锚点库准入单元,用于:

31、在所述锚点库参与所述核加权检索单元之前对其执行可解码性检验,所述可解码性检验包括:对所述锚点库中的每一锚点,仅在文本嵌入空间中取其最近邻锚点,度量该锚点的参数向量与所述最近邻锚点的参数向量之间的l_1距离,并将该距离的库内统计量与将锚点文案和参数向量的配对随机打乱不少于200次所得的置换零分布相比较,同时并列输出由锚点文案特征向量到锚点参数向量的岭回归留一法误差所述岭回归的正则系数取1.0及其相对同一置换零分布的比较结果;

32、所述可解码性检验独立于所述融合单元的输出,且不以所述锚点参数向量正确为前提。

33、作为改进,所述锚点库准入单元在所述可解码性检验判定为不可解码时,记录该锚点库的文案不携带可解码的参数相关信息,并限制该锚点库用于所述核加权检索单元;

34、其中所述不可解码包括第一情形与第二情形,所述第一情形为锚点文案由任意名称构成而其两两嵌入距离均值与类型—形符比均不低的语料,所述类型—形符比为语料中互异词项数与总词项数之比,"不低"指该比值不低于0.8,所述第二情形为锚点文案与锚点参数向量之间未建立对应关系的构造。

35、作为改进,所述锚点库接口单元所装载的锚点库中,至少一个锚点库的参数向量按下述方式构造:以拒绝采样抽取参数向量,使任意两个参数向量之间的l_1距离不小于预设的最小间隔,随后对所抽取的参数向量施加逐轴单调形变与一次轴置换;

36、且该锚点库的锚点文案的词汇与所述规则先验单元的词表不相交,使所述规则先验单元在该锚点库的锚点文案上的命中数为零,所述锚点文案由确定性映射生成,在所述确定性映射中参数向量的每一个轴贡献一个极性词项与取自独立词汇表的多级强度词项之一,且所述锚点文案跨多种句式生成。

37、作为改进,所述系统在测量之前冻结资源拒绝线,所述资源拒绝线包括单次查询延迟的95分位上限为200毫秒、峰值常驻内存上限为521mb、拟合耗时上限为30秒、逐位一致性要求以及推理路径网络接口调用计数为零;

38、所述系统在普通中央处理器与所述确定性文本嵌入路径下的单次查询延迟95分位值不超过所述95分位上限,峰值常驻内存不超过所述峰值常驻内存上限,拟合耗时不超过所述拟合耗时上限。

39、本发明的有益效果为:本系统采用字符 n 元组散列的确定性文本嵌入方案,不依赖外部预训练模型权重与网络调用,可在离线 cpu 环境完成调色参数生成,在多数场景下能够保障同一自然语言查询多次推理输出结果保持一致,便于教学演示、审计追溯类场景使用。

40、通过核加权检索搭配残差学习、规则先验多支路融合的方式,相比传统硬最近邻检索,可一定程度缓解输出吸附、阶梯跳变问题,让语义连续变化的自然语言输入得到相对平滑过渡的调色参数输出。

41、系统配套解释输出单元,可输出包含规则贡献、锚点检索信息、残差部分的解释三元组,能够对调色参数的生成来源做结构化追溯,便于调试、核查各部分对最终调色结果的贡献。

42、系统支持导出 adobe .cube 格式三维查找表,同时设置一致性核对单元,可对比直接逐像素着色与 3d-lut 插值运算的通道误差,有助于发现查找表导出后和原始着色效果之间可能存在的偏差;另外锚点库准入检验机制,可辅助甄别锚点库中文案与调色参数之间是否具备可解码对应关系,降低无效锚点库带来的检索风险。