一种信息压缩聚类距离计算装置的制作方法

1.本发明属于人工智能技术领域，具体涉及基于嵌套网格的信息压缩聚类距离计算装置。


背景技术：

2.目前信息压缩距离计算装置存在的问题包括如下：
3.近年来，相关研究人员证明了可以通过高维的网格压缩编码方案能够达到最优的有损压缩速率。而网格是在具有普遍连续特征的自然界中，以离散形式存在，是连接信息理论和实际可实现方案的天然桥梁，因此也是一个使用有损压缩方案实现信息距离计算的优选方案。另外，近20年的学术研究发展使得网格理论成为了解决通信和信息领域相关问题有效的解决方案，其中网格压缩理论也有相关的系统性研究。
4.但是，面向信息聚类应用，当前缺乏一个统一的框架，将有损情况下的信息距离和通过压缩的方法进行实际实现。同时缺乏基于嵌套网格理论的有损压缩距离计算装置。缺乏基于网格性质，对嵌套网格进行压缩性能评估的量化手段。而且仿真方法计算压缩距离较为复杂，耗费大量资源。因此需要在理论分析的基础上，采用距离计算装置得到理论计算值，来代替大量仿真，并在一定限制条件下进一步简化计算、提高效率，为该方案未来的潜在应用奠定基础。


技术实现要素：

5.本发明旨在克服现有技术不足，提出一种基于嵌套网格的信息压缩聚类距离计算装置。面向信息聚类应用，采用包含粗网格和细网格的嵌套网格工具进行聚类距离计算。采用基于平坦度因子的聚类距离计算评估手段，衡量嵌套网格用于聚类的性能。
6.设计有损情况下的信息距离计算的实现形式，实现有损压缩距离计算装置。基于信息理论，对有损压缩距离进行限定以简化计算，实现有损压缩距离限定装置。给出了嵌套网格压缩性能评估的量化手段。通过仿真，评估了装置在节省仿真资源、提高计算和评估效率方面的有效性。
7.具体的，一种信息压缩聚类距离计算装置，其特征在于，包含有损压缩距离计算装置和有损压缩距离限定装置，所述有损压缩距离计算装置，用于对有损压缩距离进行计算，包括x率失真函数计算器、y率失真函数计算器、率失真条件y函数调整器、率失真条件x函数调整器和率失真最大值计算器；
8.所述有损压缩距离限定装置，用于对有损压缩距离的下确界进行限定，包含x和y最大互信息量计算器、x互信息量计算器、y互信息量计算器、有损压缩距离加法器、下确界计算器；所述x和y最大互信息量计算器、x互信息量计算器、y互信息量计算器分别用于对x和y最大互信息量、x互信息量、y互信息量进行计算；所述有损压缩距离加法器用于对所述三类互信息量进行求和输入计算得到结果；所述下确界计算器用于将求和结果计算得到有损压缩距离的下确界限定值。
9.优选的，所述x和y最大互信息量计算器包括x条件互信息量计算器、y条件互信息量计算器和互信息量最大值计算器；所述x条件互信息量计算器，用于计算x最大互信息量；所述y条件互信息量计算器，用于计算y最大互信息量；所述互信息量最大值计算器用于计算x和y最大互信息量。
10.优选的，所述x互信息量计算器用于计算x互信息量，包括x和估值互信息量计算器以及互信息量条件y和压缩距离函数调整器；所述x和估值互信息量计算器用于计算x和其解压后恢复的估值之间的互信息量；所述互信息量条件y和压缩距离函数调整器，用于以x和其解压后恢复的估值之间的互信息量未输入，得出x互信息量。
11.优选的，所述y互信息量计算器用于计算y互信息量，包括y和估值互信息量计算器以及互信息量条件x和压缩距离函数调整器；所述y和估值互信息量计算器用于计算y和其解压后恢复的估值之间的互信息量；所述互信息量条件x和压缩距离函数调整器，用于以y和其解压后恢复的估值之间的互信息量为输入，得出y互信息量。
12.优选的，所述x条件互信息量计算器包括x和压缩距离互信息量计算器、互信息量条件y函数调整器；所述y条件互信息量计算器包括y和压缩距离互信息量计算器、互信息量条件x函数调整器。
13.优选的，所述x和压缩距离互信息量计算器为x熵值计算器，用于计算x的熵值；所述互信息量条件y函数调整器包含熵值条件y函数调整器、熵值条件x压缩距离和y函数调整器、x条件熵加法器；所述熵值条件y函数调整器和熵值条件x压缩距离和y函数调整器以x的熵值的计算值为输入，分别按正值和负值输入x条件熵加法器。
14.优选的，所述y和压缩距离互信息量计算器为y熵值计算器，用于计算y的熵值；所述互信息量条件x函数调整器包含熵值条件x函数调整器、熵值条件y压缩距离和x函数调整器、y条件熵加法器；所述熵值条件x函数调整器和熵值条件y压缩距离和x函数调整器以y的熵值的计算值为输入，分别按正值和负值输入y条件熵加法器。
15.优选的，所述x条件互信息量计算器为基于条件y的x互信息量限定器；所述基于条件y的x互信息量限定器包括x值标量计算器、粗网格平坦度因子计算器、x值加法器、x值有损失真计算器、x值相关系数计算器、x值距离噪声方差计算器、x值乘法器、x值噪声参数乘法器、x值比较器、x值对数取值器、x最小值限定器；在计算基于条件y的x互信息量限定值时，所述x值标量计算器用于计算粗网格标量，所述粗网格平坦度因子计算器用于计算x值通过粗网格压缩的平坦度因子，所述x值加法器用于对计算出的粗网格标量和平坦度因子进行求和；同时通过x值有损失真计算器用于计算在最大允许失真为d的前提下的有损失真，所述x值乘法器用于对计算出的有损失真值与所述x值加法器所得计算结果进行乘法计算；所述x值距离噪声方差计算器和x值相关系数计算器用于进行噪声参数计算，所得结果用于输入x值噪声参数乘法器进行参数计算；所述x值比较器用于将x值噪声参数乘法器和x值乘法器所的计算值作为输入进行除法计算，所得结果作为x值对数取值器的输入；所述x最小值限定器用于以x值对数取值器计算所得对数值作为输入，计算基于条件y的x互信息量限定值。
16.优选的，所述y条件互信息量计算器为基于条件x的y互信息量限定器；所述基于条件x的y互信息量限定装置包括y值标量计算器、粗网格平坦度因子计算器、y值加法器、y值有损失真计算器、y值距离噪声方差计算器、y值乘法器、y值比较器、y值对数取值器、y最小
值限定器。在计算基于条件x的y互信息量限定值时，所述y值标量计算器用于计算粗网格标量，所述粗网格平坦度因子计算器用于计算y值通过粗网格压缩的平坦度因子，所述y值加法器用于对计算出的粗网格标量和平坦度因子进行求和；所述y值有损失真计算器用于计算在最大允许失真为d的前提下的有损失真，所述y值乘法器用于对计算出的有损失真值与所述y值加法器所得计算结果进行乘法计算；所述y值距离噪声方差计算器用于进行噪声参数计算，所述y值比较器用于将噪声方差计算与y值乘法器所的计算值作为输入进行除法计算，所得结果作为y值对数取值器的输入；所述y最小值限定器用于以y值对数取值器计算所得对数值作为输入，计算基于条件x的y互信息量限定值。
17.优选的，所述x条件互信息量计算器或y条件互信息量计算器为条件熵值限定器；所述条件熵值限定器，包含标量计算器、粗网格平坦度因子计算器、条件熵限定加法器、有损失真计算器、条件熵限定乘法器、条件熵对数取值器、条件熵最大值限定器。计算条件熵值时，首先通过标量计算器进行网格标量参数的计算，同时通过粗网格平坦度因子计算器计算粗网格平坦度因子，将二者所计算值输入条件熵限定加法器，得到的结果与有损失真计算器所计算出来的有损失真，共同输入条件熵限定乘法器，然后通过条件熵对数取值器进行对数取值，最后通过条件熵最大值限定器计算得到条件熵值，即其所能限定的最大值。
18.优选的，所述平坦度因子计算器包括网格容积噪声比计算器、网格维度放大器、网格容积噪声平方器、网格特征序列计算器、网格平坦度因子乘法器；所述网格容积噪声比计算器、网格维度放大器用于对嵌套网格性能参数进行提取；所述网格容积噪声平方器用于对所提取的嵌套网格性能参数进行网格容积噪声参数的评估；所述网格特征序列计算器用于计算特定嵌套网格的特征序列；所述网格平坦度因子乘法器利用上述结果，对平坦度因子进行计算。
19.优选的，所述嵌套网格包括细网格生成器、粗网格生成器和嵌套网格生成器。其中粗网格生成器生成的粗网格需为细网格生成器生成的细网格的子集。嵌套网格生成器生成的嵌套网格由符合以上条件的细网格和粗网格组成。
20.优选的，所述细网格生成器用于生成细网格。其中，由细网格本身特性得到细网格生成矩阵和细网格生成因子，共同输入细网格生成乘法器，然后进入细网格量化器，输出后即完成细网格的生成操作。
21.优选的，所述粗网格生成器用于生成粗网格。其中，由粗网格本身特性得到粗网格生成矩阵和粗网格生成因子，共同输入粗网格生成乘法器，然后进入粗网格量化器，输出后即完成粗网格的生成操作。
22.与现有技术相比，本发明的有益效果是：
23.(1)本发明面向聚类算法应用，基于科莫格罗夫复杂度的数据绝对信息度量理论，以信息距离、无损压缩距离计算方法、有损压缩距离计算方法为基础，设计了基于嵌套网格的信息压缩距离计算装置。
24.(2)利用网格和嵌套网格理论，设计并生成细网格和粗网格，根据二者性质形成嵌套和包含关系，形成嵌套网格生成器，作为聚类距离计算的依托工具。
25.(3)利用网格中的平坦度因子理论，形成一套基于嵌套网格的聚类距离计算装置所用的性能评估工具，通过对嵌套网格设计的平坦度进行计算，衡量嵌套网格用于聚类的性能。从嵌套网格本身的特性出发，建立了适应性的性能评估方法，使得对于聚类的性能可
以有效进行度量。
26.(4)基于嵌套网格理论和平坦度因子的，形成了有损压缩距离计算方法，通过信息理论建模对有损压缩距离进行计算，并设计有损压缩距离限定方法，利用信息理论方法，对有损压缩距离给出限定值。
附图说明
27.图1是本发明有损压缩距离计算装置的示意图；
28.图2是本发明有损压缩距离限定装置的示意图；
29.图3是本发明x和y最大互信息量计算器的示意图；
30.图4是本发明x互信息量计算器的示意图；
31.图5是本发明y互信息量计算器的示意图；
32.图6是本发明实施例一x和y最大互信息量计算器的示意图；
33.图7是本发明实施例一x条件互信息量计算器的示意图；
34.图8是本发明实施例一y条件互信息量计算器的示意图；
35.图9是本发明实施例二基于条件y的x互信息量限定器示意图；
36.图10是本发明实施例二平坦度因子计算器的示意图；
37.图11是本发明实施例二嵌套网格生成器的示意图；
38.图12是本发明实施例二细网格生成器的示意图；
39.图13是本发明实施例二粗网格生成器的示意图；
40.图14是本发明实施例二基于条件x的y互信息量限定器示意图；
41.图15是本发明实施例三条件熵值限定器示意图；
42.图16是本发明实施例二有损压缩距离分类计算装置的仿真分析。
具体实施方式
43.下面结合附图和具体实施例对本发明作进一步详细描述，但不作为对本发明的限定。
44.一种基于嵌套网格的信息压缩聚类距离计算装置，包含有损压缩距离计算装置和有损压缩距离限定装置，所述有损压缩距离计算装置，用于对有损压缩距离进行计算，如图1所示，包括x率失真函数计算器(11)、y率失真函数计算器(12)、率失真条件y函数调整器(13)、率失真条件x函数调整器(14)和率失真最大值计算器(15)。
45.如图2所示，所述有损压缩距离限定装置，用于对有损压缩距离的下确界进行限定，包含x和y最大互信息量计算器(21)、x互信息量计算器(22)、y互信息量计算器(23)、有损压缩距离加法器(24)、下确界计算器(25)；所述x和y最大互信息量计算器(21)、x互信息量计算器(22)、y互信息量计算器(23)分别用于对x和y最大互信息量、x互信息量、y互信息量进行计算；所述有损压缩距离加法器(24)用于对所述三类互信息量进行求和输入计算得到结果xxxx；所述下确界计算器(25)用于将求和结果xxx计算得到有损压缩距离的下确界限定值。
46.如图3所示，所述x和y最大互信息量计算器(21)包括x条件互信息量计算器(2101)、y条件互信息量计算器(2102)和互信息量最大值计算器(2103)。所述x条件互信息
量计算器(2101)，用于计算x最大互信息量；所述y条件互信息量计算器(2102)，用于计算y最大互信息量；所述互信息量最大值计算器(2103)用于计算x和y最大互信息量。
47.如图4所示，所述x互信息量计算器(22)用于计算x互信息量，包括x和估值互信息量计算器(2201)以及互信息量条件y和压缩距离函数调整器(2202)。所述x和估值互信息量计算器(2201)用于计算x和其解压后恢复的估值之间的互信息量。所述互信息量条件y和压缩距离函数调整器(2202)，用于以x和其解压后恢复的估值之间的互信息量未输入，得出x互信息量。
48.如图5所示，所述y互信息量计算器(23)用于计算y互信息量，包括y和估值互信息量计算器(2301)以及互信息量条件x和压缩距离函数调整器(2302)。所述y和估值互信息量计算器(2301)用于计算y和其解压后恢复的估值之间的互信息量。所述互信息量条件x和压缩距离函数调整器(2302)，用于以y和其解压后恢复的估值之间的互信息量为输入，得出y互信息量。
49.实施例一
50.在实施例一中，如图6所示，所述x条件互信息量计算器(2101)包括x和压缩距离互信息量计算器(2104)、互信息量条件y函数调整器(2105)；所述y条件互信息量计算器(2102)包括y和压缩距离互信息量计算器(2106)、互信息量条件x函数调整器(2107)。
51.在一个或多个实施例中，如图7所示，所述x条件互信息量计算器(2101)中的x和压缩距离互信息量计算器(2104)为x熵值计算器(2111)；所述互信息量条件y函数调整器(2105)包含熵值条件y函数调整器(2112)、熵值条件x压缩距离和y函数调整器(2113)、x条件熵加法器(2114)。
52.在进行x条件互信息量的计算值时，所述x熵值计算器(2111)用于计算x的熵值；所述熵值条件y函数调整器(2112)和熵值条件x压缩距离和y函数调整器(2113)以x的熵值的计算值为输入，分别按正值和负值输入x条件熵加法器(2114)，即可得到x条件互信息量的计算值。
53.在一个或多个实施例中，如图8所示，所述y条件互信息量计算器(2102)中的y和压缩距离互信息量计算器(2106)为y熵值计算器(2121)；所述互信息量条件x函数调整器(2107)包含熵值条件x函数调整器(2122)、熵值条件y压缩距离和x函数调整器(2123)、y条件熵加法器(2124)。计算y条件互信息量的计算值时，如所述y熵值计算器(2121)用于计算y的熵值；所述熵值条件x函数调整器(2122)和熵值条件y压缩距离和x函数调整器(2123)以y的熵值的计算值为输入，分别按正值和负值输入y条件熵加法器(2124)，即可得到y条件互信息量的计算值。
54.实施例二
55.在实施例二中，x条件互信息量和y条件互信息量还可以通过计算最小限定值的方式得出。如图9所示，所述x条件互信息量计算器为基于条件y的x互信息量限定器。所述基于条件y的x互信息量限定器包括x值标量计算器(3101)、粗网格平坦度因子计算器(3102)、x值加法器(3103)、x值有损失真计算器(3104)、x值相关系数计算器(3105)、x值距离噪声方差计算器(3106)、x值乘法器(3107)、x值噪声参数乘法器(3108)、x值比较器(3109)、x值对数取值器(3110)、x最小值限定器(3111)。在计算基于条件y的x互信息量限定值时，首先通过x值标量计算器(3101)计算粗网格标量，即粗网格常数。同时通过粗网格平坦度因子计算
器(3102)计算x值通过粗网格压缩的平坦度因子，二者输入x值加法器(3103)进行求和。同时通过x值有损失真计算器(3104)计算在最大允许失真为d的前提下的有损失真，该值与x值加法器(3103)计算所得同时输入x值乘法器(3107)。另外，通过x值距离噪声方差计算器(3106)和x值相关系数计算器(3105)进行噪声参数计算，二者输入x值噪声参数乘法器(3108)进行参数计算，所得的计算值与x值乘法器(3107)共同输入x值比较器(3109)进行除法计算，两个值比较所得的结果进入x值对数取值器(3110)，最后将所得的对数值输入x最小值限定器(3111)，从而得到基于条件y的x互信息量限定值。
56.在上述实施例中，平坦度因子，是基于嵌套网格的聚类距离计算装置所用的性能评估工具，通过对嵌套网格的平坦度进行计算，衡量嵌套网格用于聚类的性能。如图10所示，平坦度因子计算器包括网格容积噪声比计算器(4101)、网格维度放大器(4102)、网格容积噪声平方器(4103)、网格特征序列计算器(4104)、网格平坦度因子乘法器(4105)。所述网格容积噪声比计算器(4101)、网格维度放大器(4102)用于对嵌套网格性能参数进行提取；所述网格容积噪声平方器(4103)用于对所提取的嵌套网格性能参数进行网格容积噪声参数的评估；所述网格特征序列计算器(4104)用于计算特定嵌套网格的特征序列；所述网格平坦度因子乘法器(4105)利用上述结果，对平坦度因子进行计算。
57.在上述实施例中，如图11所示，所述网格和嵌套网格是聚类距离计算装置所用的计算工具，包括细网格生成器(51)、粗网格生成器(52)和嵌套网格生成器(53)。其中粗网格生成器(52)生成的粗网格需为细网格生成器(51)生成的细网格的子集。嵌套网格生成器(53)生成的嵌套网格由符合以上条件的细网格和粗网格组成。
58.如图12所示，所述细网格生成器(51)用于生成细网格。其中，由细网格本身特性得到细网格生成矩阵(5101)和细网格生成因子(5102)，共同输入细网格生成乘法器(5103)，然后进入细网格量化器(5104)，输出后即完成细网格的生成操作。
59.如图13所示，所述粗网格生成器(52)用于生成粗网格。其中，由粗网格本身特性得到粗网格生成矩阵(5201)和粗网格生成因子(5202)，共同输入粗网格生成乘法器(5203)，然后进入粗网格量化器(5204)，输出后即完成粗网格的生成操作。
60.类似的，在一个或多个实施例中，所述y条件互信息量计算器为基于条件x的y互信息量限定器。如图14所示，所述基于条件x的y互信息量限定装置包括y值标量计算器(3201)、粗网格平坦度因子计算器(3202)、y值加法器(3203)、y值有损失真计算器(3204)、y值距离噪声方差计算器(3205)、y值乘法器(3206)、y值比较器(3207)、y值对数取值器(3208)、y最小值限定器(3209)。在计算基于条件x的y互信息量限定值时，首先通过y值标量计算器(3201)计算粗网格标量，即粗网格常数。同时通过粗网格平坦度因子计算器(3202)计算y值通过粗网格压缩的平坦度因子，二者输入y值加法器(3203)进行求和。同时通过y值有损失真计算器(3204)计算在最大允许失真为d的前提下的有损失真，该值与y值加法器(3203)计算所得同时输入y值乘法器(3206)。另外通过y值距离噪声方差计算器(3205)进行噪声方差计算，所得的计算值与y值乘法器(3206)共同输入y值比较器(3207)进行除法计算，两个值比较所得的结果进入y值对数取值器(3208)，最后将所得的对数值输入y最小值限定器(3209)，从而得到基于条件x的y互信息量限定值。
61.实施例三
62.在一个或多个实施例中，条件互信息量还可以通过计算条件熵值的最小限定值的
方式得出，所述条件互信息量计算器为条件熵值限定器。如图15所示，所述条件熵值限定器，包含标量计算器(6101)、粗网格平坦度因子计算器(6102)、条件熵限定加法器(6103)、有损失真计算器(6104)、条件熵限定乘法器(6105)、条件熵对数取值器(6106)、条件熵最大值限定器(6107)。计算条件熵值时，首先通过标量计算器(6101)进行网格标量参数的计算，同时通过粗网格平坦度因子计算器(6102)计算粗网格平坦度因子，将二者所计算值输入条件熵限定加法器(6103)，得到的结果与有损失真计算器(6104)所计算出来的有损失真，共同输入条件熵限定乘法器(6105)，然后通过条件熵对数取值器(6106)进行对数取值，最后通过条件熵最大值限定器(6107)计算得到条件熵值，即其所能限定的最大值。
63.为了进一步说明本发明的有益效果，本发明进一步通过对比了有损压缩距离的计算结果和实施例二通过嵌套网格进行仿真得到的压缩距离仿真结果。
64.所述有损压缩距离的计算结果通过如下步骤计算得出：首先进行有损失真的值域判定，所得到的值分别进行距离噪声方差计算和有损失真计算，所得的值通过进行比较后，取对数值，最终得到对有损压缩距离的分类计算结果。
65.实施例二通过嵌套网格进行仿真得到的压缩距离仿真结果，如图16所示，第一类仿真实施给出了在x和y都是正态分布的情况下，嵌套网格的标准差为0.1、0.08和0.06情况下的值域限定和通过嵌套网格进行仿真得到的压缩距离仿真结果。可以看出，每类标准差由有损压缩距离限定方法所计算得出的值进行限定，仿真结果在限定值的包络以内，说明通过本发明的装置计算所得的结果和仿真之间的一致性。如下图所示。这样，可以通过装置计算结果对压缩距离进行评估，节省了大量仿真所耗费的资源，提高了效率。
66.本发明未详细阐述部分属于本领域公知技术。以上所述，仅是本发明较佳的实施方式，并非对本发明的技术方案做任何形式上的限制。凡是依据本发明的技术实质对以上实施例做任何简单修改，形式变化和修饰，均落入本发明的保护范围。