一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

显示处理方法及电子设备与流程

2021-12-14 21:01:00 来源:中国专利 TAG:


1.本技术涉及终端设备技术领域,尤其涉及一种显示处理方法及电子设备。


背景技术:

2.随着多设备协同、分布式场景的大力发展,终端设备上出现多个窗口同时显示的趋势。当前的图形显示系统,例如,安卓(android)图形显示系统等,在同时显示多个窗口时,单独渲染每个窗口,然后对各个窗口进行像素的合成。当窗口的显示区域出现部分重叠时,由于每个窗口都是在独立的线程渲染,在任一线程渲染的窗口并不知道有没有被别的窗口遮挡,所以独立渲染出各个完整的窗口,在显示时再对各个窗口进行叠加和/或裁剪处理。多个窗口同时渲染出完整界面导致负载升高,带来资源的浪费。


技术实现要素:

3.本技术实施例提供了一种显示处理方法及电子设备,可以解决多个窗口同时渲染出完整界面导致负载升高,浪费系统资源的技术问题。
4.第一方面,本技术实施例提供了一种显示处理方法,应用于电子设备,所述显示处理方法包括:
5.对所述电子设备的显示区域进行分块划分,得到多个分块区域;
6.检测到所述电子设备显示多个窗口,获取所述多个窗口的属性信息;
7.根据所述多个窗口的属性信息,确定所述多个窗口的层叠关系;
8.若根据所述多个窗口的层叠关系确定所述多个窗口出现遮挡显示,在每个所述窗口提交渲染前,获取每个所述窗口的绘制指令;
9.根据所述多个窗口的层叠关系,确定所述多个窗口中的完全遮挡窗口和非完全遮挡窗口,剔除所述完全遮挡窗口的绘制指令;
10.给每个所述分块区域匹配对应的绘制指令,得到各个所述非完全遮挡窗口的处理后的绘制指令;
11.根据各个所述非完全遮挡窗口的处理后的绘制指令进行显示。
12.第一方面的实施例,应用于多窗口同时显示的场景,一方面,可以通过精简绘制指令,降低图形显示的工作量,进而降低系统的负载,带来功耗的降低和性能的提升;另一方面,可以通过对各个分块区域分别匹配对应的绘制指令,可以适用于不同算力的电子设备。
13.在第一方面的一种可能的实现方式中,所述对所述电子设备的显示屏进行分块划分,得到多个分块区域,包括:
14.根据所述电子设备的显示屏的分辨率、所述显示屏的尺寸、显示的窗口的总数量和所述电子设备的自身算力中的一个或多个,对所述显示屏的显示区域进行分块划分,得到多个分块区域。
15.在本实现方式中,可以基于不同的参数对电子设备的显示屏进行分块划分,可以适用于不同的应用场景,提高了本技术的普适性。
16.在第一方面的一种可能的实现方式中,所述属性信息包括窗口的位置、大小、透明度和z轴顺序中的一个或多个。
17.在第一方面的一种可能的实现方式中,所述给每个所述分块区域匹配对应的绘制指令,得到各个所述非完全遮挡窗口的处理后的绘制指令,包括:
18.依次启动各个所述分块区域的计算任务,每个计算任务根据一个所述分块区域内的所述非完全遮挡窗口的层叠关系,给该分块区域匹配对应的绘制指令,得到各个所述非完全遮挡窗口的处理后的绘制指令;或,
19.同时启动多个计算任务,每个计算任务根据一个所述分块区域内的所述非完全遮挡窗口的层叠关系,给该分块区域匹配对应的绘制指令,直至给每个所述分块区域匹配对应的绘制指令为止,得到各个所述非完全遮挡窗口的处理后的绘制指令。
20.在本实现方式中,可以通过依次启动各个分块区域的计算任务或同时启动多个分块区域的多个计算任务,实现对所有分块区域分别匹配对应的绘制指令,可以适用于不同算力的电子设备。当同时启动多个计算任务时,可以大大提高数据处理效率,减少显示耗时。
21.在第一方面的一种可能的实现方式中,所述每个计算任务根据一个所述分块区域内的所述非完全遮挡窗口的层叠关系,给该分块区域匹配对应的绘制指令,包括:
22.确定落入同一所述分块区域的目标窗口,获取每个所述目标窗口在该分块区域的目标绘制指令,所述目标窗口为落入同一所述分块区域的所述非完全遮挡窗口,所述目标绘制指令为任一所述目标窗口在该分块区域的绘制指令;
23.根据所述目标窗口在该分块区域的层叠关系,确定保留、删除或修改各个所述目标窗口在该分块区域的目标绘制指令。
24.在本实现方式中,提供了一种如何精简绘制指令的便捷实现方式,使得本技术易于实施。
25.在第一方面的一种可能的实现方式中,根据所述目标窗口在该分块区域的层叠关系,确定保留、删除或修改各个所述目标窗口在该分块区域的目标绘制指令,包括:
26.若任一所述目标窗口落入该分块区域内的区域完全属于所述目标窗口的遮挡区域,则删除该目标窗口在该分块区域的目标绘制指令;
27.若任一所述目标窗口落入该分块区域内的区域完全属于所述目标窗口的非遮挡区域,则保留该目标窗口在该分块区域的目标绘制指令;
28.若任一所述目标窗口落入该分块区域内的区域部分属于所述目标窗口的遮挡区域,部分属于所述目标窗口的非遮挡区域,则修改该目标窗口在该分块区域的目标绘制指令。
29.在本实现方式中,提供了一种如何得到处理后的绘制指令的便捷实现方式,使得本技术易于实施。
30.在第一方面的一种可能的实现方式中,所述根据所述目标窗口在该分块区域的层叠关系,确定保留、删除或修改各个所述目标窗口在该分块区域的目标绘制指令,包括:
31.若任一所述目标窗口的任一目标绘制指令完全落入该分块区域,则根据该目标窗口在该分块区域的层叠关系,确定保留、删除或修改该目标绘制指令;
32.若任一所述目标窗口的任一目标绘制指令落入包括该分块区域在内的多个分块
区域,则把落入的多个分块区域作为第一区域,根据该目标窗口在所述第一区域的层叠关系,确定保留、删除或修改该目标绘制指令。
33.在本实现方式中,提供了一种如何得到处理后的绘制指令的便捷实现方式,使得本技术易于实施。
34.在第一方面的一种可能的实现方式中,所述若任一所述目标窗口的任一目标绘制指令完全落入该分块区域,则根据该目标窗口在该分块区域的层叠关系,确定保留、删除或修改该目标绘制指令,包括:
35.若任一所述目标窗口的任一目标绘制指令完全落入该分块区域,且该目标窗口在该分块区域处于最上层,则保留该目标绘制指令;
36.若任一所述目标窗口的任一目标绘制指令完全落入该分块区域,该目标窗口在该分块区域不处于最上层,且在该分块区域内位于该目标窗口上层的其他目标窗口属于透明窗口,则保留该目标绘制指令;
37.若任一所述目标窗口的任一目标绘制指令完全落入该分块区域,该目标窗口在该分块区域不处于最上层,在该分块区域内位于该目标窗口上层的其他目标窗口属于非透明窗口,且该目标绘制指令被完全遮挡,则删除该目标绘制指令;
38.若任一所述目标窗口的任一目标绘制指令完全落入该分块区域,该目标窗口在该分块区域不处于最上层,在该分块区域内位于该目标窗口上层的其他目标窗口属于非透明窗口,且该目标绘制指令被规则遮挡,则修改该目标绘制指令的显示面积;
39.若任一所述目标窗口的任一目标绘制指令完全落入该分块区域,该目标窗口在该分块区域不处于最上层,在该分块区域内位于该目标窗口上层的其他目标窗口属于非透明窗口,且该目标绘制指令被不规则遮挡,则找出该目标绘制指令在该分块区域中非遮挡区域的最小可修改面积,若找到所述最小可修改面积,则修改该目标绘制指令的显示面积为所述最小可修改面积;若未找到该最小可修改面积,则保留该目标绘制指令。
40.在本实现方式中,提供了一种如何得到处理后的绘制指令的便捷实现方式,使得本技术易于实施。
41.在第一方面的一种可能的实现方式中,所述根据该目标窗口在所述第一区域的层叠关系,确定保留、删除或修改该目标绘制指令,包括:
42.若该目标窗口在所述第一区域处于最上层,则保留该目标绘制指令;
43.若该目标窗口在所述第一区域不处于最上层,且在所述第一区域内位于该目标窗口上层的其他目标窗口属于透明窗口,则保留该目标绘制指令;
44.若该目标窗口在所述第一区域不处于最上层,在所述第一区域内位于该目标窗口上层的其他目标窗口属于非透明窗口,且该目标绘制指令被完全遮挡,则删除该目标绘制指令;
45.若该目标窗口在所述第一区域不处于最上层,在所述第一区域内位于该目标窗口上层的其他目标窗口属于非透明窗口,且该目标绘制指令被规则遮挡,则修改该目标绘制指令的显示面积;
46.若该目标窗口在所述第一区域不处于最上层,在所述第一区域内位于该目标窗口上层的其他目标窗口属于非透明窗口,且该目标绘制指令被不规则遮挡,则找出该目标绘制指令在该第一区域中非遮挡区域的最小可修改面积,若找到所述最小可修改面积,则修
改该目标绘制指令的显示面积为所述最小可修改面积;若未找到该最小可修改面积,则保留该目标绘制指令。
47.在本实现方式中,提供了一种如何得到处理后的绘制指令的便捷实现方式,使得本技术易于实施。
48.在第一方面的一种可能的实现方式中,所述最小可修改面积包括最小可修改矩形面积。
49.在第一方面的一种可能的实现方式中,所述根据所述多个窗口的属性信息,确定所述多个窗口的层叠关系之后,还包括:
50.若根据所述多个窗口的层叠关系确定所述多个窗口未出现遮挡显示,则根据所述多个窗口的绘制指令进行显示。
51.第二方面,对应于第一方面提供的显示处理方法,提供了一种显示处理装置,配置于电子设备,所述显示处理装置包括:
52.划分模块,用于对所述电子设备的显示区域进行分块划分,得到多个分块区域;
53.检测模块,用于检测到所述电子设备显示多个窗口,获取所述多个窗口的属性信息;
54.确定模块,用于根据所述多个窗口的属性信息,确定所述多个窗口的层叠关系;
55.获取模块,用于若根据所述多个窗口的层叠关系确定所述多个窗口出现遮挡显示,在每个所述窗口提交渲染前,获取每个所述窗口的绘制指令;
56.删除模块,用于根据所述多个窗口的层叠关系,确定所述多个窗口中的完全遮挡窗口和非完全遮挡窗口,剔除所述完全遮挡窗口的绘制指令;
57.匹配模块,用于给每个所述分块区域匹配对应的绘制指令,得到各个所述非完全遮挡窗口的处理后的绘制指令;
58.显示模块,用于根据各个所述非完全遮挡窗口的处理后的绘制指令进行显示。
59.第三方面,本技术实施例提供了一种电子设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,使得所述电子设备实现如第一方面和第一方面可能的实现方式中任一所述的显示处理方法。
60.第四方面,本技术实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面和第一方面可能的实现方式中任一所述的显示处理方法。
61.第五方面,本技术实施例提供了一种计算机程序产品,当计算机程序产品在电子设备上运行时,使得电子设备执行上述第一方面和第一方面可能的实现方式中任一所述的显示处理方法。
62.可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述。
附图说明
63.图1a是本技术一实施例提供的多窗口同时显示的一场景示意图;
64.图1b是本技术图1a所示场景中窗口a的遮挡区域的示意图;
65.图1c是本技术图1a所示场景中窗口a的非遮挡区域的示意图;
66.图2是本技术一实施例提供的多窗口同时显示的另一场景示意图;
67.图3是本技术一实施例提供的显示处理方法的流程框图;
68.图4是本技术一实施例提供的电子设备的结构示意图;
69.图5是本技术一实施例提供的电子设备的软件结构框图;
70.图6是本技术一实施例提供的多窗口同时显示的第一个应用场景;
71.图7是本技术一实施例提供的显示处理方法的流程示意图;
72.图8是本技术一实施例提供的显示区域的分块划分示意图;
73.图9a是本技术一实施例提供的显示区域的分块划分示意图;
74.图9b是本技术一实施例提供的显示区域的分块划分示意图;
75.图10是本技术图6所示场景中窗口c和窗口d的叠加显示示意图;
76.图11是本技术图6所示场景中窗口b的显示示意图;
77.图12是本技术图6所示场景中显示区域分块划分的示意图;
78.图13是本技术一实施例提供的给每个分块区域匹配对应的绘制指令的流程示意图;
79.图14a是本技术一实施例提供的显示处理方法的第二个应用场景;
80.图14b是本技术一实施例提供的显示处理方法的第二个应用场景;
81.图15a是本技术一实施例提供的显示处理方法的第三个应用场景;
82.图15b是本技术一实施例提供的显示处理方法的第三个应用场景。
具体实施方式
83.以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本技术实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本技术。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本技术的描述。
84.以下实施例中所使用的术语只是为了描述特定实施例的目的,而并非旨在作为对本技术的限制。如在本技术的说明书和所附权利要求书中所使用的那样,单数表达形式“一个”、“一种”、“所述”、“上述”、“该”和“这一”旨在也包括例如“一个或多个”这种表达形式,除非其上下文中明确地有相反指示。
85.还应当理解,在本技术实施例中,“若干个”和“一个或多个”是指一个、两个或两个以上;“和/或”,描述关联对象的关联关系,表示可以存在三种关系;例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b的情况,其中a、b可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。
86.当在本技术说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
87.如在本技术说明书和所附权利要求书中所使用的那样,术语“若”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。
88.在本技术说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本技术
的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
89.为了更好的理解本技术的技术方案,先介绍本技术涉及的几个重要技术名词。
90.窗口或图层
91.每个应用程序可能对应一个或多个图形界面,每个界面可以称之为一个图层(surface),或者说是窗口(window)。例如,图1a所示为多窗口同时显示的显示示意图。图1a中利用不同的线条填充的三个不同区域,分别对应三个不同的窗口,即窗口a、窗口b和窗口c。三个窗口之间有重叠。在图1a所示的示意图中,窗口b部分覆盖窗口a,而窗口c又部分覆盖窗口a和窗口b。
92.图层的大小
93.图层的大小指的是图层的显示面积,反映该图层在显示屏上显示时所占的显示区域大小。图层的大小通常由图层的宽和高这两个参数决定,宽和高的单位是像素(pixel,px)。图层的宽乘以高,可以得到图层的大小,即所占像素个数。
94.图层的位置
95.图层的位置指的是图层在显示屏上的显示位置。通常情形下,用图层左上角或左下角的坐标来表征图层的起始位置。图层左上角或左下角的坐标通常为像素坐标。
96.需要说明的是,当图层的宽、高和位置确定的时候,图层显示在显示屏的哪个区域(包括所占像素个数以及所占像素的坐标等)就确定了。
97.图层的透明度
98.图层的透明度是指图层的透明程度,影响该图层与其他图层复叠的效果。位于上面的图层为了不完全遮挡位于下面的图层,位于上层的图层可以设置一定的透明度,这样就可以同时看到多个图层叠加显示的效果。
99.透明度通常用百分数表示,取值范围在0至100%以内。透明度为0的窗口为非透明窗口,透明度不为0的窗口为透明窗口。
100.可以继续参见图1a所示的示意图,窗口b的透明度为0%,属于非透明窗口。窗口c的透明度为50%,属于透明窗口。
101.z轴顺序(z-order)
102.z轴顺序(z-order)简称z序,垂直于显示屏幕的平面方向设置一z轴,不同的图层按照在z轴上的坐标来确定显示的前后顺序,这个顺序就叫做z轴顺序。图层的z轴顺序越小,表示图层在显示时越靠前,即图层在显示时越靠上;图层的z轴顺序越大,表示图层在显示时越靠后,即图层在显示时越靠下。
103.在多窗口同时显示的应用场景中,有时多个窗口会通过重叠方式进行显示。因此,显示靠前的非透明窗口可能会至少部分遮挡显示靠后的窗口。图形显示系统显示多个窗口时,可以根据每个窗口的宽、高、位置和z轴顺序,确定显示屏上多个窗口是否重叠显示,若重叠显示,还可以确定每个窗口的遮挡区域和非遮挡区域。
104.窗口的遮挡区域为该窗口被z轴顺序比其小的非透明窗口所遮挡掉的区域。遮挡
区域无法被用户观看到,因而遮挡区域也可称为视觉不可见区域或不可见区域。窗口的遮挡区域为该窗口与z轴顺序比其小的非透明窗口的相交区域。
105.窗口的非遮挡区域为该窗口被z轴顺序比其小的非透明窗口所遮挡后剩余的区域。非遮挡区域可以被用户观看到,因而非遮挡区域也可称为视觉可见区域或可见区域。窗口的非遮挡区域为该窗口减去遮挡区域后的剩余区域。
106.可以继续参见图1a所示的示意图,窗口c的z序为0,窗口b的z序为1,窗口a的z序为2。窗口c在显示屏上显示最靠前。窗口a在显示屏上显示最靠后,窗口b显示在窗口a和窗口c之间。图形显示系统通过维护窗口a、窗口b和窗口c这三个窗口的z序来控制这三个窗口在显示屏上的显示。
107.窗口c的透明度为50%,属于透明窗口;窗口b的透明度为0%,属于非透明窗口。窗口a没有被透明的窗口c遮挡,被非透明的窗口b部分遮挡。窗口a的遮挡区域为窗口a与窗口b的相交区域,如图1b所示的区域。窗口a的非遮挡区域为窗口a中除其与窗口b的相交区域外的剩余区域,如图1c所示的区域。窗口b没有被透明的窗口c遮挡,不存在遮挡区域,即遮挡区域为0。透明的窗口c为显示最靠前的窗口,显然无遮挡。
108.显示屏的分辨率
109.显示屏的分辨率是指纵向和横向的像素个数,单位是px。显示屏的分辨率确定电子设备的显示屏上显示的像素个数,以水平和垂直方向的像素来衡量。显示屏的分辨率为160
×
128的意思是,水平方向含有像素数为160个,垂直方向含有像素数为128个。
110.就相同尺寸的显示屏而言,当分辨率低时,例如640
×
480,在显示屏上显示的像素少,单个像素尺寸比较大。当分辨率高时,例如1600
×
1200,在显示屏上显示的像素多,单个像素尺寸比较小。
111.为了说明本技术的技术方案,下面通过具体实施例来进行说明。
112.随着设备性能的提升和应用功能不断增强,游戏、直播、视频通话、会议或视频播放等应用场景也越来越丰富。越来越多的应用开始支持分屏模式、自由模式和画中画等多窗口模式。
113.图形显示系统都支持多图层或多窗口的显示功能,但是,由于每个窗口都是在独立的进程渲染,在任一线程渲染的窗口并不知道有没有被别的窗口遮挡,所以独立渲染出各个完整的窗口,在显示时再对各个窗口进行叠加和/或裁剪处理。多个窗口同时渲染出完整界面导致负载升高,带来资源的浪费。
114.作为一非限制性示例,以android图形显示系统框架为例进行说明。
115.android界面通常是由多个图层叠加,图层如导航栏、状态栏、前台应用、浮动窗口等。例如,如图2所示一android界面,该android界面由图层d、图层e、图层f和图层g叠加形成。图层d为第一应用的窗口。图层e为第二应用的窗口。图层f为第三应用的窗口。图层g为第四应用的窗口。
116.android系统中一个界面的显示需要经过界面绘制、界面渲染和合成显示等阶段。如图3所示为android系统中android界面的绘制过程示意图。在该示例中,以android界面包括四个同时显示的应用界面,每个应用界面包括一个图层或窗口为例进行说明。
117.如图3所示,多窗口的显示处理流程,主要包括:在垂直同步(vertical synchronization,vsync)信号到来后,中央处理器(central processing unit,cpu)对每
个应用界面的显示内容分别进行绘制,生成绘制指令,然后将绘制指令转换为渲染指令,例如opengl指令等,再将渲染指令提交给图形处理器(graphics processing unit,gpu)。由gpu进行变换、合成和渲染,gpu把渲染结果提交到帧缓冲区。下一次vsync信号到来时,视频控制器会按照vsync信号逐行读取帧缓冲区的数据,经过可能的数模转换传递给显示屏显示。
118.可见,每个窗口都是在独立的进程进行绘制和渲染等处理,每个窗口都是在完整渲染出来后,再跟其他窗口进行叠加。多个窗口同时渲染出完整界面导致负载升高,带来资源的浪费。
119.因此,本技术实施例提供了一种显示处理方法,应用于多窗口同时显示的场景下,降低图形显示的工作量,进而降低系统的负载,带来功耗的降低和性能的提升。
120.本技术实施例提供的显示处理方法可以应用于电子设备上,电子设备包括但不限于手机、可穿戴设备、车载设备、增强现实(augmented reality,ar)/虚拟现实(virtual reality,vr)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,umpc)、上网本、平板电脑、智能音箱、电视机顶盒(set top box,stb)或电视等。本技术实施例对电子设备的具体类型不作任何限制。
121.在本技术一些实施例中,所述电子设备包括手机、平板电脑或个人计算机等。
122.图4以手机为例,示出了电子设备100的结构示意图。
123.电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,usb)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170a,受话器170b,麦克风170c,耳机接口170d,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,sim)卡接口195等。其中传感器模块180可以包括压力传感器180a,陀螺仪传感器180b,气压传感器180c,磁传感器180d,加速度传感器180e,距离传感器180f,接近光传感器180g,指纹传感器180h,温度传感器180j,触摸传感器180k,环境光传感器180l,骨传导传感器180m等。
124.可以理解的是,本发明实施例示意的结构并不构成对电子设备100的具体限定。在本技术另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
125.处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,ap),调制解调处理器,图形处理器(graphics processing unit,gpu),图像信号处理器(image signal processor,isp),控制器,视频编解码器,数字信号处理器(digital signal processor,dsp),基带处理器,和/或神经网络处理器(neural-network processing unit,npu)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
126.控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
127.处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令
或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
128.在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,i2c)接口,集成电路内置音频(inter-integrated circuit sound,i2s)接口,脉冲编码调制(pulse code modulation,pcm)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,uart)接口,移动产业处理器接口(mobile industry processor interface,mipi),通用输入输出(general-purpose input/output,gpio)接口,用户标识模块(subscriber identity module,sim)接口,和/或通用串行总线(universal serial bus,usb)接口等。
129.i2c接口是一种双向同步串行总线,包括一根串行数据线(serial data line,sda)和一根串行时钟线(derail clock line,scl)。在一些实施例中,处理器110可以包含多组i2c总线。处理器110可以通过不同的i2c总线接口分别耦合触摸传感器180k,充电器,闪光灯,摄像头193等。例如:处理器110可以通过i2c接口耦合触摸传感器180k,使处理器110与触摸传感器180k通过i2c总线接口通信,实现电子设备100的触摸功能。
130.i2s接口可以用于音频通信。在一些实施例中,处理器110可以包含多组i2s总线。处理器110可以通过i2s总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过i2s接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
131.pcm接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过pcm总线接口耦合。在一些实施例中,音频模块170也可以通过pcm接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述i2s接口和所述pcm接口都可以用于音频通信。
132.uart接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,uart接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过uart接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过uart接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
133.mipi接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。mipi接口包括摄像头串行接口(camera serial interface,csi),显示屏串行接口(display serial interface,dsi)等。在一些实施例中,处理器110和摄像头193通过csi接口通信,实现电子设备100的拍摄功能。处理器110和显示屏194通过dsi接口通信,实现电子设备100的显示功能。
134.gpio接口可以通过软件配置。gpio接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,gpio接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。gpio接口还可以被配置为i2c接口,i2s接口,uart接口,mipi接口等。
135.usb接口130是符合usb标准规范的接口,具体可以是mini usb接口,micro usb接口,usb type c接口等。usb接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口
还可以用于连接其他电子设备,例如ar设备等。
136.可以理解的是,本发明实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本技术另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
137.充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过usb接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
138.电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
139.电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
140.天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
141.移动通信模块150可以提供应用在电子设备100上的包括2g/3g/4g/5g等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,lna)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
142.调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170a,受话器170b等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
143.无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wireless local area networks,wlan)(如无线保真(wireless fidelity,wi-fi)网络),蓝牙(bluetooth,bt),全球导航卫星系统(global navigation satellite system,gnss),调频(frequency modulation,fm),近距离无线通信技术(near field communication,nfc),红外技术(infrared,ir)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信
处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
144.在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,gsm),通用分组无线服务(general packet radio service,gprs),码分多址接入(code division multiple access,cdma),宽带码分多址(wideband code division multiple access,wcdma),时分码分多址(time-division code division multiple access,td-scdma),长期演进(long termevolution,lte),bt,gnss,wlan,nfc,fm,和/或ir技术等。所述gnss可以包括全球卫星定位系统(global positioning system,gps),全球导航卫星系统(global navigation satellite system,glonass),北斗卫星导航系统(beidou navigation satellite system,bds),准天顶卫星系统(quasi-zenith satellite system,qzss)和/或星基增强系统(satellite based augmentation systems,sbas)。
145.电子设备100通过gpu,显示屏194,以及应用处理器等实现显示功能。gpu为图像处理的微处理器,连接显示屏194和应用处理器。gpu用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个gpu,其执行程序指令以生成或改变显示信息。
146.显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,lcd),有机发光二极管(organic light-emitting diode,oled),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrix organic light emitting diode的,amoled),柔性发光二极管(flex light-emitting diode,fled),miniled,microled,micro-oled,量子点发光二极管(quantum dot light emitting diodes,qled)等。在一些实施例中,电子设备100可以包括1个或n个显示屏194,n为大于1的正整数。
147.电子设备100可以通过isp,摄像头193,视频编解码器,gpu,显示屏194以及应用处理器等实现拍摄功能。
148.isp用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给isp处理,转化为肉眼可见的图像。isp还可以对图像的噪点,亮度,肤色进行算法优化。isp还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,isp可以设置在摄像头193中。
149.摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,ccd)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,cmos)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给isp转换成数字图像信号。isp将数字图像信号输出到dsp加工处理。dsp将数字图像信号转换成标准的rgb,yuv等格式的图像信号。在一些实施例中,电子设备100可以包括1个或n个摄像头193,n为大于1的正整数。
150.数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
151.视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,mpeg)1,mpeg2,mpeg3,mpeg4等。
152.npu为神经网络(neural-network,nn)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过npu可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
153.外部存储器接口120可以用于连接外部存储卡,例如micro sd卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
154.内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,ufs)等。处理器110通过运行存储在内部存储器121的指令,和/或存储在设置于处理器中的存储器的指令,执行电子设备100的各种功能应用以及数据处理。
155.电子设备100可以通过音频模块170,扬声器170a,受话器170b,麦克风170c,耳机接口170d,以及应用处理器等实现音频功能。例如音乐播放,录音等。
156.音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
157.扬声器170a,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170a收听音乐,或收听免提通话。
158.受话器170b,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时,可以通过将受话器170b靠近人耳接听语音。
159.麦克风170c,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170c发声,将声音信号输入到麦克风170c。电子设备100可以设置至少一个麦克风170c。在另一些实施例中,电子设备100可以设置两个麦克风170c,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170c,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
160.耳机接口170d用于连接有线耳机。耳机接口170d可以是usb接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,omtp)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the usa,ctia)标准接口。
161.压力传感器180a用于感受压力信号,可以将压力信号转换成电信号。在一些实施
例中,压力传感器180a可以设置于显示屏194。压力传感器180a的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180a,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180a检测所述触摸操作强度。电子设备100也可以根据压力传感器180a的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
162.陀螺仪传感器180b可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180b确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180b可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180b检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180b还可以用于导航,体感游戏场景。
163.气压传感器180c用于测量气压。在一些实施例中,电子设备100通过气压传感器180c测得的气压值计算海拔高度,辅助定位和导航。
164.磁传感器180d包括霍尔传感器。电子设备100可以利用磁传感器180d检测翻盖皮套的开合。在一些实施例中,当电子设备100是翻盖机时,电子设备100可以根据磁传感器180d检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
165.加速度传感器180e可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
166.距离传感器180f,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器180f测距以实现快速对焦。
167.接近光传感器180g可以包括例如发光二极管(led)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180g检测用户手持电子设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180g也可用于皮套模式,口袋模式自动解锁与锁屏。
168.环境光传感器180l用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180l也可用于拍照时自动调节白平衡。环境光传感器180l还可以与接近光传感器180g配合,检测电子设备100是否在口袋里,以防误触。
169.指纹传感器180h用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
170.温度传感器180j用于检测温度。在一些实施例中,电子设备100利用温度传感器180j检测的温度,执行温度处理策略。例如,当温度传感器180j上报的温度超过阈值,电子
设备100执行降低位于温度传感器180j附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备100对电池142加热,以避免低温导致电子设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
171.触摸传感器180k,也称“触控器件”。触摸传感器180k可以设置于显示屏194,由触摸传感器180k与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180k用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180k也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
172.骨传导传感器180m可以获取振动信号。在一些实施例中,骨传导传感器180m可以获取人体声部振动骨块的振动信号。骨传导传感器180m也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180m也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180m获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180m获取的血压跳动信号解析心率信息,实现心率检测功能。
173.按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
174.马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
175.指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
176.sim卡接口195用于连接sim卡。sim卡可以通过插入sim卡接口195,或从sim卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或n个sim卡接口,n为大于1的正整数。sim卡接口195可以支持nano sim卡,micro sim卡,sim卡等。同一个sim卡接口195可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。sim卡接口195也可以兼容不同类型的sim卡。sim卡接口195也可以兼容外部存储卡。电子设备100通过sim卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备100采用esim,即:嵌入式sim卡。esim卡可以嵌在电子设备100中,不能和电子设备100分离。
177.电子设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本发明实施例以分层架构的android系统为例,示例性说明电子设备100的软件结构。
178.图5是本发明实施例的电子设备100的软件结构框图。
179.分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将android系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(android runtime)和系统库,以及内核层。
180.应用程序层可以包括一系列应用程序包。
181.如图5所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,wlan,蓝牙,音乐,视频,短信息等应用程序。
182.应用程序框架层为应用程序层的应用程序提供应用编程接口(application programming interface,api)和编程框架。应用程序框架层包括一些预先定义的函数。
183.如图5所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
184.窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
185.内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
186.视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
187.电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
188.资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
189.通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
190.android runtime包括核心库和虚拟机。android runtime负责安卓系统的调度和管理。
191.核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
192.应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
193.系统库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(media libraries),三维图形处理库(例如:opengl es),2d图形引擎(例如:sgl)等。
194.表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2d和3d图层的融合。
195.媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:mpeg4,h.264,mp3,aac,amr,jpg,png等。
196.三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
197.2d图形引擎是2d绘图的绘图引擎。
198.内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱
动,传感器驱动。
199.下面通过非限制示例对本技术实施例的应用场景和实现流程进行举例说明。
200.第一个应用场景
201.如图6所示,为第一个应用场景示意图。第一个应用场景为笔记本电脑的一个多窗口同时显示的应用场景。如图6所示,窗口a为系统窗口,窗口b为手机投屏到笔记本电脑的某一新闻应用的窗口,窗口c为笔记本电脑上开启的某一视频应用的窗口,窗口d为笔记本电脑上开启的某一即时通讯应用的窗口。
202.本技术一实施例提供了一种显示处理方法,可以应用于图6所示的应用场景,此时,该显示处理方法可以由笔记本电脑执行。首先在系统侧获取前台的每个窗口,即窗口a、窗口b、窗口c和窗口d,各自的大小、位置、透明度和z轴顺序等窗口属性信息,以此确定前台窗口的数量和四个窗口的层叠关系。当检测到笔记本电脑处于多窗口重叠显示的场景,然后对笔记本电脑的显示屏的显示区域进行分块划分,按照划分结果,计算出每个分块区域中的每个窗口的视觉不可见部分对应的绘制指令。随后对视觉不可见部分对应的绘制指令进行修改和/或删除,经过修改和/或删除后的剩余绘制指令转换成渲染指令,将渲染指令提交给gpu。gpu只需根据每个窗口剩余绘制指令转换成的渲染指令进行渲染,降低了gpu负载。
203.需要说明的是,在其他一些实施例中,对笔记本电脑的显示屏的显示区域进行分块划分的步骤,也可以在开始的时候执行。
204.还需说明的是,在其他一些实施例中,无需在每次执行显示处理方法的时候,都执行对笔记本电脑的显示区域进行分块划分的步骤,该步骤可以为预处理步骤。例如,在第一次完成对笔记本电脑的显示区域进行分块划分后,可以将划分结果进行存储,以供后续调用该划分结果。
205.具体地,作为本技术一实施例,如图7所示,显示处理方法包括步骤s710至s760,详述如下。
206.s710,对显示区域进行分块划分,得到多个分块区域。
207.对显示区域进行分块划分的实现方式,包括如下五种。可以根据下面任一实现方式或任一实现方式的示例,对显示屏的显示区域进行分块划分。需要说明的是,下面的实现方式或实现方式的示例仅为示例性描述,其并不用于限定本技术的保护范围。事实上,基于说明书记载的实现方式或实现方式的示例可以想到的各种变形、组合、替代或改变均不超出本技术。
208.第一种实现方式
209.第一种实现方式,获取显示屏的分辨率,根据分辨率对显示屏的显示区域进行分块划分,得到多个分块区域。
210.作为第一种实现方式的一非限制性示例,获取笔记本电脑中显示屏的分辨率,例如为1600
×
900,根据分辨率对显示屏的显示区域进行分块划分。系统预先设置有划分规则,按照既定的划分规则对显示屏的显示区域进行分块划分。预先设置的划分规则可以由系统默认设置,也可以由用户自定义设置。划分规则可以包括分块区域的大小和/或分块区域的总数量等。
211.例如,按照第一预设规则,规则划分成棋盘分布的72个分块区域,参见图8所示。72
个分块区域为9
×
8的棋盘分布。9
×
8的棋盘分布代表水平方向划分为9个分块区域,垂直方向划分为8个分块区域。如图8所示,水平方向划分成的9列依次标记为0至8,即第1至第9列依次标记为0至8;垂直方向划分成的8行依次标记为0至7,即第1行至第8行依次标记为0至7。每个分块区域可用行和列的标识进行组合编号,例如,第2行和第3列对应的分块区域编号为12;又如,第7行和第9列对应的分块区域编号为68。在显示屏的垂直方向和水平方向进行均分,每个分块区域的尺寸相同,每个分块区域所占像素个数大致为178
×
112。
212.又如,按照第二预设规则,规则划分成棋盘分布的8
×
6个分块区域,每个分块区域的尺寸相同,每个分块区域所占像素个数为200
×
150。
213.再如,按照第三预设规则,划分成12个分块区域,以使得每个分块区域所占像素个数刚好为整数。例如,12个分块区域为4
×
3的棋盘分布,水平方向均分为4个分块区域,垂直方向均分为3个分块区域,每个分块区域所占像素个数为400
×
300。
214.作为第一种实现方式的其他非限制性示例,划分成的多个分块区域的尺寸可以不相同。例如,在显示屏的垂直方向可以不进行均分;或,在显示屏的水平方向可以不进行均分;或,在显示屏的垂直方向和水平方向可以都不进行均分。
215.作为第一种实现方式的其他非限制性示例,可以在显示屏的水平方向或垂直方向进行随机地分块划分,得到多个分块区域。更一般地,可以对显示屏整体进行随机地分块划分,得到多个分块区域。
216.第二种实现方式
217.第二种实现方式,获取显示屏的尺寸,根据尺寸对显示屏的显示区域进行分块划分,得到多个分块区域。
218.系统预先设置有划分规则,按照既定的划分规则对显示屏的显示区域进行分块划分。预先设置的划分规则可以由系统默认设置,也可以由用户自定义设置。划分规则可以包括分块区域的大小和/或分块区域的总数量等。
219.显示屏的尺寸一般是指对角线的长度,通常采用英寸或厘米为单位。
220.例如显示屏的尺寸为14英寸,14英寸等于35.56厘米。若该显示屏的长宽比是16:9,则长度为30.99厘米,宽度为17.43厘米。
221.作为第二种实现方式的一非限制性示例,获取笔记本电脑中显示屏的尺寸,例如为14英寸,根据尺寸对显示屏的显示区域进行分块划分。
222.例如,规则划分成棋盘分布的72个分块区域,继续参见图8所示,为9
×
8的棋盘分布,9
×
8的棋盘分布代表水平方向划分为9个分块区域,垂直方向划分为8个分块区域。如图8所示,分别在显示屏的垂直方向和水平方向进行均分,每个分块区域的尺寸相同,每个分块区域所占尺寸大致为3.44厘米
×
2.18厘米。当获得显示屏的分辨率为1600
×
900时,通过换算可以得出每厘米大致等于52像素,每个分块区域所占尺寸大致为3.44厘米
×
2.18厘米,对应的,每个分块区域所占像素个数大致等于178
×
112。
223.又如,规则划分成棋盘分布的8
×
6个分块区域,每个分块区域的尺寸相同,每个分块区域的尺寸大致为3.87厘米
×
2.90厘米。
224.作为第二种实现方式的另一非限制性示例,根据显示屏的尺寸大小,将电子设备的显示屏划分成几种屏幕类型。例如,划分成小屏、中屏和大屏这三种屏幕类型;或,划分成小屏和大屏这两种屏幕类型;或划分成小屏、中屏、大屏和超大屏这四种屏幕类型,等等。针
对每种屏幕类型的显示屏,确定对其显示区域进行分块划分所对应的划分规则。在确定待划分的显示屏所属屏幕类型后,根据所属屏幕类型对应的划分规则对待划分显示屏的显示区域进行分块划分。
225.例如,参见如下表一所示,不同尺寸的显示屏,可以划分为三种屏幕类型,不同屏幕类型可以对应不同的划分规则。
226.表一
227.显示屏的尺寸屏幕类型划分规则大于14英寸大屏9
×
8的均分棋盘8.5英寸至14英寸(包括8.5英寸和14英寸)中屏5
×
4的均分棋盘小于8.5英寸小屏2
×
3的均分棋盘
228.在图6所示的笔记本电脑中多窗口同时显示的应用场景中,若待划分的笔记本电脑中显示屏的尺寸为14.4英寸,根据表一,14.4英寸的显示屏属于大屏这一屏幕类型,该屏幕类型对应的划分规则为9
×
8的均分棋盘。将笔记本电脑的显示屏按照9
×
8的棋盘分布,在水平方向和垂直方向上进行均分。笔记本电脑的显示屏划分成72个等分的分块区域。
229.在其他应用场景中,例如手机中多窗口同时显示的应用场景,待划分的手机中显示屏的尺寸为6英寸,根据表一,6英寸的显示屏属于小屏这一屏幕类型,该屏幕类型对应的划分规则为2
×
3的均分棋盘。如图9a所示,将手机的显示屏按照2
×
3的棋盘分布,在水平方向和垂直方向上进行均分,手机的显示屏划分成6个等分的分块区域。
230.应理解,如图9a所示为手机的竖屏显示状态,在水平方向和垂直方向上进行2
×
3的棋盘均分。若手机为横屏显示状态,如图9b所示,在水平方向和垂直方向上进行3
×
2的棋盘均分。
231.作为第二种实现方式的其他非限制性示例,划分成的多个分块区域的尺寸可以不相同。例如,在显示屏的垂直方向可以不进行均分;或,在显示屏的水平方向可以不进行均分;或,在显示屏的垂直方向和水平方向可以都不进行均分。
232.作为第二种实现方式的其他非限制性示例,可以在显示屏的水平方向或垂直方向进行随机地分块划分,得到多个分块区域。更一般地,可以对显示屏整体进行随机地分块划分,得到多个分块区域。
233.第三种实现方式
234.第三种实现方式,获取显示屏的分辨率和显示屏的尺寸,根据分辨率和尺寸对显示屏的显示区域进行分块划分,得到多个分块区域。
235.在第三种实现方式中,综合考虑分辨率和尺寸进行分块划分。
236.作为第三种实现方式的一非限制性示例,显示屏的分辨率越高,尺寸越大,分块区域的总数量可以越多,即可以进行相对细致的划分;反之,显示屏的分辨率越低,尺寸越小,分块区域的总数量可以越小,即可以进行相对粗糙的划分。
237.作为第三种实现方式的另一非限制性示例,在分辨率相同的情况下,尺寸越小,分块区域的总数量可以越少,即可以进行相对粗糙的划分;反之,尺寸越大,分块区域的总数量可以越多,即可以进行相对细致的划分。
238.作为第三种实现方式的另一非限制性示例,在尺寸相同的情况下,分辨率越低,分块区域的总数量可以越少,即可以进行相对粗糙的划分;反之,分辨率越高,分块区域的总
数量可以越多,即可以进行相对细致的划分。
239.作为第三种实现方式的另一非限制性示例,根据显示屏的尺寸大小,将电子设备的显示屏划分成几种屏幕类型。针对每种屏幕类型的显示屏,再根据显示屏分辨率确定分辨率等级。不同的屏幕类型和不同分辨率等级设置有各自对应的划分规则。在确定待划分的显示屏所属屏幕类型后,再确定所属分辨率等级,根据所属屏幕类型和所属分辨率等级对应的划分规则对待划分显示屏的显示区域进行分块划分。
240.例如,参见如下表二所示,不同尺寸的显示屏,可以划分为三种屏幕类型,即小屏、中屏和大屏。同一种屏幕类型又可以根据分辨率高低划分为三种分辨率等级,即低、中和高。不同屏幕类型和不同分辨率等级设置有各自对应的划分规则。
241.表二
[0242][0243]
在图6所示的笔记本电脑中多窗口同时显示的应用场景中,若待划分的笔记本电脑中显示屏的尺寸为18英寸,分辨率为1600
×
900。根据表二,18英寸的显示屏属于大屏这一屏幕类型。针对大屏这一屏幕类型,分辨率1600
×
900为低分辨率。该笔记本电脑显示屏对应的划分规则为7
×
6的均分棋盘。将笔记本电脑显示屏的显示区域按照7
×
6的棋盘分布,在水平方向和垂直方向上进行均分。笔记本电脑显示屏的显示区域划分成42个等分的分块区域。
[0244]
在其他应用场景中,例如手机中多窗口同时显示的应用场景,待划分的手机中显示屏的尺寸为6英寸,分辨率为720
×
1280。根据表二,6英寸的显示屏属于小屏这一屏幕类型。针对小屏这一屏幕类型,分辨率720
×
1280为高分辨率。该手机显示屏对应的划分规则为3
×
4的均分棋盘。将手机显示屏的显示区域在水平方向和垂直方向上进行均分,手机显示屏的显示区域划分成12个等分的分块区域。
[0245]
第四种实现方式
[0246]
第四种实现方式,对显示屏进行分块划分时,除了根据显示屏的分辨率和/或尺寸进行分块划分。还可以根据显示窗口的总数量,和/或,根据电子设备自身的算力进行分块划分。
[0247]
当根据显示窗口的总数量进行分块划分时,步骤s710可以在步骤s720之后执行,即在确定了显示多个窗口后,再进行显示屏显示区域的分块划分。应理解,各步骤的执行顺序应以其功能和内在逻辑确定,而不应对本技术实施例的实施过程构成任何限定。
[0248]
作为第四种实现方式的一非限制性示例,根据显示的窗口的总数量进行分块划分。显示的窗口的总数量越多,分块区域的总数量可以越少,即可以进行相对粗糙的划分;反之,显示的窗口的总数量越少,分块区域的总数量可以越多,即可以进行相对细致的划分。
[0249]
作为第四种实现方式的另一非限制性示例,根据电子设备自身的算力进行分块划分。电子设备的算力越弱,分块区域的总数量可以越少,即可以进行相对粗糙的划分;反之,电子设备的算力越强,分块区域的总数量可以越多,即可以进行相对细致的划分。
[0250]
作为第四种实现方式的另一非限制性示例,综合考虑显示的窗口的总数量和电子设备自身的算力进行分块划分。显示的窗口的总数量越多,电子设备的算力越弱,分块区域的总数量可以越少,即可以进行相对粗糙的划分;反之,显示的窗口的总数量越少,电子设备的算力越弱,分块区域的总数量可以越多,即可以进行相对细致的划分。
[0251]
第五种实现方式
[0252]
第五种实现方式,除了考虑显示屏的分辨率和/或尺寸,还可以结合显示的窗口的总数量和/或电子设备自身的算力进行综合考量,确定进行分块划分的划分规则。在第五种实现方式中,由于综合考量了多维的因素,可以提高本技术实施例的适应性,可在不同的应用场景实施本技术。
[0253]
作为第五种实现方式的一非限性示例,在分辨率和/或尺寸相同的情况下,显示的窗口的总数量越多和/或电子设备的算力越弱,分块区域的总数量可以越少,即可以进行相对粗糙的划分;反之,显示的窗口的总数量越少和/或电子设备的算力越强,分块区域的总数量可以越多,即可以进行相对细致的划分。
[0254]
作为第五种实现方式的另一非限制性示例,在分辨率、尺寸和/或窗口总数量相同的情况下,电子设备的算力越弱,分块区域的总数量可以越少,即可以进行相对粗糙的划分;反之,电子设备的算力越强,分块区域的总数量可以越多,即可以进行相对细致的划分。
[0255]
s720,获取显示的各个窗口的位置、大小、透明度和z轴顺序,确定各个窗口的层叠关系。
[0256]
当检测到电子设备显示多个窗口,获取显示的多个窗口的属性信息。窗口包括但不限于应用的窗口和/或系统的窗口。应用的窗口包括但不限于终端应用或网页应用的窗口。终端应用包括但不限于系统的原生应用,也包括第三方应用。
[0257]
在系统侧获取前台显示的各个窗口的位置、大小、透明度和z轴顺序等窗口属性信息,然后,可以根据各个窗口的位置、大小、透明度和z轴顺序等属性信息,确定各个窗口的层叠关系。
[0258]
其中,在一些实施例中,各个窗口的层叠关系可以包括各个窗口是否被遮挡等。或者,在另一些实施例中,各个窗口的层叠关系包括但不限于:各个窗口的前后显示顺序,各
个窗口是否被遮挡,被遮挡窗口的遮挡区域和/或非遮挡区域等。
[0259]
如果显示在前的窗口为透明窗口,即透明率不为0的窗口,则显示在后的被覆盖的窗口不被遮挡,不存在遮挡区域。在一些实现方式中,可以对被覆盖的窗口的非遮挡区域或可见区域进行标记。
[0260]
如果显示在前的窗口为不透明窗口,即透明率为0的窗口,则后面被覆盖的窗口会被遮挡,存在遮挡区域。在一些实现方式中,可以对后面被覆盖的窗口的遮挡区域和非遮挡区域分别进行标记;也可以仅标记遮挡区域或非遮挡区域。
[0261]
如果整个窗口被不透明的其它窗口覆盖,则整个窗口被遮挡,整个窗口可以标记为遮挡或不可见。
[0262]
在一些实现方式中,根据各窗口的z轴顺序,大小,位置和透明度,按照坐标方式计算出每个窗口的非遮挡区域,即可见区域,并记录可见区域的坐标范围。
[0263]
在一些实现方式中,可以按照各窗口的z轴顺序,除显示最靠前的窗口外,从显示次靠前的窗口开始,依次确定各个窗口是否被遮挡,以及每个被遮挡窗口的遮挡区域和非遮挡区域。其他实现方式中,可以按照其他顺序依次计算每个窗口是否被遮挡,以及确定窗口被遮挡时的遮挡区域和非遮挡区域。或者,并行计算每个窗口窗口是否被遮挡,以及确定窗口被遮挡时的遮挡区域和非遮挡区域。
[0264]
作为一非限制性示例,在图6所示的笔记本电脑中多窗口同时显示的应用场景中,可以根据四个窗口中各个窗口的位置、大小、透明度和z轴顺序确定它们之间的层叠关系,层叠关系可以包括确定每个窗口是否有被遮挡,还可以包括被遮挡窗口的非遮挡区域和/或遮挡区域等。
[0265]
具体地,图6所示应用场景中。获取到窗口a、窗口b、窗口c和窗口d的窗口属性信息如下表三所示。
[0266]
表三
[0267]
窗口窗口a窗口b窗口c窗口d大小w1*h1w2*h2w3*h3w4*h4位置(x1,y1)(x2,y2)(x3,y3)(x4,y4)z轴顺序z1=3z2=2z3=1z4=0透明度0%0%0%0%
[0268]
在表三所示示例中,各窗口用水平方向和垂直方向所占像素数表示窗口的大小。各窗口用左下角的像素坐标表示窗口的位置。
[0269]
wi表示第i个窗口水平方向所占像素数,hi表示第i个窗口垂直方向所占像素数。其中,i取值为1,2,3和4。
[0270]
(xj,yj)表示第j个窗口的左下角像素坐标。其中,j取值为1,2,3和4。
[0271]
zk表示第k个窗口的z轴顺序。其中,k取值为1,2,3和4。
[0272]
第1个窗口为窗口a,第2个窗口为窗口b,第3个窗口为窗口c,第4个窗口为窗口d。
[0273]
根据窗口a、窗口b、窗口c和窗口d的窗口属性信息,确定窗口d显示最靠前,无遮挡;次靠前的是窗口c,被非透明的窗口d部分遮挡;再次的是窗口b,被非透明的窗口d部分遮挡;显示在最底层的是窗口a,被非透明的窗口b、窗口c和窗口d部分遮挡。
[0274]
以窗口c为例对判断窗口c是否被遮挡,以及窗口c的遮挡区域和非遮挡区域进行
示例性说明。如图10所示,窗口c左下角的坐标(x3,y3)为(600,200),窗口c的大小为650
×
400,z轴顺序z3为1,透明度为0%。比窗口c的z轴顺序小,即比窗口c显示更靠前的窗口是窗口d,窗口d的z轴顺序为0。窗口d左下角的坐标(x4,y4)为(200,50),窗口d的大小为550
×
500,透明度为0%。窗口d属于非透明窗口,若窗口窗口c和窗口d的窗口坐标存在重叠的部分,窗口c中与窗口d重叠的部分被遮挡。根据窗口c和窗口d的大小和位置等属性信息可以计算出,窗口c和窗口d的窗口坐标存在重叠的部分。其中,窗口c和窗口d之间的重叠区域为以坐标(600,200)与坐标(750,550)为顶点的矩形区域,即重叠区域的水平方向坐标段为600至750,垂直方向坐标段为200至550。因此,窗口c的遮挡区域即为该重叠区域。窗口c的窗口坐标中除该重叠区域外的剩余区域为非遮挡区域。
[0275]
根据上述窗口c的示例,可以以此类推其他窗口的是否被遮挡,以及被遮挡窗口的遮挡区域和/或非遮挡区域。继续参见图6所示,例如,窗口b被非透明的窗口d部分遮挡,存在遮挡区域;还可以根据窗口b和窗口d的大小和位置等属性信息,确定窗口b的遮挡区域和/或非遮挡区域的位置和大小。又如,窗口a被非透明的窗口b、窗口c和窗口d遮挡,存在遮挡区域;还可以根据窗口a、窗口b、窗口c和窗口d的大小和位置等属性信息,确定窗口a的遮挡区域和/或非遮挡区域的位置和大小。
[0276]
应理解,在其他实现方式中,可能由于图形显示系统的差异,还可以用窗口左下角和右上角的坐标,来表示窗口的大小和位置;或者,还可以用窗口左上角和右下角的坐标,来表示窗口的大小和位置。本技术对窗口各个属性的具体表示不予具体限定。
[0277]
作为一非限制性示例,通过一组数(0,0,1080,1765)来表示某一矩形窗口的大小和位置。其中(0,0)表示该矩形窗口左下角的坐标,(1080,1765)表示该矩形窗口右上角的坐标。根据该组数可以确定矩形窗口的上下边界和左右边界,即确定该矩形窗口的所有窗口坐标。窗口坐标的水平方向坐标段为0至1080,垂直方向坐标段为0至1765。从而可以通过判断不同窗口的窗口坐标之间是否存在交集,确定多窗口显示场景下,是否出现重叠显示。其中,两个窗口的窗口坐标之间的交集,即为这两个窗口之间的重叠区域。
[0278]
在步骤s720中,确定多窗口显示场景下,各个窗口的层叠关系,从而可以根据层叠关系判断是否出现遮挡显示。
[0279]
当确定出现遮挡显示时,意味着某些窗口的显示内容被其他窗口遮挡,存在遮挡区域,即视觉不可见区域。因而,在每个窗口提交gpu渲染前,获取每个窗口各自所有的绘制指令,并继续执行后续步骤。即,在确定出现遮挡显示时,执行步骤s730至s760。
[0280]
当确定未出现遮挡显示时,每个窗口都独立渲染出完整的窗口,再发送到显示屏进行显示。即,在确定未出现遮挡显示时,执行步骤s770,根据各个窗口的绘制指令进行显示。例如,在一些实现方式中,可以采用图3所示的显示处理流程。
[0281]
s730,若根据各个窗口的层叠关系确定出现遮挡显示,在每个窗口提交gpu渲染前,获取每个窗口各自的所有绘制指令。
[0282]
遮挡显示包括至少一个窗口出现遮挡区域,即视觉不可见区域。在两个窗口重叠显示的情形下,显示靠前的窗口为非透明窗口时,才会遮挡显示靠后的窗口,因此,在本技术实施例中,根据各个窗口的层叠关系确定是否出现遮挡显示,若出现遮挡显示,则在每个窗口提交gpu渲染前,获取每个窗口各自的所有绘制指令。
[0283]
作为一非限制性示例,继续以图6所示应用场景为例进行说明。图11所示为图6所
示应用场景中新闻应用的窗口b。如图11所示,图11中黑色框111所框出的区域为新闻应用的窗口b中新闻列表显示区域111。该新闻列表显示区域111对应的绘制指令示例如下:
[0284]
drawrendernode(feedrecyclerview 0xb2cf1c00)#控件类型和对象地址#
[0285]
(cliprect 100,100,550,580)#显示区域形状和大小#
[0286]
可见,绘制指令包括控件类型,对象地址,显示区域形状和大小等信息。其中,对象地址一般包含资源等。在上述绘制指令的示例中,新闻列表显示区域的形状为矩形区域,矩形区域的左下角坐标为(100,100),右上角坐标为(550,580)。
[0287]
s740,根据各个窗口的层叠关系,确定被完全遮挡的窗口,将被完全遮挡的窗口的绘制指令剔除。
[0288]
各个窗口的层叠关系,可以包括窗口是否被遮挡,还可以包括被遮挡窗口的遮挡区域和非遮挡区域等。因此,根据层叠关系可以确定被完全遮挡的窗口和非完全遮挡的窗口。
[0289]
被完全遮挡的窗口,也可称为完全遮挡窗口,即整个窗口被在前显示的其他窗口完全遮挡的窗口。被完全遮挡窗口的整个窗口都是遮挡区域。在图6所示应用场景中,不存在被完全遮挡的窗口。
[0290]
非完全遮挡的窗口,也可称为非完全遮挡窗口,即整个窗口未被在前显示的其他窗口完全遮挡的窗口。
[0291]
针对被完全遮挡的窗口,将完全被遮挡的窗口的绘制指令全部剔除或删除,不提交到gpu进行渲染。从而可以减少渲染内容,节省系统资源。
[0292]
s750,按照对显示屏划分的分块区域,给每个分块区域匹配对应的绘制指令,得到非完全遮挡窗口的处理后的绘制指令。
[0293]
在步骤s740中,确定完全遮挡窗口和非完全遮挡窗口后,针对完全遮挡窗口,将完全遮挡窗口的绘制指令全部剔除或删除,在步骤s750中,针对非完全遮挡窗口的绘制指令进行处理,得到非完全遮挡窗口的处理后的绘制指令。其中,非完全遮挡窗口,即整个窗口未被在前显示的其他窗口完全遮挡的窗口。非完全遮挡窗口包括遮挡区域和非遮挡区域。
[0294]
在一些实现方式中,可以依次启动各个分块区域的计算任务,每个计算任务根据一个分块区域内的非完全遮挡窗口的层叠关系,给该分块区域匹配对应的绘制指令,以此得到各个非完全遮挡窗口的处理后的绘制指令。
[0295]
在一些实现方式中,可以同时启动多个计算任务,每个计算任务根据一个分块区域内的非完全遮挡窗口的层叠关系,给该分块区域匹配对应的绘制指令,以此得到各个非完全遮挡窗口的处理后的绘制指令。这样可以同时计算多个分块区域对应的绘制指令,从而提升显示处理的效率。
[0296]
需要说明的是,若在步骤s720仅粗略计算了各窗口的层叠关系,即仅区分了完全遮挡窗口和非完全遮挡窗口,则在步骤s750中还需要计算落入每个分块区域的各个非完全遮挡窗口的层叠关系,即确定每个非完全遮挡窗口的透明度,z轴顺序,遮挡区域和非遮挡区域等。若在步骤s720详细计算了各窗口的层叠关系,即不仅区分了完全遮挡窗口和非完全遮挡窗口,也确定了每个非完全遮挡窗口的透明度,z轴顺序,遮挡区域和非遮挡区域等,则在步骤s750中可以利用步骤s720计算的层叠关系确定落入每个分块区域的各个非完全遮挡窗口的层叠关系。非完全遮挡窗口的层叠关系可以包括透明度,z轴顺序,非完全遮挡
窗口的遮挡区域和非遮挡区域等。然后根据各个分块区域的层叠关系对落入该分块区域的非完全遮挡窗口的绘制指令进行处理,得到各个非完全遮挡窗口的处理后的绘制指令。
[0297]
作为一非限制性示例,继续以图6所示应用场景为例,如图12所示,以显示屏划分成9
×
8个分块区域为例进行说明。针对某一分块区域的某一计算任务,如图13所示,该计算任务可以包括如下过程:
[0298]
确定分块区域有几个非完全遮挡窗口层叠,然后获取每个非完全遮挡窗口在此分块区域的绘制指令,根据该分块区域内各个非遮挡窗口的层叠关系确定保留、删除或修改此绘制指令。
[0299]
其中,根据各非完全遮挡窗口大小和位置,以及分块区域的大小和位置,可以确定哪几个非完全遮挡窗口落入该分块区域,落入该分块区域的几个非完全遮挡窗口可称为目标窗口。再获取每个目标窗口在此分块区域的绘制指令,可称为目标绘制指令。再根据目标绘制指令是否完全落入该分块区域,每个目标窗口在此分块区域的层叠关系,采用对应的方式处理每个目标窗口的目标绘制指令,即保留、删除或修改每个目标窗口的目标绘制指令。下面根据目标绘制指令是否完全落入该分块区域的两种情形进行分析,即情形a和情形b。
[0300]
情形a:某一目标窗口的某一条目标绘制指令完全在一分块区域
[0301]
a、如果某一目标窗口的某一条目标绘制指令完全在此分块区域,则根据层叠关系确定保留、删除或修改此目标绘制指令。
[0302]
具体地,情形a包括a1至a4这四种情形。
[0303]
a1、如果该目标窗口处于最上层,即显示最靠前,保留此目标绘制指令。
[0304]
这种情形下,在某一分块区域中,显示最靠前的窗口,显然无遮挡,因而需要保留最靠前的窗口的完全落入该分块区域的绘制指令。
[0305]
作为一非限制性示例,继续以图6所示应用场景为例进行说明。如图12所示,显示屏划分成9
×
8个分块区域,按照行和列的组合编号方式对各个分块区域进行编号,例如编号为22的分块区域,指的是第3行和第3列对应的分块区域。
[0306]
针对编号为22的分块区域22,落入该分块区域22的目标窗口包括窗口a、窗口b和窗口d。获取窗口a完全落入该分块区域22的目标绘制指令,获取窗口b完全落入该分块区域22的目标绘制指令;获取窗口d完全落入该分块区域22的目标绘制指令。在该分块区域22中,窗口d显示最靠前,若窗口d的某一条目标绘制指令完全落入该分块区域22,则保留该条目标绘制指令。
[0307]
a2、如果该目标窗口处于下层,且位于该目标窗口上层的其他目标窗口属于透明窗口,保留此目标绘制指令。
[0308]
这种情形下,在某一分块区域中,显示靠后(或显示靠下)的窗口无法被显示靠前(或显示靠上)的透明窗口遮挡,因此,需要保留该显示靠后的窗口的完全落入该分块区域的绘制指令。
[0309]
a3、如果该目标窗口处于下层,且位于该目标窗口上层的其他目标窗口不透明,并且此目标绘制指令被完全遮挡,则删除此目标绘制指令。
[0310]
这种情形下,在某一分块区域中,显示靠后(或显示靠下)的窗口会被显示靠前(或显示靠上)的非透明窗口遮挡,因此,当目标绘制指令被完全遮挡,可以删除该显示靠后的
窗口的完全落入该分块区域的绘制指令。也就是说,当某一目标窗口在某一分块区域中被显示在前的其他非透明窗口完全遮挡,则删除该目标窗口完全落入该分块区域中的目标绘制指令。
[0311]
例如,继续参见如图12所示,针对编号为22的分块区域22,落入该分块区域22的目标窗口包括窗口a、窗口b和窗口d。获取窗口a完全落入该分块区域22的目标绘制指令,获取窗口b完全落入该分块区域22的目标绘制指令;获取窗口d完全落入该分块区域22的目标绘制指令。
[0312]
在该分块区域22中,窗口b在窗口d后面显示,窗口d属于非透明窗口。窗口b在分块区域22中的区域完全被窗口d遮挡。若窗口b的某一条目标绘制指令完全落入该分块区域22,则删除该条目标绘制指令。
[0313]
在该分块区域22中,窗口a在窗口b和窗口d的后面显示,窗口b和窗口d均属于非透明窗口。窗口a在分块区域22中的区域完全被窗口b和窗口d遮挡。若窗口a的某一条目标绘制指令完全落入该分块区域22,则删除该条目标绘制指令。
[0314]
a4、如果该目标窗口处于下层,且位于该目标窗口上层的其他目标窗口不透明,并且此目标绘制指令被部分遮挡。
[0315]
这种情形下,在某一分块区域中,显示靠后(或显示靠下)的窗口会被显示靠前(或显示靠上)的非透明窗口遮挡,因此,当目标绘制指令被部分遮挡,可以修改或保留该显示靠后的窗口的完全落入该分块区域的绘制指令。也就是说,当某一目标窗口在某一分块区域中被显示在前的其他非透明窗口部分遮挡,则修改或保留该目标窗口完全落入该分块区域中的目标绘制指令。
[0316]
具体地,情形a4可以包括a4.1和a4.2这四种情形。
[0317]
a4.1、如果目标窗口的目标绘制指令被规则遮挡,则修改此目标绘制指令的显示面积,显示面积修改为可见区域或非遮挡区域的面积。
[0318]
目标窗口的目标绘制指令被规则遮挡,包括:目标绘制指令在此分块区域中的被遮挡区域为矩形;或者,目标窗口在此分块区域中的可见区域或非遮挡区域的形状为规则形状,如矩形等。此时,修改此目标绘制指令的显示面积,显示面积修改为可见区域或非遮挡区域的面积。应理解,可见区域也可以是其他形状,根据实际所用的图形显示系统的表达方式相关,可以采用图形显示系统所能表达的任一形状。
[0319]
例如,继续参见如图12所示,针对编号为30的分块区域30,落入该分块区域30的目标窗口包括窗口a和窗口b。获取窗口a完全落入该分块区域30的目标绘制指令,获取窗口b完全落入该分块区域30的目标绘制指令。
[0320]
在该分块区域30中,窗口a在窗口b后面显示,窗口b属于非透明窗口。窗口a在分块区域30中的区域被窗口b部分遮挡,窗口a在分块区域30中的可见区域为矩形区域。若窗口a的某一条目标绘制指令完全落入该分块区域30,则修改该条目标绘制指令的显示面积为该矩形区域。例如,窗口a在分块区域30中的可见区域为矩形区域(0,410,100,450),目标绘制指令的显示面积由原来的(cliprect 0,410,150,450),修改为(cliprect 0,410,100,450)。
[0321]
a4.2、如果目标窗口的目标绘制指令被不规则遮挡,则找出非遮挡区域的最小可修改的矩形面积,如果有,则将目标绘制指令的显示面积修改为该矩形面积;如果没有就保
留该目标绘制指令。
[0322]
目标窗口的目标绘制指令被不规则遮挡,包括:目标绘制指令在此分块区域中的被遮挡区域为圆形或扇形;或者,目标窗口在此分块区域中的可见区域或非遮挡区域的形状为不规则形状,例如非矩形等。此时,找出非遮挡区域的最小可修改的矩形面积,若有,则将目标绘制指令的显示面积修改为该矩形面积;若没有,则保留该目标绘制指令。最小可修改的矩形面积,可以为四个顶点落在非遮挡区域边界上的矩形中面积最小的矩形面积。应理解,此处示例以最小可修改的矩形面积为例进行说明,在其他实现方式中,也可以是其他形状,根据实际所用的图形显示系统的表达方式相关,可以采用图形显示系统所能表达的任一形状。
[0323]
情形b:某一目标窗口的某一条目标绘制指令落入几个分块区域
[0324]
b、如果某一目标窗口的某一条目标绘制指令落入几个分块区域,则把落入的几个分块区域作为一个大的分块区域进行计算,按照上述描述的类似方法对这条绘制指令进行保留、删除或修改。
[0325]
如果某一目标窗口的某一条目标绘制指令落入几个分块区域,将这几个分块区域合并或组合为一个大区域,该合并或组合后的大区域可以称为第一区域。
[0326]
示例性地,若确定在该第一区域中该目标窗口处于最上层或显示最靠前,或者,确定在该第一区域中该目标窗口在所述第一区域中不处于最上层,且覆盖该目标窗口的其他窗口为透明窗口,则意味着该条目标绘制指令没有被遮挡,则保留该目标窗口的该条目标绘制指令。
[0327]
若确定在该第一区域中该条目标绘制指令被完全遮挡,或,在该第一区域中该目标窗口被完全遮挡,则删除该目标窗口的该条目标绘制指令。例如,若确定在该第一区域中,该目标窗口不处于最上层,位于该目标窗口上层的其他目标窗口属于非透明窗口,且该目标绘制指令被完全遮挡,则删除该目标绘制指令。
[0328]
若确定在该第一区域中该目标窗口的目标绘制指令被部分规则遮挡,则修改此目标绘制指令的显示面积,显示面积修改为可见区域或非遮挡区域的面积。例如,若确定在该第一区域中,该目标窗口不处于最上层,位于该目标窗口上层的其他目标窗口属于非透明窗口,且该目标绘制指令被规则遮挡,则修改该目标绘制指令的显示面积。
[0329]
若确定在该第一区域中该目标窗口的目标绘制指令被部分不规则遮挡,则找出非遮挡区域的最小可修改的矩形面积,如果有,则将目标绘制指令的显示面积修改为该矩形面积;如果没有就保留该目标绘制指令。例如,若确定在所述第一区域中,该目标窗口不处于最上层,位于该目标窗口上层的其他目标窗口属于非透明窗口,且该目标绘制指令被不规则遮挡,则找出该目标绘制指令在该第一区域中非遮挡区域的最小可修改面积,若找到所述最小可修改面积,则修改该目标绘制指令的显示面积为所述最小可修改面积;若未找到该最小可修改面积,则保留该目标绘制指令。
[0330]
作为一非限制性示例,继续参见图12所示,如图12所示,新闻应用的窗口b中的新闻列表显示区域111对应一条绘制指令,该条绘制指令落入下列20个分块区域,落入的20个分块区域对应的编号分别是:21、22、23、24;31、32、33、34;41、42、43、44;51、52、53、54;61、62、63、64。这20个分块区域。这20个分块区域合成一个大区域,即图12所示的新闻列表显示区域111对应的显示屏上的第一区域。在第一区域中,窗口d规则遮挡窗口b,窗口b在第一区
域中的可见区域为一矩形。修改新闻列表显示区域111对应一条绘制指令的显示区域为该可见区域。例如:窗口b在第一区域中的可见区域为一矩形,该矩形的位置和大小为(100,100,200,580),将新闻列表显示区域111对应的一条绘制指令的显示面积由原来的(cliprect 100,100,550,580),修改成(cliprect 100,100,200,580)。
[0331]
s760,根据各个非完全遮挡窗口的处理后的绘制指令进行显示。
[0332]
根据步骤s750给每个分块区域匹配对应的绘制指令,得到每个非完全遮挡窗口的处理后的绘制指令。
[0333]
在一些实现方式中,将各个非完全遮挡窗口的处理后的绘制指令转换成渲染指令,将渲染指令提交给gpu或显示子系统(multimedia display sub-system,mdss)。gpu或mdss将渲染后的内容发送给显示屏或显示设备进行显示。
[0334]
在一些实现方式中,将各个非完全遮挡窗口的处理后的绘制指令转换成渲染指令,例如opengl指令等,再将渲染指令提交给gpu或mdss。然后再由gpu或mdss进行渲染,gpu或mdss把渲染结果提交到帧缓冲区。最后,当下一次vsync信号到来时,电子设备的视频控制器会按照vsync信号逐行读取帧缓冲区的数据,经过可能的数模转换传递给显示屏或显示设备显示。
[0335]
本技术实施例在多窗口同时显示的场景下,可以通过精简绘制指令,降低图形显示的工作量,进而降低系统的负载,带来功耗的降低和性能的提升。
[0336]
第二个应用场景
[0337]
如图14a和图14b所示,为第二个应用场景示意图。第二个应用场景为手机的一个应用场景。在这个应用场景中,如图14a所示,手机开启一个浏览器应用,显示该浏览器应用的第一窗口141。如图14b所示,在开启浏览器应用的基础上再打开一个即时通讯应用,这时手机同时显示浏览器应用的第一窗口141和即时通讯应用的第二窗口142。即时通讯应用的第二窗口142遮挡了浏览器应用的第一窗口141的部分区域。
[0338]
当手机接收到用户开启浏览器应用的操作,通过浏览器应用的绘制指令获取浏览器应用的第一窗口141的大小、位置和透明度等窗口属性信息。根据第一窗口141的窗口属性信息获取当前系统的窗口数量和窗口层叠关系。
[0339]
基于窗口数量和窗口层叠关系确定只需显示第一窗口141,第一窗口141显示在最前面,没有遮挡。保留第一窗口141的所有绘制指令。将第一窗口141的绘制指令转换成渲染指令后提交到gpu进行渲染,gpu将渲染结果发送给显示屏进行显示,手机的显示屏显示浏览器应用的第一窗口141,如图14a所示。
[0340]
当手机接收到用户开启即时通讯应用的操作,通过即时通讯应用的绘制指令获取即时通讯应用的第二窗口142的大小、位置、透明度和z轴顺序等窗口属性信息。通过浏览器应用的绘制指令获取浏览器应用的第一窗口141的大小、位置、透明度和z轴顺序等窗口属性信息。然后,根据第一窗口141和第二窗口142的窗口属性信息,获取当前系统的窗口层叠关系。
[0341]
根据窗口层叠关系确定第二窗口142显示在最前面,没有遮挡。保留第二窗口142的所有绘制指令。根据窗口层叠关系确定第一窗口141被显示在前的非透明的第二窗口142部分遮挡,根据第一窗口141的不可见区域,确定第一窗口141的绘制指令中完全落入该不可见区域的绘制指令,删除第一窗口141的绘制指令中完全落入该不可见区域的绘制指令,
得到第一窗口141的精简后的绘制指令。
[0342]
将第二窗口142的所有绘制指令转换成渲染指令后提交到gpu进行渲染;将第一窗口141精简后的绘制指令转换成渲染指令后提交到gpu进行渲染。gpu将两个窗口的渲染结果发送给显示屏进行显示,如图14b所示,手机在图14a的基础上显示第二窗口142,第二窗口142叠加显示在第一窗口141上。
[0343]
第三个应用场景
[0344]
如图15a和图15b所示,为第三个应用场景示意图。第三个应用场景为平板电脑的一个应用场景。在这个应用场景中,如图15a所示,平板电脑开启一个即时通讯应用,显示该即时通讯应用的第一窗口151。如图15b所示,在开启即时通讯应用的基础上再打开一个播放器应用,这时手机同时显示即时通讯应用的第一窗口151和播放器应用的第二窗口152。播放器应用的第二窗口152完全遮挡了即时通讯应用的第一窗口151。
[0345]
当平板电脑接收到用户开启即时通讯应用的操作,通过即时通讯应用的绘制指令获取即时通讯应用的第一窗口151的大小、位置和透明度等窗口属性信息。根据第一窗口151的窗口属性信息获取当前系统的窗口数量和窗口层叠关系。
[0346]
基于窗口数量和窗口层叠关系确定只需显示第一窗口151,第一窗口151显示在最前面,没有遮挡。保留第一窗口151的所有绘制指令。将第一窗口151的绘制指令转换成渲染指令后提交到gpu进行渲染,gpu将渲染结果发送给显示屏进行显示,平板电脑的显示屏显示即时通讯应用的第一窗口151,如图15a所示。
[0347]
当平板电脑接收到用户开启播放器应用的操作,通过播放器应用的绘制指令获取播放器应用的第二窗口152的大小、位置、透明度和z轴顺序等窗口属性信息。通过即时通讯应用的绘制指令获取即时通讯应用的第一窗口151的大小、位置、透明度和z轴顺序等窗口属性信息。然后,根据第一窗口151和第二窗口152的窗口属性信息,获取当前系统的窗口层叠关系。
[0348]
根据窗口层叠关系确定第二窗口152显示在最前面,没有遮挡。保留第二窗口152的所有绘制指令。根据窗口层叠关系确定第一窗口151被显示在前的非透明的第二窗口152完全遮挡,删除第一窗口151的所有绘制指令。
[0349]
将第二窗口152的所有绘制指令转换成渲染指令后提交到gpu进行渲染;而第一窗口151的绘制指令不需提交到gpu进行渲染。gpu将渲染结果发送给显示屏进行显示,如图15b所示,平板电脑只显示播放器应用的第二窗口152。
[0350]
在每一次刷新显示的过程中,系统获取系统当前系统的前台窗口的窗口属性信息,进而根据窗口属性信息获取当前系统的窗口数量和窗口层叠关系,窗口层叠关系包括窗口是否被遮挡,以及被遮挡窗口的可见区域和/或不可见区域。然后,根据窗口层叠关系,对各个窗口的绘制指令进行处理,得到每个窗口处理后的绘制指令。最后将处理后的绘制指令转换成渲染指令后提交到gpu进行渲染,gpu将渲染结果发送给显示屏进行显示。
[0351]
结合上述第二个和第三个应用场景及相关附图,本技术一实施例提供了一种显示处理方法,在多窗口显示状态,系统每一次刷新显示的过程中,获取系统当前的窗口的窗口属性信息,进而根据窗口属性信息获取系统的窗口数量和窗口的层叠关系,窗口的层叠关系可以包括窗口是否被遮挡,还可以包括被遮挡窗口的可见区域和/或不可见区域等。然后,根据窗口的层叠关系,对各个窗口的绘制指令进行处理,得到每个窗口处理后的绘制指
令,例如,删除窗口的绘制指令中完全落入该窗口的遮挡区域的绘制指令,得到精简的绘制指令。最后将处理后的绘制指令转换成渲染指令后提交到gpu进行渲染,gpu将渲染结果发送给显示屏进行显示。
[0352]
通过本实施例,在多窗口同时显示的场景下,降低图形显示的工作量,进而降低系统的负载,带来功耗的降低和性能的提升。
[0353]
应理解,上述实施例中各过程的执行顺序应以其功能和内在逻辑确定,而不应对本技术实施例的实施过程构成任何限定。
[0354]
对应于上文实施例所述的显示处理方法,本技术一实施例提供一种显示处理装置,显示处理装置配置于电子设备,显示处理装置包括的各个模块可以对应实现显示处理方法的各个步骤。
[0355]
可以理解的是,电子设备为了实现上述功能,其包含了执行各个功能相应的硬件和/或软件模块。结合本文中所公开的实施例的描述,本技术能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。本领域技术人员可以结合实施例对每个特定的应用来使用不用方法来实现所描述的功能,但是这种实现不应认为超出本技术的范围。
[0356]
需要说明的是,显示处理装置的模块/单元之间的信息交互、执行过程等内容,由于与本技术方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
[0357]
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本技术的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
[0358]
本技术实施例还提供了一种电子设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,使得所述电子设备实现上述各个方法实施例中的步骤。
[0359]
本技术实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时可实现上述各个方法实施例中的步骤。
[0360]
本技术实施例提供了一种计算机程序产品,当计算机程序产品在电子设备上运行时,使得电子设备执行时可实现上述各个方法实施例中的步骤。
[0361]
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本技术实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至
少可以包括:能够将计算机程序代码携带到拍照装置/电子设备的任何实体或装置、记录介质、计算机存储器、只读存储器(read-only memory,rom)、随机存取存储器(random access memory,ram)、电载波信号、电信信号以及软件分发介质。例如u盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
[0362]
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
[0363]
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本技术的范围。
[0364]
在本技术所提供的实施例中,应该理解到,所揭露的电子设备和方法,可以通过其它的方式实现。例如,以上所描述的电子设备实施例仅仅是示意性的。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
[0365]
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
[0366]
以上所述实施例仅用以说明本技术的技术方案,而非对其限制;尽管参照前述实施例对本技术进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本技术各实施例技术方案的精神和范围,均应包含在本技术的保护范围之内。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献