1.本发明属于自然语言处理技术领域,尤其涉及一种商品评论情感分析方法、系统、电子设备及存储介质。
背景技术:
2.商品评论是商家获取消费者对于商品反馈的重要途径,理解消费者在商品评论中表达的情感被称为情感分析。目前,基于商品评论的情感分析分为句子级和评价对象级,其中评价对象级指得是获取针对消费者提出的某个具体的商品某种属性或特征的情感极性,这种级别的情感分析对于商业决策时非常宝贵的信息。但是商品评论受到消费者语言习惯的影响往往不是结构化的文本,并且其信息的实时性、数据的巨大性导致了很难通过人工方法去快速的进行情感分析,因此基于评价对象的商品评论情感分析技术吸引了国内外众多研究这的目光,已成为当前研究的热点内容。
技术实现要素:
3.本技术实施例提供了一种商品评论情感分析方法、系统、电子设备及存储介质,以至少解决现有商品评论情感分析方法智能化程度低的问题。
4.第一方面,本技术实施例提供了一种商品评论情感分析方法,包括:词嵌入表示获取步骤,获取一商品的评论及所述评论的评价对象,将所述评论和所述评价对象输入至一预训练语言模型中获取所述评论每个词的词嵌入表示;词句注意力计算步骤,根据所述词嵌入表示计算所述评论的句法注意力,并进一步根据所述词嵌入表示计算所述评论中的词性注意力;交互注意力计算步骤,将所述句法注意力和所述词性注意力与所述词嵌入表示进行交互注意力的计算;情感极性获取步骤,将所述交互注意力输入至全连接层,进行softmax处理后获取所述评论在当前所述评价对象下的情感极性。
5.优选的,所述词嵌入表示获取步骤进一步包括:将所述评论和所述评价对象输入至共享参数的roberta中获取所述词嵌入表示。
6.优选的,所述词句注意力计算步骤进一步包括:通过通用的中文情感分析语料,训练出第k种句法依赖关系在通用的中文情感分析情境下的权重v
k
,将所述评论通过一句法解析工具转换成句法依赖树,计算得到所述评论中第i个单词对于第j个单词的所述句法注意力其中i
→
j表示在所述句法依赖树中所述第i个单词到所述第j个单词所经过的句法依赖关系路径。
7.优选的,所述词句注意力计算步骤进一步包括:根据所述评论获取句法注意力矩阵,并将所述词嵌入表示与所述句法注意力矩阵相乘,获取到第二词嵌入表示,并进一步训练出所述评论中每种词性对应的词性向量,根据所述第二词嵌入表示和所述词性向量计算得到所述词性注意力。
8.第二方面,本技术实施例提供了一种商品评论情感分析系统,适用于上述一种商
品评论情感分析方法,包括:词嵌入表示获取模块,获取一商品的评论及所述评论的评价对象,将所述评论和所述评价对象输入至一预训练语言模型中获取所述评论每个词的词嵌入表示;词句注意力计算模块,根据所述词嵌入表示计算所述评论的句法注意力,并进一步根据所述词嵌入表示计算所述评论中的词性注意力;交互注意力计算模块,将所述句法注意力和所述词性注意力与所述词嵌入表示进行交互注意力的计算;情感极性获取模块,将所述交互注意力输入至全连接层,进行softmax处理后获取所述评论在当前所述评价对象下的情感极性。
9.在其中一些实施例中,所述词嵌入表示获取模块进一步包括:将所述评论和所述评价对象输入至共享参数的roberta中获取所述词嵌入表示。
10.在其中一些实施例中,所述词句注意力计算模块进一步包括:通过通用的中文情感分析语料,训练出第k种句法依赖关系在通用的中文情感分析情境下的权重v
k
,将所述评论通过一句法解析工具转换成句法依赖树,计算得到所述评论中第i个单词对于第j个单词的所述句法注意力其中i
→
j表示在所述句法依赖树中所述第i个单词到所述第j个单词所经过的句法依赖关系路径。
11.在其中一些实施例中,所述词句注意力计算模块进一步包括:根据所述评论获取句法注意力矩阵,并将所述词嵌入表示与所述句法注意力矩阵相乘,获取到第二词嵌入表示,并进一步训练出所述评论中每种词性对应的词性向量,根据所述第二词嵌入表示和所述词性向量计算得到所述词性注意力。
12.第三方面,本技术实施例提供了一种电子设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述第一方面所述的一种商品评论情感分析方法。
13.第四方面,本技术实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上述第一方面所述的一种商品评论情感分析方法。
14.本技术可应用于营销智能技术领域。相比于相关技术,本技术实施例提供的一种商品评论情感分析方法,给定一条完整的商品评论及评论中特定的评价对象作为模型的输入,目的是获取基于当前特定评价对象下该条评论的情感极性(积极、中性、消极)。为了获取单词信息更加丰富的词向量嵌入表示,使用roberta作为模型的词嵌入工具,其次,考虑到句法依赖结构和单词词性可以有效的提高情感分析的准确性,设计句法注意力模块和词性注意力模块提取评论中更富含情感极性的信息,再通过文本表示和评价对象表示之间的交互注意力降低无关词语的影响,最终通过全连接层获取情感极性。
附图说明
15.此处所说明的附图用来提供对本技术的进一步理解,构成本技术的一部分,本技术的示意性实施例及其说明用于解释本技术,并不构成对本技术的不当限定。在附图中:
16.图1为本发明的商品评论情感分析方法流程图;
17.图2为本发明的商品评论情感分析系统的框架图;
18.图3为本发明的电子设备的框架图;
19.以上图中:
20.1、词嵌入表示获取模块;2、词句注意力计算模块;3、交互注意力计算模块;4、情感极性获取模块;60、总线;61、处理器;62、存储器;63、通信接口。
具体实施方式
21.为了使本技术的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本技术进行描述和说明。应当理解,此处所描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。基于本技术提供的实施例,本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例,都属于本技术保护的范围。
22.显而易见地,下面描述中的附图仅仅是本技术的一些示例或实施例,对于本领域的普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图将本技术应用于其他类似情景。此外,还可以理解的是,虽然这种开发过程中所作出的努力可能是复杂并且冗长的,然而对于与本技术公开的内容相关的本领域的普通技术人员而言,在本技术揭露的技术内容的基础上进行的一些设计,制造或者生产等变更只是常规的技术手段,不应当理解为本技术公开的内容不充分。
23.在本技术中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本技术的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是,本技术所描述的实施例在不冲突的情况下,可以与其它实施例相结合。
24.除非另作定义,本技术所涉及的技术术语或者科学术语应当为本技术所属技术领域内具有一般技能的人士所理解的通常意义。本技术所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制,可表示单数或复数。本技术所涉及的术语“包括”、“包含”、“具有”以及它们任何变形,意图在于覆盖不排他的包含;例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可以还包括没有列出的步骤或单元,或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
25.以下,结合附图详细介绍本发明的实施例:
26.图1为本发明的商品评论情感分析方法流程图,请参见图1,本发明商品评论情感分析方法包括如下步骤:
27.s1:获取一商品的评论及所述评论的评价对象,将所述评论和所述评价对象输入至一预训练语言模型中获取所述评论每个词的词嵌入表示。
28.可选的,预训练语言模型可为roberta,将所述评论和所述评价对象输入至共享参数的roberta中获取所述词嵌入表示。
29.在具体实施中,将完整的商品评论和具体的评价对象同时输入到共享参数的roberta中获取每个单词的词嵌入表示,因为roberta是一个大规模的预训练语言模型,所以该步骤中获取的词嵌入表示含有更加丰富的语义信息。
30.s2:根据所述词嵌入表示计算所述评论的句法注意力,并进一步根据所述词嵌入表示计算所述评论中的词性注意力。
31.可选的,通过通用的中文情感分析语料,训练出第k种句法依赖关系在通用的中文
情感分析情境下的权重v
k
,将所述评论通过一句法解析工具转换成句法依赖树,计算得到所述评论中第i个单词对于第j个单词的所述句法注意力其中i
→
j表示在所述句法依赖树中所述第i个单词到所述第j个单词所经过的句法依赖关系路径。
32.可选的,根据所述评论获取句法注意力矩阵,并将所述词嵌入表示与所述句法注意力矩阵相乘,获取到第二词嵌入表示,并进一步训练出所述评论中每种词性对应的词性向量,根据所述第二词嵌入表示和所述词性向量计算得到所述词性注意力。
33.在具体实施中,将完整商品评论的词嵌入表示进行句法注意力计算。已知将句子通过句法依赖解析可以分解为一颗完整的句法依赖树,句法依赖树中节点间的连线表示了不同的句法依赖关系。不同的句法依赖关系对于情感分析的帮助权重不同。首先通过通用的中文情感分析语料,训练出第k种句法依赖关系在通用情感分析情境下的权重v
k
。将当前完整商品评论通过句法解析工具转换成句法依赖树,句子中第i个单词对于第j个单词的句法注意力可以表示为其中i
→
j表示在句法依赖树中单词i到单词j所经过的句法依赖关系路径。对于长度为n的商品评论,可以获取到规模为n*n的句法注意力矩阵,将词嵌入表示与句法注意力矩阵进行矩阵相乘,获取到新的词嵌入表示,即第二词嵌入表示。
34.在具体实施中,将获取到的第二词嵌入表示进行词性注意力计算。首先在当前的商品评论语料上对于每种词性训练出对应的词性向量,将第二词嵌入表示与词性向量进行注意力计算,可以有效的考虑到不同词性对于情感分析结果的影响。
35.s3:将所述句法注意力和所述词性注意力与所述词嵌入表示进行交互注意力的计算。
36.在具体实施中,通过已获取到的单词结合了句法关系和词性关系的句法注意力和词性注意力,将其与步骤s1中获取的评价对象词嵌入表示进行交互注意力的计算。可以计算出在当前评价对象下,情感极性更应该关注句子中的那些部分。
37.s4:将所述交互注意力输入至全连接层,进行softmax处理后获取所述评论在当前所述评价对象下的情感极性。
38.在具体实施中,将步骤s3获取到的结果输入到全连接层,进行softmax处理后获取完整商品评论在当前评价对象下的情感极性。
39.需要说明的是,在上述流程中或者附图的流程图中示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
40.本技术实施例提供了一种商品评论情感分析系统,适用于上述的一种商品评论情感分析方法。如以下所使用的,术语“单元”、“模块”等可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件、或者软件和硬件的组合的实现也是可能并被构想的。
41.图2为根据本发明的商品评论情感分析系统的框架图,请参见图2,包括:
42.词嵌入表示获取模块1:获取一商品的评论及所述评论的评价对象,将所述评论和所述评价对象输入至一预训练语言模型中获取所述评论每个词的词嵌入表示。
43.可选的,预训练语言模型可为roberta,将所述评论和所述评价对象输入至共享参数的roberta中获取所述词嵌入表示。
44.在具体实施中,将完整的商品评论和具体的评价对象同时输入到共享参数的roberta中获取每个单词的词嵌入表示,因为roberta是一个大规模的预训练语言模型,所以该模块中获取的词嵌入表示含有更加丰富的语义信息。
45.词句注意力计算模块2:根据所述词嵌入表示计算所述评论的句法注意力,并进一步根据所述词嵌入表示计算所述评论中的词性注意力。
46.可选的,通过通用的中文情感分析语料,训练出第k种句法依赖关系在通用的中文情感分析情境下的权重v
k
,将所述评论通过一句法解析工具转换成句法依赖树,计算得到所述评论中第i个单词对于第j个单词的所述句法注意力其中i
→
j表示在所述句法依赖树中所述第i个单词到所述第j个单词所经过的句法依赖关系路径。
47.可选的,根据所述评论获取句法注意力矩阵,并将所述词嵌入表示与所述句法注意力矩阵相乘,获取到第二词嵌入表示,并进一步训练出所述评论中每种词性对应的词性向量,根据所述第二词嵌入表示和所述词性向量计算得到所述词性注意力。
48.在具体实施中,将完整商品评论的词嵌入表示进行句法注意力计算。已知将句子通过句法依赖解析可以分解为一颗完整的句法依赖树,句法依赖树中节点间的连线表示了不同的句法依赖关系。不同的句法依赖关系对于情感分析的帮助权重不同。首先通过通用的中文情感分析语料,训练出第k种句法依赖关系在通用情感分析情境下的权重v
k
。将当前完整商品评论通过句法解析工具转换成句法依赖树,句子中第i个单词对于第j个单词的句法注意力可以表示为其中i
→
j表示在句法依赖树中单词i到单词j所经过的句法依赖关系路径。对于长度为n的商品评论,可以获取到规模为n*n的句法注意力矩阵,将词嵌入表示与句法注意力矩阵进行矩阵相乘,获取到新的词嵌入表示,即第二词嵌入表示。
49.在具体实施中,将获取到的第二词嵌入表示进行词性注意力计算。首先在当前的商品评论语料上对于每种词性训练出对应的词性向量,将第二词嵌入表示与词性向量进行注意力计算,可以有效的考虑到不同词性对于情感分析结果的影响。
50.交互注意力计算模块3:将所述句法注意力和所述词性注意力与所述词嵌入表示进行交互注意力的计算。
51.在具体实施中,通过已获取到的单词结合了句法关系和词性关系的句法注意力和词性注意力,将其与词嵌入表示获取模块1中获取的评价对象词嵌入表示进行交互注意力的计算。可以计算出在当前评价对象下,情感极性更应该关注句子中的那些部分。
52.情感极性获取模块4:将所述交互注意力输入至全连接层,进行softmax处理后获取所述评论在当前所述评价对象下的情感极性。
53.在具体实施中,将交互注意力计算模块3获取到的结果输入到全连接层,进行softmax处理后获取完整商品评论在当前评价对象下的情感极性。
54.另外,结合图1描述的一种商品评论情感分析方法可以由电子设备来实现。图3为本发明的电子设备的框架图。
55.电子设备可以包括处理器61以及存储有计算机程序指令的存储器62。
56.具体地,上述处理器61可以包括中央处理器(cpu),或者特定集成电路(application specific integrated circuit,简称为asic),或者可以被配置成实施本技术实施例的一个或多个集成电路。
57.其中,存储器62可以包括用于数据或指令的大容量存储器。举例来说而非限制,存储器62可包括硬盘驱动器(hard disk drive,简称为hdd)、软盘驱动器、固态驱动器(solid state drive,简称为ssd)、闪存、光盘、磁光盘、磁带或通用串行总线(universal serial bus,简称为usb)驱动器或者两个或更多个以上这些的组合。在合适的情况下,存储器62可包括可移除或不可移除(或固定)的介质。在合适的情况下,存储器62可在数据处理装置的内部或外部。在特定实施例中,存储器62是非易失性(non
‑
volatile)存储器。在特定实施例中,存储器62包括只读存储器(read
‑
only memory,简称为rom)和随机存取存储器(random access memory,简称为ram)。在合适的情况下,该rom可以是掩模编程的rom、可编程rom(programmable read
‑
only memory,简称为prom)、可擦除prom(erasable programmable read
‑
only memory,简称为eprom)、电可擦除prom(electrically erasable programmable read
‑
only memory,简称为eeprom)、电可改写rom(electrically alterable read
‑
only memory,简称为earom)或闪存(flash)或者两个或更多个以上这些的组合。在合适的情况下,该ram可以是静态随机存取存储器(static random
‑
access memory,简称为sram)或动态随机存取存储器(dynamic random access memory,简称为dram),其中,dram可以是快速页模式动态随机存取存储器(fast page mode dynamic random access memory,简称为fpmdram)、扩展数据输出动态随机存取存储器(extended date out dynamic random access memory,简称为edodram)、同步动态随机存取内存(synchronous dynamic random
‑
access memory,简称sdram)等。
58.存储器62可以用来存储或者缓存需要处理和/或通信使用的各种数据文件,以及处理器61所执行的可能的计算机程序指令。
59.处理器61通过读取并执行存储器62中存储的计算机程序指令,以实现上述实施例中的任意一种商品评论情感分析方法。
60.在其中一些实施例中,电子设备还可包括通信接口63和总线60。其中,如图3所示,处理器61、存储器62、通信接口63通过总线60连接并完成相互间的通信。
61.通信端口63可以实现与其他部件例如:外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。
62.总线60包括硬件、软件或两者,将电子设备的部件彼此耦接在一起。总线60包括但不限于以下至少之一:数据总线(data bus)、地址总线(address bus)、控制总线(control bus)、扩展总线(expansion bus)、局部总线(local bus)。举例来说而非限制,总线60可包括图形加速接口(accelerated graphics port,简称为agp)或其他图形总线、增强工业标准架构(extended industry standard architecture,简称为eisa)总线、前端总线(front side bus,简称为fsb)、超传输(hyper transport,简称为ht)互连、工业标准架构(industry standard architecture,简称为isa)总线、无线带宽(infiniband)互连、低引脚数(low pin count,简称为lpc)总线、存储器总线、微信道架构(micro channel architecture,简称为mca)总线、外围组件互连(peripheral component interconnect,简
称为pci)总线、pci
‑
express(pci
‑
x)总线、串行高级技术附件(serial advanced technology attachment,简称为sata)总线、视频电子标准协会局部(video electronics standards association local bus,简称为vlb)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下,总线60可包括一个或多个总线。尽管本技术实施例描述和示出了特定的总线,但本技术考虑任何合适的总线或互连。
63.该电子设备可以执行本技术实施例中的一种商品评论情感分析方法。
64.另外,结合上述实施例中的一种商品评论情感分析方法,本技术实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令;该计算机程序指令被处理器执行时实现上述实施例中的任意一种商品评论情感分析方法。
65.而前述的存储介质包括:u盘、移动硬盘、只读存储器(readonly memory,简称为rom)、随机存取存储器(random access memory,简称为ram)、磁碟或者光盘等各种可以存储程序代码的介质。
66.以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
67.以上所述实施例仅表达了本技术的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本技术构思的前提下,还可以做出若干变形和改进,这些都属于本技术的保护范围。因此,本技术专利的保护范围应以所附权利要求为准。
再多了解一些
本文用于企业家、创业者技术爱好者查询,结果仅供参考。