Enhancing Aspect-level Sentiment Analysis with Word Dependencies

### 使用依存句法提升方面级情感分析的方法 #### 方法概述 为了提高方面级情感分析的效果，多种方法引入了依存句法信息。一种有效的方式是在模型中融入记忆网络形式的记忆模块，这允许模型学习依存句法中的有用信息[^1]。 #### 利用语法知识建立关联 明确利用语法知识成为另一重要趋势。这类知识帮助建立了属性词与其他词汇间的联系，使模型能获取更精准的语法感知特征表示[^2]。 #### 基于依存树的操作 针对基于方面的情感分类问题，有研究指出传统的神经网络方法未能充分利用如依存树这样的信息源。而依存树具备缩短方面与意见词间距离的能力，它不仅捕捉到了词语间的句法关系，还提供了一条能够在句子内部传递信息的独特路径。因此，提出了一个结合双向长短期记忆（Bi-LSTM）和图形卷积网络（GCN）的新框架，此架构特别适用于处理较长句子内的复杂语义结构[^3]。 #### 解决远程依赖挑战 当面对方面词与其相应意见词之间存在较大间隔的问题时，研究人员开发出了选择性注意机制下的GCN模型（SA-GCN），该方案通过自我关注机制挑选出最相关的几个关键词，并再次运用GCN整合这些选定词汇的信息，以此克服远距离影响带来的难题[^4]。 ```python import torch.nn as nn class AspectSentimentAnalysisModel(nn.Module): def __init__(self, vocab_size, embedding_dim, hidden_dim, num_classes): super().__init__() self.embedding = nn.Embedding(vocab_size, embedding_dim) self.bi_lstm = nn.LSTM(embedding_dim, hidden_dim, bidirectional=True, batch_first=True) self.gcn_layer = GCNLayer(hidden_dim * 2, hidden_dim) # Assuming bi-directional LSTM doubles the output size def forward(self, sentence_ids, dependency_tree_adj_matrix): embeddings = self.embedding(sentence_ids) lstm_out, _ = self.bi_lstm(embeddings) gcn_output = self.gcn_layer(lstm_out, dependency_tree_adj_matrix) return gcn_output.mean(dim=1) class GCNLayer(nn.Module): """Simple implementation of a single layer Graph Convolution Network""" def __init__(self, input_features, output_features): super().__init__() self.linear = nn.Linear(input_features, output_features) def forward(self, X, A_hat): # X is node features matrix; A_hat adjacency matrix with added identity. propagation = torch.matmul(A_hat, X) out = self.linear(propagation) return torch.relu(out) ```