Anderson 视角

解析Twitch表情符号的情感分析

mm
将 Unite.AI 添加到您在 Google 上的首选来源

公众越来越多地使用表情符号、表情包、GIF和其他非语言方式在社交媒体平台上进行交流,这使得数据科学家们越来越难以理解全球社会格局,至少在某种程度上,可以通过公共话语来判断全球社会趋势。

虽然自然语言处理(NLP)在过去十年中已经成为情感分析的一个强大工具,但该领域不仅难以跟上多种语言中不断演变的俚语和语言捷径,而且还难以解码社交媒体平台如Facebook和Twitter上基于图像的帖子。

由于只有少数几家超大规模的社交媒体平台是这种研究的唯一资源,因此对于AI领域来说,至少要尝试跟上这些平台的步伐。

七月,一篇来自台湾的论文提出了一种新方法,根据社交媒体线程中的“反应GIF”对用户情绪进行分类(见下图),使用了30,000条推文来开发一种预测对帖子的反应的方法。该论文发现,基于图像的响应在很多方面更容易衡量,因为它们不太可能包含讽刺,这是情感分析中的一个显著挑战。

台湾研究人员研究了动态反应GIF作为情感的“还原指标”的使用,在2021年的一篇论文中。

今年早些时候,波士顿大学领导的一项研究训练了机器学习模型,以预测可能在Twitter上流行的图像表情包;八月,英国研究人员研究了表情符号在社交媒体上与表情包的比较(两者之间存在差异),并编制了一个大规模的7种语言的Twitter情感数据集。

Twitch表情符号

现在,美国研究人员开发了一种机器学习方法,以更好地理解、分类和衡量Twitch网络上不断演变的伪词汇“表情符号”。

表情符号是Twitch上用来表达情绪、情感或内部笑话的新词。由于它们本质上是新的表达方式,机器学习系统的挑战不在于不断地编目新的表情符号(它们可能只被使用一次,或者迅速过时),而在于更好地理解生成它们的框架,并开发出能够从上下文中识别表情符号为“暂时有效”的词语或短语的系统,其情感/政治温度可能需要完全从上下文中推断出来。

FeelsGoodMan表情符号的邻居,其含义可以通过晦涩的后缀改变。来源:https://arxiv.org/pdf/2108.08411.pdf

FeelsGoodMan表情符号的邻居,其含义可以通过晦涩的后缀改变。来源:https://arxiv.org/pdf/2108.08411.pdf

该论文的标题是《FeelsGoodMan:推断Twitch新词的语义》,由三位在旧金山的社交媒体分析公司Spiketrap的研究人员撰写。

诱饵和转换

尽管Twitch表情符号新颖,且寿命往往很短,但它们经常以一种方式重用文化材料(包括旧表情符号),这可能会将情感分析框架引向错误的方向。追踪表情符号含义的转变,甚至可以揭示其原始情感或意图的完全逆转或否定。

例如,研究人员指出,原来的极右翼滥用《FeelsGoodMan》表情符号的佩佩蛙表情符号,在Twitch上的使用背景下,几乎完全失去了其原始的政治色彩。

使用该短语和来自2005年漫画艺术家Matt Furie的卡通青蛙图像,成为2010年代的极右翼表情符号。虽然Vox 写道,2017年,右翼对该表情符号的挪用在Furie明确与此类用法脱钩后仍然幸存,但三位旧金山研究人员发现事实并非如此:

‘Furie的卡通青蛙被4chan等在线论坛的右翼发帖者采用,自此之后,Furie一直试图重新定义自己的角色含义,而该表情符号在Twitch上也出现了更多主流的非恨语和正面使用。我们的结果表明,“FeelsGoodMan”和其对应的“FeelsBadMan”主要被字面意思使用。’

下游麻烦

这种“诱饵和转换”可能会阻碍已经将某个表情符号归类为“恨语”、“右翼”或“民族主义[美国]”的NLP研究项目,并将这些信息转储到长期的开源存储库中。后续的NLP项目可能不会选择审计旧数据的货币;可能没有实际的机制来做到这一点;甚至可能不知道需要这样做。

其结果是,使用2017年Twitch数据集来制定“政治分类”算法将根据“FeelsGoodMan”表情符号的频率归因于Twitch上的显著的极右翼活动。Twitch可能或可能没有充满极右翼影响者,但根据研究人员的说法,你不能通过青蛙来证明这一点。

“Pepe”表情符号的政治意义似乎已经被Twitch的1.4亿用户(其中41%的用户年龄在24岁以下)随意抛弃,他们有效地从最初的窃贼那里重新窃取了这幅作品,并用自己的颜色描绘它,没有任何特定的议程。

方法和数据

研究人员发现,标记的Twitch表情符号数据“几乎不存在”,尽管早期研究得出结论,有800万个表情符号总数,其中400,000个表情符号出现在早期研究人员选择的一周内的Twitch输出中。

2017年的一项研究仅限于预测前30个Twitch表情符号,表情符号预测得分仅为0.39。

为了解决这一不足,旧金山的研究人员采用了一种新的方法来处理旧数据,将其分为80/20用于训练和测试,并应用“传统”的机器学习方法,这些方法以前尚未用于研究Twitch数据。这些方法包括朴素贝叶斯(NB)、随机森林(RF)、支持向量机(SVM,带线性核)和逻辑回归

这种方法比以前的Twitch情感分析基准提高了63.8%,并使研究人员能够随后开发LOOVE(学习词汇外情感)框架,该框架能够识别新词和“丰富”现有模型的新定义。

研究人员开发的LOOVE(学习词汇外情感)框架的架构。

研究人员开发的LOOVE(学习词汇外情感)框架的架构。

LOOVE促进了词嵌入的无监督训练,并且还适应周期性的重新训练和微调,从而消除了对标记数据集的需求,这在任务规模和表情符号快速演变的情况下将是后勤上不切实际的。

为了服务于该项目,研究人员在未标记的Twitch数据集上训练了一个表情符号“伪词典”,在此过程中生成了444,714个词语、表情符号、表情包和表情符号的嵌入。

此外,他们用一个表情符号/表情包词典增强了一个VADER词典,并且除了上述EC数据集外,还利用了三个其他公开可用的数据集用于三元情感分类,来自Twitter、烂番茄和一个抽样的YELP数据集。

鉴于该研究中使用的方法和数据的多样性,结果是多样的,但研究人员声称,他们的最佳基准比之前的最近指标提高了7.36个百分点。

研究人员认为,该项目的持续价值在于LOOVE的开发,LOOVE基于在313百万条Twitch聊天消息上训练的词向量嵌入,使用了K-最近邻(KNN)算法。

作者得出结论:

‘该框架背后的一个驱动特性是一个表情符号伪词典,可以用来推导未知表情符号的情感。使用此表情符号伪词典,我们为22,507个表情符号创建了一个情感表。这是第一次在这种规模上对表情符号进行理解。’

* 我将内联引用转换为超链接。

机器学习作家,人类图像合成领域专家。曾任Metaphysic.ai研究内容负责人,直至其解散并并入DNEG的Brahma.ai。
Portfolio site:martinanderson.ai
Contact:martin@martinanderson.ai