科学新闻：适用于#MeToo的AI：用于发现在线巨魔的训练算法

如今，家长非常关注科学教育，国内外的科学教育都成为了很多家长关注的问题。既然现在大家都很关注科学教育，边肖今天就给大家推荐一些与科学教育相关的文章分享一下。如果你感兴趣，你可以仔细阅读以下内容。加州理工学院的研究人员已经证明，机器学习算法可以监控在线社交媒体对话的发展，这可能有一天会导致发现在线巨魔的有效和自动化的方法。

这个项目结合了人工智能(AI)研究员Anima Anandkumar和政治学教授Michael Alvarez的实验室。他们的工作在12月14日于加拿大温哥华举行的2019年神经信息处理系统会议的人工智能促进社会福利研讨会上进行了介绍。他们的研究团队包括博士后学者刘安琪。加州理工学院大三学生Maya Srikanth斯坦福大学的尼古拉斯亚当斯-科恩(16年硕士，19年博士)。

阿尔瓦雷斯说：“这是我最喜欢的加州理工学院之一：跨越边界，发展社会科学和计算机科学之间的协同能力。”

为了防止网络骚扰，有必要快速检测令人反感、骚扰和负面的社交媒体帖子，然后监控在线互动。目前获取此类社交媒体数据的方法完全是自动化的，无法解释，或者依赖于一组静态关键字，这些关键字很快就会过时。斯里坎特说，这两种方法都不太有效。

她说：“人类试图用手完成这项工作是不可延伸的，这些人类可能会有偏见。”“另一方面，关键词搜索被在线对话的发展速度所困扰。新的术语出现了，旧的术语改变了它们的意思。因此，真诚地使用关键词一天可能第二天就会被讽刺。

相反，该团队使用GloVe(全局单词表示向量)模型来发现新的相关关键词。GloVe是一种词嵌入模型，这意味着它在向量空间中表示词，两个词之间的距离是它们的语言或语义相似性的度量。该模型可以从一个关键词出发，找到与该词密切相关的其他关键词，从而揭示实际使用的相关术语的聚类。例如，在推特搜索对话中使用“MeToo”产生了一系列相关的标签，如“SupportSurvivors”、“ImWithHer”和“NotSilent”。这种方法为研究者提供了一个动态的、不断发展的关键词集进行搜索。

但是仅仅知道一次谈话是否与感兴趣的话题有关是不够的。语境很重要。因此，GloVe显示一些关键词的关联程度，并提供关于它们的使用的输入。例如，在一个专门讨论厌女症的网上Reddit论坛上，“女性”一词与“性”、“消极”和“性交”密切相关。在关于#MeToo的推特帖子中，“女性”更可能与“陪伴”、“欲望”和“受害者”相关。

这个项目是一个概念的证明，旨在有一天为社交媒体平台发现在线骚扰提供一个更强大的工具。阿南德库马尔参与了将“神经信息处理系统”会议的缩写从其首字母缩写“NIPS”改为“NeurIPS”的活动，从而增强了他对这一话题的兴趣。

“人工智能的研究领域越来越包容，但总有人抗拒改变。”阿南德库马尔说。2018年，他发现自己成了网络骚扰和威胁的目标，因为她成功地尝试了使用首字母缩略词，这些词没有潜在的冒犯意义。“关于如何得到丑陋的巨魔，这真是令人大开眼界。我希望我们现在正在开发的工具能够帮助我们应对未来的各种骚扰。”

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！