设为首页收藏本站

LUPA开源社区

 找回密码
 注册
文章 帖子 博客
LUPA开源社区 首页 IT综合资讯 查看内容

喷子的末日,Google新软件专门清理攻击性语言

2016-9-22 21:59| 发布者: joejoe0332| 查看: 827| 评论: 0|原作者: ifanr|来自: ifanr

摘要: 在网络世界,人和人之间互不相识,隔着屏幕对自己所说的话没有一丝顾忌,“网络喷子”、“键盘侠”这些人就是这么出现的。用恶毒的语言激怒对方,挑起争端,加上网络匿名给这些 “语言暴力者” 穿上了隐身衣,喷子更 ...

在网络世界,人和人之间互不相识,隔着屏幕对自己所说的话没有一丝顾忌,“网络喷子”、“键盘侠”这些人就是这么出现的。用恶毒的语言激怒对方,挑起争端,加上网络匿名给这些 “语言暴力者” 穿上了隐身衣,喷子更加无所顾忌。

因网络语言暴力导致的事件太多了,2014 年《我的世界》制作者 Notch 因玩家喷子的负面评论、无理由的投诉身心俱疲,将 Mojang 卖给了微软;同样也是 2014 年,路透社网站评论区彻底成为了喷子攻击的阵地,因此关闭了新闻评论功能;以及众多因为网络语言暴力抑郁,进而了结自己生命的人……

markus_persson_16881_87085

图片来源:hitc

因此,Google 的子公司 Jigsaw 宣布推出了一款人工智能软件 Conversation AI,用机器学习技术来自动识别标记网络上的侮辱和骚扰性文字。

Jigsaw 本是 Google 智库一员,在今年 2 月被独立出来,以专注于用技术手段解决一系列地缘政治问题。而 Conversation AI 原本是用来对付 ISIS ,它对 YouTube 视频、网络搜索词进行分析识别,找到 ISIS 相关的关键词,收集其暴力行动的各种证据,还会向搜索关键词的用户显示反 ISIS 广告。

Jigsaw 团队工程师称,Conversation AI 的识别准确率比关键词过滤技术和专人识别都要高得多。软件会自动识别和标记有问题的评论,并对网络评论的 “攻击性” 进行从 0 到 100 的打分。0 分表明该评论并不具备攻击性,而 100 分表明它是极富攻击性。

slide7

图片来源:typingvidya

Conversation AI 将会开放源代码,这样任何网站都可以利用该人工智能软件来保护用户远离网络语言暴力。目前该技术除了自动识别标记,还可以自动删除攻击性语言。Google 表示 Conversation AI 对攻击性语言的识别准确性极高,可以达到 92%,但伴有 10% 的误判率,同时还表示将会逐步改善问题。

该软件会先在纽约时报网站评论进行测试,而维基百科也对此表示出了兴趣。

稿源:ifanr,题图来源:psychologytoday


酷毙

雷人
1

鲜花

鸡蛋

漂亮

刚表态过的朋友 (1 人)

  • 快毕业了,没工作经验,
    找份工作好难啊?
    赶紧去人才芯片公司磨练吧!!

最新评论

关于LUPA|人才芯片工程|人才招聘|LUPA认证|LUPA教育|LUPA开源社区 ( 浙B2-20090187 浙公网安备 33010602006705号   

返回顶部