键盘侠太猖狂 谷歌用AI给网络“攻击力”打分

   

   电影《搜索》描述了这样一个画面:高圆圆饰演的女主因为在公交车上没有给老人让座,有人将这段视频传到网络,引发了广大网友对她进行人肉搜索。一时间,铺天盖地的辱骂、嘲讽、诅咒充斥着她的生活,最后女主选择用跳楼来结束自己的生命。如今,这已经不再只是电影中才出现的画面。随着互联网渗入我们生活的方方面面,网络暴力、道德绑架,越来越多的键盘侠们用不负责任的言语在网上肆意攻击他人。


201609211022086036.jpg


    据国外媒体报道,美国网民在最早接触网络的同时,也最先受到网络造谣诽谤之害。根据美国独立民调机构皮尤研究中心2014年的一份调查,每10个网民中就有4人遭遇过某种形式的网络骚扰,近五分之一互联网用户遭遇过严重的网络暴力,包括人身威胁、持续性的跟踪骚扰。


    网络安全已经成为我们不得不重视的一个问题。面对互联网海量的言论和信息,人工检测网络暴力信息的确费时费力,这时候,人工智能就派上用场了。


    Facebook和Google等公司都开始尝试结合人工智能等技术来过滤网络不良言论。就连一向以言论自由著称的Twitter也开始允许用户设置一些关键词来屏蔽骚扰信息:


    Facebook机器学习小组使用机器学习技术监测所有上载到Facebook的图片的内容,包括广告的内容,用来过滤其中色情、暴力等内容。


    Google的SafeSearch(安全检索)功能使用了机器学习来识别色情图片,可给未成年人提供健康正常的网络浏览与检索。


    Twitter收购了两家视觉媒体内容监测创业公司Madbits和Whetlab,运用它们的人工神经网络技术实现色情内容监控。


    近日,谷歌又推出了一款人工智能技术支撑的全新工具,名为“ConversationAI”。这个新软件能够帮助用户不受网络有害言论的威胁。


    ConversationAI通过机器学习技术,自动捕捉网络上的污言秽语,并给它的攻击力评分——100分是最有害的,0分是无害的。这个工具将会首先在《纽约时报》的注释版块进行测试,维基百科也计划将会使用这款应用。不过据《有线》杂志称,该公司并没有透露测试的具体细节。


    由于该技术最终将成为开源的,所以在不久的将来,全球的网站和各类社交媒体平台,都可以用它帮助用户逃过暴力言论的伤害。《有线》表示,ConversationAI可以“自动识别出侮辱、骚扰的言论,甚至还能帮你删除它。”


    虽然ConversationAI在测试中被发现存在一些缺陷,但是谷歌透露,它的准确度已达92%,并且随着时间的推移,功能将会不断完善。



2016-09-22微信应用号开始内测 手机APP卸载量可能会上升
微信应用号开始内测 手机APP卸载量可能会上升
2016-08-31谷歌明年起惩罚插播式广告网站 降低其搜索排名
北京时间8月24日晚间消息,从明年起,谷歌将惩罚那些利用插播式广告(interstitial)创收或诱导用户下载App的移动端网站。
2016-06-14【功能升级】4月第一周:英文版功能-可以做英文站了
升级序言:从2014年起,为了用户使用更方便技术部就在不断的升级,陆续实现pc+手机+微信三合一网站功能,全站HTML静态化(轻松实现 www.abc.com/abc/123.html 格式),智能免备案功能,SEO优化设置功能(全站SEO个性设置,哪怕只是一篇文章),在未来的日子我们研发部将继续保
2016-10-09支付宝提现攻略全知道:免费额度有限 合理利用攻略
支付宝发布公告称将于10月12日起正式对个人用户超出免费额度(2万元)的提现收取0.1%的服务费,届时当用户进行“提现到本人银行卡”和“转账到他人银行卡”两项操作时可能会被收取一定的费用。
2016-09-30微信公众号刷阅读量到底打了谁的脸
 这两天,“微信公众号刷阅读量工具失效”的消息让本来就热闹的朋友圈更加沸腾。由于微信系统升级,导致原先的一些刷量机器人无法正常工作,那些平时动辄10万+的公众号彻底裸泳,几千甚至几百的真实阅读量暴露在读者面前。

0755-27337990

深圳市宝安区前进路269号诺铂广场

0755-27337990 在线留言 QQ咨询