喷子注意了,Google要用机器学习检测恶意评论【亚博登录网址】

亚博登录入口

亚博登录网址|消息,Google旗下的Jigsaw开发了一款AI工具Perspective,它使用机器学习检测网络上的骚扰和辱骂内容,可以帮助新闻机构和内容平台识别恶意评论。Perspective软件可以确定网上评论的“毒性”,有毒程度则是通过挖掘数百万条评论,然后由10位评委进行打分而得到的。它会基于评论与被贴上“有毒”标签的评论的相似度,或评论迫使别人不再对话的可能性,进行打分。Perspective的API现在在官网可以试用,感兴趣的朋友可以测试一下。

据称,纽约时报、卫报、经济学人和维基百科,正在测试这一新技术,Google和Jigsaw也希望其它新闻机构也能使用。它还可以减少人工审核。

根据测试结果,川普的名言“Grabherbythepussy”毒性达到了92%(由于这句话涉亚博登录平台及对女性的严重歧视,就不翻译了)。虽然评论可以提升用户参与度,但总拦不住有的人会因为匿名性而发表不当言论,这样看来Perspective还是很有用的。只是由于人类语言的复杂性,它的评价不一定准确。上图是测试的一段中性文字,但结果是46%。

或许是不太支持中文吧。Jigsaw表示,技术将会向所有平台公开,未来还会继续增强,用来识别个人攻击评论和偏离主题的评论。Jigsaw成立于2010年,还开发过能找到潜在ISIS恐怖分子的软件。

曾报道,它的前身是网络和政策智囊团GoogleIdeas,后变成了科技孵化器Jigsaw。它主要专注于使用技术“解决棘手的地缘政治挑战,包括打击暴力极端主义,遏制网络审查,从而减轻与数字攻击相关的威胁”。Jigsaw将投资这样的技术,它能帮助最需要的人群获取信息,并抵御最有挑战的安全威胁。

版权文章,未经授权禁止转载。详情见转载须知。

-亚博登录网址。

本文来源:亚博登录平台-www.ez-xspy.com