网络科技

    今日:1| 主题:344949
收藏本版
互联网、科技极客的综合动态。

[业界] Instagram正在使用AI来检测照片和文字中的欺凌行为

[复制链接]
sz_evan 发表于 2018-10-9 23:12:59
24 0
去年,Instagram推出了一个增强的评论过滤器,该过滤器使用机器学习在具有挑战性的环境中发现令人反感的单词和短语。现在,该公司正在扩大这项功能覆盖范围。今天,它宣布它将使用AI“主动检测欺凌”,然后再将内容发送给人类审查者进行复查。新功能将在未来几周内推广给用户,并将在10月份的美国国家欺凌预防月和英国反欺凌周之前推出。同样的技术也被添加到实时视频中以过滤那里的评论。

这是新Instagram首席执行官亚当·莫塞里(Adam Mosseri)在上个月联合创始人凯文·西斯特罗姆(Kevin Systrom)和迈克·克里格(Mike Krieger)仓促离职后接手的第一个产品公告。据报道,这一分歧是由于Instagram公司和母公司Facebook之间的紧张关系引发的,该公司经常插手Instagram的产品。
随着公众对Facebook的信任继续下降,Instagram仍然是该公司产品阵容的亮点。它受欢迎,有利可图,而且还有可能被Facebook丑闻所玷污。在这种情况下,使用人工智能来帮助清除令人反感的内容并让Instagram成为一个拥有良好氛围的家园是非常重要的。
去年在Wired发表的一篇报道解释了Instagram的机器学习评论过滤器的一些细节,但已经确定这种技术不适合内容审核。大规模部署人工智能是便宜的,是的,但它仍然无法处理内容背景和细微差别。这就是为什么这些新的欺凌过滤器还向人类审核者发送内容以执行最终检查,没有监督的自动化是一种灾难。
bb2f8b299619c2118a11757b85c02bbe.png

c3822600378fbaaf7b0d964a940f18f1.png

稿源:cnBeta.COM




上一篇:普通手机号突然被靓号 还有了最低消费且用到2099年!
下一篇:这个在线社区扩大了女性无人机飞行员的知名度
我要投稿

推荐阅读


回页顶
手机版/酷辣虫 ( 粤ICP备05003221号 | 粤公网安备 44010402000842号 )

© 2001-2018 Comsenz Inc.

返回顶部 返回列表