狗万官方APP >实事 >假新闻:斯坦福大学学生的目标是利用神经网络识别虚假网站 >

假新闻:斯坦福大学学生的目标是利用神经网络识别虚假网站

2019-09-01 10:01:19 来源:工人日报

  

假新闻:斯坦福大学学生的目标是利用神经网络识别虚假网站

Graphic_on_Fake_News_by_VOA
假新闻 图片:美国之音新闻/维基媒体共享

在2016年大选之后,由于假新闻的影响问题而受到损害,网络上最大的存在任务是找出阻止虚假信息传播的方法。 虽然这些公司正在研究他们自己的解决方案,但斯坦福大学的学生Karan Singhal认为他有更好的答案。

这位19岁的计算机科学专业人士正在利用假新闻探测器AI -a网站和旨在嗅出假新闻网站的谷歌Chrome扩展程序尽可能多地利用假新闻检测过程中的人为因素。

为了完成这项任务,Singhal正在使用神经网络 - 一种人工大脑,它可以一次处理多个因素,权衡每个元素并对特定网站的有效性做出判断。

假冒新闻探测器AI在一个有问题的网站的引擎盖下进行检查并检查其部分,而不是用事实检查个人索赔或尝试在偏见和彻头彻尾的谎言之间进行分类的任务,而这些部分可能比屏幕上的文字更具启发性。

Singhal告诉IBTimes他的算法方法对网站布局,流行度,写作风格,告知关键词如“自由主义”和“保守主义”以及给定网站的其他方面进行排序。 它将其分析检查到已知的假冒和真实新闻网站列表,如果网站分享假的标志,则标记为假。

结果令人惊讶地准确。 Singhal表示,根据BS Detector黑名单进行测试时,它的预测值达到了99.7%,这是由设计技术专家和数字活动家Daniel Sieradski制作的另一个受欢迎的假新闻标识符,这个标识恰巧被Facebook短暂禁止。

“更重要的是,它也适用于不在黑名单上的网站,”Singhal说,这意味着神经网络能够根据已知假货的预测模型识别其他假新闻网站。

假新闻检测器采取了与Facebook不同的方法,Facebook承诺实施一些机器学习系统来发现虚假内容,但也选择利用人力资源进行事实检查。

上周,社交网络推出了推出新闻订阅订阅的计划,该计划是公司更大的新闻项目计划的一部分,旨在与新闻机构和记者建立更紧密的联系。 该服务承诺公共服务公告,以帮助提高读者识字率和打击假新闻的传播。

在此之前,Facebook签署了Poynter的国际事实检查原则代码的签署者 - 包括ABC新闻,FactCheck.org,Snopes,Politifact,美联社和美国华盛顿邮报的名单 - 事实上检查个人故事和帮助服务标志可能是假的。 这一举动受到保守派的嘲笑,因为他们认为有问题的人太过自由。

Facebook已经努力让人们走出分享热门新闻报道的过程,因为有报道声称该公司聘请的编辑在为其热门新闻特征策划故事时表现出政治偏见。

当时,Facebook在其流程中否认了任何党派关系,尽管它为员工引入了政治偏见培训,并向那些觉得社交网络正在审查其首选新闻来源的共和党人伸出援助之手。

在改革其趋势策划过程并将缰绳交给人工智能后,该公司后来被一名前员工嘲笑--Facebook的算法开始出现假新闻故事,并做出了一些关于什么才是真正有新闻价值的奇怪决定。

根据皮尤研究中心2016年的一项研究,越来越多的人继续从他们的社交媒体提供新闻 - 62% - 并且正在接触那些在这些平台上激增的虚假内容。 更糟糕的是,他们相信它; 益普索公共事务调查发现,75%的美国成年人认为他们认为准确的假新闻标题。

一种更像Singhal的方法可以避免偏见,这对于建立公众对事实检查的信任非常重要。 “内部人为事实检查无法解决Facebook的假新闻问题,”Singhal说。

他指出“人类事实检查当然应该比算法更好,但假新闻网站一直在涌现,检查Facebook上分享的每个网站都是不可避免的耗时且成本高昂。”他的神经网络驱动审查可能会捕获虚假网站作为弹出窗口完全基于前面的假货共享的元素。

系统本身当然不是万无一失的,当错误确实发生时,它为其创建者提出了一个特别有趣的难题:手动调整算法,在过程中将更多的人类拇指放在尺度上,或绕过预测和放置黑名单的网站,有可能损害源材料的中立性。

辛哈尔承认,在其中一个案例中,“目前尚不清楚下一步该做什么”。 “对于像这样的模型构建模型的计算机科学家来说,这个问题是日常关注的问题,并且没有明确的解决方 我们可以做的最好的事情就是通过定期添加更多已知站点来迭代地改进模型,“他解释说。

随着神经网络学习更多并且其预测变得更加准确,Singhal认为它可以超越网站级别并且更具体。 “该算法可以学习查看不同因素,例如某些记者的可靠性,以完成文章级别的检查,”Singhal说。

在像Breitbart这样的网站上进行深入挖掘可能会特别有用,该网站经常跨越Singhal算法中的虚假和真实线条。 如果一位特定作者以提供可靠和准确的报告而闻名,即使整个网站的名声不好,他们也可能会获得批准。

假新闻检测器AI还没有完全检查单个文章的任务,并且算法没有校准这样做。 对于辛哈尔来说,最重要的是要做到正确 - 这是其他任何一种替代品尚未成功的事情。

然而,将人们带出事实检查业务的前景仍然不太可能。 辛格尔说他的算法不能事实检查,并说这个概念在理论上是一个“可疑的命题。”因此对于那些希望发送Snopes和公司包装以支持机器的人来说,似乎这个想法仍然是科幻的东西。 。

Singhal的假新闻检测器AI可以在网上找到,用户可以将任何新闻网站放入搜索栏,看看它是多么值得信赖。 还可以下载谷歌Chrome浏览器扩展程序,它会在Chrome浏览器栏上放置一个按钮,告诉用户网站是真实的还是假的。


载入中...

(责任编辑:刁悯)
  • 热图推荐
  • 今日热点