当前位置:首页 > 智能硬件 > 人工智能AI
[导读] “当真相在穿鞋的时候,谎言已经跑遍全城。”现代社会,虚假新闻、图片、视频,甚至商品等借助网络渠道迅速传播。近日公布的《中老年人上网状况及风险网络调查报告》显示,近六成中老年曾遭受过网络谣言的危害

“当真相在穿鞋的时候,谎言已经跑遍全城。”现代社会,虚假新闻、图片、视频,甚至商品等借助网络渠道迅速传播。近日公布的《中老年人上网状况及风险网络调查报告》显示,近六成中老年曾遭受过网络谣言的危害。

人们常说“流言止于智者”,要想不被网上的流言和谣言盅惑、伤害,首先需要对其进行科学甄别,而时下人工智能正在尝试担任这一角色。那么,在打假一线AI技术如何做到去伪存真?这样的“本领”可应用在哪些领域?

海量资讯发布,传统识谣模式受限

“虚假信息的产生主要有两类动机:一类是利益驱动,2018年发表于《科学》的研究发现,要达到相同的传播深度,虚假信息的速度是正常信息的20倍;另一类是政治驱动,在现有互联网经济中,高效传播代表着高额经济价值,人工智能技术会被不法分子用来左右公众对于政治的认知和判断,从而控制舆论,威胁政治安全。研究显示,2016年美国总统大选期间,受访选民平均每人每天接触到4篇虚假新闻。虚假新闻被认为影响了2016年美国大选和英国脱欧的投票结果。”中科院计算所副研究员、博士生导师曹娟在日前北京举办的Women Who Code讲座上介绍。

为了减少虚假信息,有必要对网络新闻进行认证。但大型资讯聚合类平台每天的新闻发布量一般在50万条以上,显然完全依靠人工认证是不现实的,面向公众,亟待建立高效的AI识谣平台。

杜克大学新闻研究中心的调查显示:截至2018年2月,全球共有149个正在活跃运营的事实核查类新闻创业项目,其中北美和欧洲74个、亚洲7个。而在一些国外社交平台上,已有自动化可信度评估插件来显示信息的可信度。

据了解,目前国内已有的主要识谣、辟谣平台基本还是依靠专家识别模式,其存在一定的问题:发现线索主要依赖用户举报,数量有限,时效性不强,往往是事件已造成负面影响才“后知后觉”;此外,新闻认证速度有待提高。Facebook统计,依靠专家辟谣的认证模式平均滞后3天,错失辟谣最佳时期;覆盖类别受限,专家只能在自身擅长的领域辟谣,领域专家库的多样性决定了人工辟谣平台的能力上限。

为提高识谣效率,目前中科院计算机研究所、阿里、腾讯等多家企业和机构已经开展了人工智能识谣工作。曹娟带领团队从2013年开始致力于开展基于人工智能技术的虚假信息检测研究,她介绍,AI识谣公众平台可自动及时发现可疑线索并进行认证,大大降低谣言可能带来的危害;通过机器学习算法辅助人工审核,仅需1分钟即能对疑似谣言事件发出预警;基于数据驱动的方法,平台还可不断挖掘出不同类别谣言的特性,实现对各种谣言地自动识别。

不过,需要指出的是,“虚假信息识别是一个高度复杂的问题,一方面是虚假的定义并不明确,需要不确定性建模;另一方面是标注很困难,需要小样本学习方法。目前,机器学习算法的准确率尚不足以完全取代人类,但已能够辅助人类更快更好地审核新闻。”曹娟表示。正如扎克伯格所说,“想要完全依靠AI审核内容,可能尚需5—10年时间”。

多模态、多层次、多角度揪出假新闻

“虚假新闻往往从选题、文字表述,到配图都呈现出较强煽动性:一般选题集中于社会热点或争议点;文字描述中情感激烈;配图具有视觉冲击力等。”曹娟剖析道。

曹娟介绍,目前,中科院计算所开发的辟谣平台已积累数万条假新闻信息,累计认证数十万次。通过平台积累的数据,目前可从新闻质量的角度把杜撰的新闻文本大致分为三类:一完全杜撰,往往是在真实存在的实体上编造情节;二半真半假,可能描述的前半段是真,后半段就展开不可靠的想像,或者一部分是真,但在关键情节上添油加醋;三旧闻新传、移花接木,事件本身可能存在,但发布者故意模糊化甚至篡改原事件中的时间、地点,让人误以为事情刚刚发生在当地被。

除去文字造假,图片视频造假也越来越多。“我们将虚假新闻配图分为复用的过时图片、能引起歧义的误导性图片及篡改图片。假新闻通常呈现出新闻要素缺失、图像质量低、内容包含色情敏感广告等低俗信息,以及图文不匹配等特点。例如,有些假新闻中的配图会出现满屏弥漫冲天大火、公路凹陷深坑、被弃男童在垃圾废墟前嚎啕等画面。”曹娟描述道,“谣言更易形成病毒式扩散的趋势,而真实新闻的扩散速度和爆发度要温和许多。”

“从核心技术上,AI甄别谣言依赖于‘三多’。”曹娟说,一是多模态数据,谣言从发布、传播到被辟谣的生命周期中,可能会伴随产生文字、图片、视频、传播网络、参与用户属性等多种模态的数据,各模态数据均能不同程度指示谣言,例如谣言文字的情感倾向、图片的视觉冲击力、传播网络的结构属性等,但没有哪种模态的数据拥有独立完全的谣言指示能力,所以要尽可能获取不同模态的数据。

二是多层次表示,深度学习技术有强大的表示学习能力,经过神经网络结构和融合机制的设计,AI模型可以在面对众多意义、形式、结构都不同的模态数据时,综合不同层次数据,自动找出最有区分能力的表示组合,并将待甄别文章对应的文字、图片、传播网络等融合投射到特征空间中。

三是多角度判断,AI可以从单一方面(如内容、用户、传播)给出可信度,也可以全面观察,给出综合所有信息的可信度,及时帮助人们“揪出”可信度不高的信息。

结合专家经验辨别虚假商品

曹娟介绍,目前除了鉴别虚假新闻、虚假图片,AI虚假检测技术还可以应用在对虚假商品的检测上,如基于视觉信息技术鉴定一些高档商品的真伪。

2017年,美国纽约大学成功研发出一套假货鉴定系统Entrupy,用户利用配有微型相机的手持设备对鉴定物品进行拍摄,这个系统利用机器学习算法,分析图像,最终确定产品的真实性。其联合创始人介绍,除了表面是屈光的钻石和瓷器不能检测外,这项技术使用光学分析可测试汽车零部件、手机、充电器、耳机、夹克和鞋子,甚至原油。

近日,中国科学院计算技术研究所与国内某奢侈品电商宣布共建联合实验室,探索智能鉴定和智能内容分发、在线鉴定商品业务等内容。那么,AI如何对商品,如包、鞋辨别真假;在识别假货方面,AI可替代专家吗?

“与人识别假货相比,在强度、效率等方面,AI有着突出表现。例如,一般识别假LV包的专家,工作一天只能鉴定五六个包,而AI筛查一个包仅需几分钟。实际操作中,AI先在大量筛选中发现异常情况,报警示错,再由专家来做进一步甄别。即以AI技术打假为主、以人工审核为辅,AI还不能替代专家。”曹娟说。

曹娟表示,虚假商品检测可形式化为异常检测问题。正品样本往往量很大,但仿品样本量很小,甚至为零。这时候,只能对大量正品进行建模表示,然后对待检测样本,要看它与正品相比是否存在异常。但单纯的数据学习是困难的,鉴别中还要结合鉴定专家的经验知识,以引导模型学到快速定位异常区域的能力;同时,模型通过数据驱动发现的视觉规律,也会反馈给专家。因此,这是一个专家和模型相互学习、迭代提高的过程。

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

9月2日消息,不造车的华为或将催生出更大的独角兽公司,随着阿维塔和赛力斯的入局,华为引望愈发显得引人瞩目。

关键字: 阿维塔 塞力斯 华为

加利福尼亚州圣克拉拉县2024年8月30日 /美通社/ -- 数字化转型技术解决方案公司Trianz今天宣布,该公司与Amazon Web Services (AWS)签订了...

关键字: AWS AN BSP 数字化

伦敦2024年8月29日 /美通社/ -- 英国汽车技术公司SODA.Auto推出其旗舰产品SODA V,这是全球首款涵盖汽车工程师从创意到认证的所有需求的工具,可用于创建软件定义汽车。 SODA V工具的开发耗时1.5...

关键字: 汽车 人工智能 智能驱动 BSP

北京2024年8月28日 /美通社/ -- 越来越多用户希望企业业务能7×24不间断运行,同时企业却面临越来越多业务中断的风险,如企业系统复杂性的增加,频繁的功能更新和发布等。如何确保业务连续性,提升韧性,成...

关键字: 亚马逊 解密 控制平面 BSP

8月30日消息,据媒体报道,腾讯和网易近期正在缩减他们对日本游戏市场的投资。

关键字: 腾讯 编码器 CPU

8月28日消息,今天上午,2024中国国际大数据产业博览会开幕式在贵阳举行,华为董事、质量流程IT总裁陶景文发表了演讲。

关键字: 华为 12nm EDA 半导体

8月28日消息,在2024中国国际大数据产业博览会上,华为常务董事、华为云CEO张平安发表演讲称,数字世界的话语权最终是由生态的繁荣决定的。

关键字: 华为 12nm 手机 卫星通信

要点: 有效应对环境变化,经营业绩稳中有升 落实提质增效举措,毛利润率延续升势 战略布局成效显著,战新业务引领增长 以科技创新为引领,提升企业核心竞争力 坚持高质量发展策略,塑强核心竞争优势...

关键字: 通信 BSP 电信运营商 数字经济

北京2024年8月27日 /美通社/ -- 8月21日,由中央广播电视总台与中国电影电视技术学会联合牵头组建的NVI技术创新联盟在BIRTV2024超高清全产业链发展研讨会上宣布正式成立。 活动现场 NVI技术创新联...

关键字: VI 传输协议 音频 BSP

北京2024年8月27日 /美通社/ -- 在8月23日举办的2024年长三角生态绿色一体化发展示范区联合招商会上,软通动力信息技术(集团)股份有限公司(以下简称"软通动力")与长三角投资(上海)有限...

关键字: BSP 信息技术
关闭
关闭