当前位置:首页 > 智能硬件 > 人工智能AI
[导读] 所谓的“深度假视频”现在成为美国立法者担心的一个主要问题,他们担心AI伪造的政府人员视频可能成为国家安全威胁。 Facebook表示它已经建立了一个机器学习模型来检测潜在的虚假照片或视频

所谓的“深度假视频”现在成为美国立法者担心的一个主要问题,他们担心AI伪造的政府人员视频可能成为国家安全威胁。

Facebook表示它已经建立了一个机器学习模型来检测潜在的虚假照片或视频,然后将这些模型发送给其事实检查员进行审查。第三方事实检查合作伙伴可以使用视觉验证技术,包括反向图像搜索和图像元数据分析来审查内容。

Facebook打算利用其收集的照片和视频评论者来提高其机器学习模型的准确性,以检测这些媒体格式的错误信息。

它定义了照片和视频中的三种错误信息,包括:操纵或制作的内容; 脱离背景呈现的内容; 文字或音频中的虚假声明。

Facebook提供了与文本相比识别图像和视频内容中的虚假信息的困难的高级概述,以及它用于克服它们的一些技术。但总体而言,人们的印象是,Facebook并没有接近自动系统来大规模检测视频和照片中的错误信息。

目前,它正在使用OCR从照片中提取文本,例如照片上的虚假标题,以便将文本与事实检查员文章的标题进行比较。它还在开发检测照片或视频是否被操纵的方法。为此,它使用音频转录来比较它从音频中提取的文本是否与事实检查者之前已经揭穿的文本中的声明匹配。

“目前,我们正在与照片上比我们使用的视频音频转录使用OCR更先进的,” 说的Facebook产品经理泰莎里昂。

与文章一样,一旦事实检查人员确认其为假,Facebook将专注于识别虚假视频和照片的重复。

Lyons表示,Facebook在寻找精确复制的照片方面“相当不错”,但是当图像被轻微操纵时,Facebook更难以自动检测。

“我们需要继续投资技术,这将有助于我们识别出以微小方式发生变化的非常接近的副本,”里昂斯说。

Lyons表示,检测某些东西是否脱离背景也是一项重大挑战。

“了解某些事情是否脱离了背景是我们正在投资的领域,但还有很多工作要做,因为你需要了解媒体的原始背景,媒体呈现的背景,以及是否两者之间存在差异,“她指出。

照片和视频内容中的错误信息的影响也因国家而异。Facebook已经发现,在美国,大多数人报告看到文章中的错误信息,而在印度尼西亚,人们更多地报告在照片中看到的误导信息。

“在媒体生态系统欠发达或识字率较低的国家,人们可能更有可能在照片上看到错误的标题,或看到伪造的照片,并将其解释为新闻,而在拥有强大新闻生态系统的国家,“新闻”的概念更多地与文章联系在一起,“里昂说。

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除( 邮箱:macysun@21ic.com )。
换一批
延伸阅读

具身智能的控制,很依赖一个模型:机器人各个连杆的质量、质心位置和转动惯量。这些参数通常由机械设计给出,写在三维模型里,看上去是确定的。真到了控制环里,事情没那么简单。线缆、散热、紧固件、线束走向,都会让实际的质量分布和图...

关键字: 具身智能 机器人 AI

AI 机架的功率曲线,和传统数据中心完全不是一个形状。一颗加速器在训练和推理之间切换,或者一批任务同时启动,机架从电网取的电可以在毫秒到秒的尺度上剧烈摆动。单机架功率过百千瓦已经常见,向上还有兆瓦级的密集配置。这样的曲线...

关键字: AIDC AI

北京2026年10月15日 /美通社/ -- 刷手机已经成为大众日常休闲方式之一。不少人在碎片化时间里,常会浏览情节逻辑薄弱的短剧、真假混杂的AI合成图片与视频等内容。这类缺乏严谨逻辑支撑的"非理性内容&quo...

关键字: 普中 AI 手机 BSP

第三季度新增 42 宗个案,审视范围从训练数据扩展至 AI 输出、产品安全保障措施、自动化决策、企业信息披露及董事会监督。 纽约2026年10月16日 /美通社/ -- 全...

关键字: AI 系统构建 模型 OCEAN

苏州2026年10月15日 /美通社/ -- 面对全球产业加速向低碳、高效和循环方向发展,企业如何将可持续发展理念转化为创新实践,并进一步推动业务增长与产业升级,已成为制造业持续发展的重要课题。 德莎可持续发展日...

关键字: 可持续发展 数字化 AI BSP

上海2026年10月16日 /美通社/ -- 美通社今日正式宣布,2027新传播年度大奖案例征集全面启动。在AI深度重构传播秩序的当下,本届大奖以"智启新序,信以致远"为主题,旨在表彰企业在...

关键字: AI BSP ASIA NAS

深圳2026年10月16日 /美通社/ -- 一台专为浸没式液冷而生的AI智算服务器,要经过怎样严苛的检验,才配得上"国家级认证"?满载压测、上百次冷启动...

关键字: PCIE IDL AI LIQUID

上海2026年10月16日 /美通社/ -- 10月12日至16日,2026中国国际工业博览会在国家会展中心(上海)举行。上海精智集团孵化的工业AI企业蓝沃AI携手上海精智康桥工厂参展,首次展示面向非标制造的"...

关键字: 开源 模型 AI LEVEL

展出全新解决方案、大规模AI工作负载仿真、多厂商互操作性及端到端推理验证演示,助力加速下一代AI基础设施发展

关键字: AI 以太网 路由器

即时链路建立与深度协议可见性,降低风险,并加快下一代系统开发

关键字: AI 数据中心 图形处理器
关闭