当前位置:首页 > 芯闻号 > 极客网
[导读]多年来,谷歌搜索基本没有大的变化,但最近却增加了新AI功能。谷歌的目标很明确,它不想错过AI浪潮,想与微软、OpenAI竞争。

多年来,谷歌搜索基本没有大的变化,但最近却增加了新AI功能。谷歌的目标很明确,它不想错过AI浪潮,想与微软、OpenAI竞争。

遗憾的是,谷歌新推出的AI Overview远远称不上完美,它输出的结果不精准,谎话连篇,甚至能逼疯用户。例如,AI Overview建议用户用胶水作为披萨配料,建议食用石块获得营养。严重的错误已经影响到谷歌声誉。

全球有20亿人依赖谷歌搜索,AI Overview提供的信息不可靠,后果当然恶劣。虽然其它AI聊天机器人也会抽疯,但公众对谷歌的苛刻并非无理取闹,他们希望谷歌搜索更负责一些。

谷歌AI,持续水逆

在过去一段时间,谷歌AI产品多次遭受抨击。例如,2023年2月谷歌推出Bard,与ChatGPT竞争,虽然吹得极厉害,但它提供的信息同样错漏百出。

年初时谷歌推出Gemini,它可以生成图片,也可以变成用语音控制的数字助手。推出没多久便有用户发现,Gemini不愿意生成以白人为主角的图片,它对历史人物的描述也严重不准确。

错误如此之多,如此之连续,绝对不是偶然,要么是AI技术存在缺陷,要么是谷歌技术实力被夸大。金融分析师则认为,投资者向谷歌施加太大压力,逼迫谷歌加快创新速度,结果导致推出的产品不够成熟。

Investing网站分析师Thomas Monteiro称:“现在的谷歌别无选择,企业必须快速前进,即使跳过几个步骤也再所不惜。”

AI搜索,任重道远

谷歌新闻发言人Lara Levin认为,AI Overview提供的大多查询结果是高质量信息,并且还附有链接,用来扩充内容。她还说,报告中提及的问题大多都出自非常规查询,或者是人为操纵的案例,未来谷歌会继续优化系统。

自2022年ChatGPT获得成功之后,谷歌努力将AI融入自家产品矩阵。问题在于,大模型是用海量线上数据训练的,这些数据充斥着虚假错误信息。

虽然面临诸多困难,谷歌仍然一往无前,最新推出的AI Overview是一个里程碑,它整合了Gemini模型,与搜索捆绑在一起。

按照设计,AI Overview可以处理复杂查询,比传统搜索效率更高。虽然谷歌高调宣称将AI Overview与搜索整合好处多多,但现实却离宣传有很长一段距离。

AI Overview建议用户在制作披萨时加入无毒胶水,因为它可以防止奶酪流动。为什么会给出如此荒诞的建议?因为11年前有人在Reddit发帖,以开玩笑的口吻建议这样做,AI完全无法识别它是不是玩笑,居然当真了。

还有,AI Overview建议用户每天要吃一块石头,摄取维生素和矿物质,这一谬论源自一篇讽刺性文章。

谷歌搜索追求的是关联性、可信度、实用,AI Overviews不只没有帮上忙,还破坏了搜索。

AI幻觉,难以根除

AI出现错误并不稀奇,这就是所谓的“幻觉”,它将错误、虚拟信息当成正确。出现幻觉是训练数据存在缺陷、算法不完美、误解情境造成的。

数字营销公司Chelsea Digital的CEO Mike Grehan认为,从本质上讲,大语言模型就是根据过去看到的东西对未来进行统计预测,所以“废话进去、废话出来”的情况仍然存在。

AI Overviews相当于给传统搜索结果做总结,然后将总结反馈给用户。在输出答案时,它免不了收集一些恶搞信息、玩笑,所以很容易输出一些似是而非的东西。

出版商、网站不喜欢AI Overviews,因为它提供长长的摘要信息,然后将网站链接放在最后,用户极可能没耐心看到最后,点击链接。

有人认为,虽然AI Overviews不完美,会出现错误,但大多时候是正确的,它远比普通人聪明,而且响应速度很快,还有,即使现在不完美,未来也会变得接近完美。

真是这样吗?纽约大学教授Gary Marcus认为,许多AI企业都在兜售“美梦”,说准确率将会从80%提升至100%,但是大家要明白,达到80%的准确率相对容易,向AI喂入更多数据就行,但最后20%却充满挑战,这部分可能也是所有流程中最难的。

Gary Marcus称:“你需要做出一些推理,然后还要做决定:这些信息真的有意义吗?信息来源可靠吗?你必须像人类一样检查信息真假。老实说,只有AGI才能做如此复杂的工作,现在的AI不行。”

与Meta人工智能主管Yann LeCun一样,Gary Marcus也认为依靠现在的大语言模型无法创造出AGI。

如果AI Overviews提供的是错误答案,谷歌应该负责吗?按照美国1996年制定的《通信规范法》,谷歌不属于出版商,不必为第三方内容负责。

制定法律时,美国没有将AI生成的搜索结果信息考虑进去,AI Overview受不受法规约束没有定论,因为很难判断AI Overview内容是不是谷歌创作的。(小刀)

声明:该篇文章为本站原创,未经授权不予转载,侵权必究。
换一批
延伸阅读

6月23日消息,据媒体报道,谷歌与台积电已达成战略合作,成功将Tensor G5芯片样品发送至验证环节。

关键字: 谷歌 AI 芯片 半导体

美国科技媒体Android Authority报导,谷歌手机芯片代工策略转向,由三星转投台积电(2330)怀抱。

关键字: 三星 谷歌 手机芯片 台积电 Tensor

5月15日消息,谷歌在其2024年I/O开发者大会上宣布了一项名为“AI Overviews(AI概览)”的新搜索体验功能。

关键字: 谷歌 AI 芯片 半导体

5月15日消息,谷歌在I/O大会上发布了第六代TPU芯片Trillium,并透露能够在明年初用上英伟达最新的Blackwell架构GPU。

关键字: 谷歌 AI 芯片 半导体

面对人工智能(AI),乐观者纷纷用金钱投票。

关键字: AI 亚马逊 Meta 谷歌 微软

从近期媒体的一份爆料来看,苹果近年来其实已经下了不少力气深耕AI领域——在过去六年间从谷歌挖走了数十名人工智能专家,并在苏黎世创建了一个神秘的欧洲实验室。

关键字: 苹果 谷歌 实验室 AI

5月9日消息,由Google DeepMind与Isomorphic Labs联合研发的新一代人工智能模型AlphaFold 3,登上了权威科学期刊Nature。

关键字: 谷歌 AI 芯片 半导体

在越来越多的企业采用AI技术的推动下,亚马逊、微软和谷歌三大云计算巨头2024年开局表现强劲。

关键字: 云计算 微软 谷歌 亚马逊

业内消息,上周谷歌公司解雇了28名员工,原因是这些员工在谷歌纽约和加州森尼维尔的办公室静坐10小时,抗议谷歌与以色列签订的价值12亿美元的云计算合同。

关键字: 云计算 谷歌

业内消息,近日Alphabet旗下谷歌公司发言人表示为控制成本正在进行最新裁员,但具体人数不详。该发言人表示,裁员并非全公司范围,受影响的员工将能够申请内部职位,但没有具体说明受影响的员工人数或涉及的团队。

关键字: 谷歌 裁员
关闭