尴尬！谷歌手动删除搜索中奇怪的 AI 回答

划重点:

- 谷歌的 AI Overview 产品在推出时出现了一些怪异回答，导致谷歌需要手动禁用特定搜索的 AI Overviews。

- 一些用户在社交媒体上发布了各种有趣的回答，但很快就被删除。

- 这个失误显示了 AI 领域竞争的艰难性，以及在 AI 技术完善之前进行优化的风险。

靠谱客（kaopuke.com）6月8日消息:谷歌的 AI Overview 产品最近推出后，社交媒体上涌现了一些怪异的回答，例如建议用户在披萨上涂胶水或吃石头。这个失误导致谷歌不得不手动禁用特定搜索的 AI Overviews，因为各种有趣的回答很快就被发布到社交网络上。

谷歌的发言人梅根・法恩斯沃思在邮件中表示，虽然许多例子都是罕见的查询，但也有些例子是被篡改或无法重现的。

图源备注：图片由AI生成，图片授权服务商Midjourney

令人奇怪的是，谷歌已经在过去一年中进行了 AI Overview 的测试，这个功能于2023年5月作为搜索生成体验的测试版推出，并且首席执行官桑达尔・皮查伊表示，在那段时间里，谷歌已经提供了超过10亿次查询。然而，皮查伊也表示，在这段时间里，谷歌将提供 AI 回答的成本降低了80%，这主要得益于硬件、工程和技术突破。但很明显，这种优化可能发生得太早了，技术还没有准备好。

人工智能专家加里・马库斯指出，很多 AI 公司都在向人们 “销售梦想”，认为这项技术可以从80% 的准确率提高到100%。马库斯表示，实现最初的80% 相对简单，因为它只涉及到近似大量的人类数据，但最后的20% 非常具有挑战性。他认为，最后的20% 可能是最困难的部分，需要进行推理来判断回答是否合理、来源是否可信，这可能需要人工智能具备人类的智能。此外，马库斯和 Meta 的 AI 主管 Yann LeCun 都认为，目前支撑谷歌的 Gemini 和 OpenAI 的 GPT-4等大型语言模型不可能创造出人工通用智能。

谷歌对 AI Overview 有着宏大的计划，目前产品的功能只是谷歌上周宣布的一小部分。包括复杂查询的多步骤推理、生成 AI 组织的结果页面、Google Lens 中的视频搜索等等。但目前，谷歌最需要做的是将基本功能做好，而在这方面它的表现并不出色。

马库斯表示:“这些模型本质上无法对自己的工作进行合理性检查，这就是这个行业面临的问题。” 谷歌正面临巨大的竞争压力，Bing 在人工智能领域领先于谷歌，OpenAI 正在开发自己的搜索引擎，一家新的 AI 搜索初创公司已经价值10亿美元，而更年轻的用户则转向 TikTok，寻求更好的体验。谷歌明显感受到了竞争的压力，这也导致了混乱的 AI 发布。马库斯指出，2022年，Meta 发布了一个名为 Galactica 的人工智能系统，但不久后就被下架，其中一个原因就是它告诉人们吃玻璃。这听起来很熟悉。

谷歌需要解决这个尴尬的局面。他们希望 AI Overview 能实现更多的功能，但目前他们最需要做的是确保基本功能的准确性，而这方面的表现并不出色。

（举报）