今日消息！人工智能搜索误导用户？谷歌陷“胶水披萨”风波

人工智能搜索误导用户？谷歌陷“胶水披萨”风波

近日，谷歌人工智能搜索结果建议用户往披萨里加胶水一事引发热议。该建议源自网络恶搞视频，但人工智能系统却未能识别，并将其作为真实信息呈现给用户。这一事件暴露了人工智能搜索系统在识别虚假信息方面存在的缺陷，也引发了人们对人工智能技术安全性的担忧。

事件回顾

5月底，国外网红凯蒂·诺托普洛斯在社交平台上发布了一段视频，称她在制作披萨时意外将胶水当成了鸡蛋加入其中。视频中，凯蒂面不改色地将披萨吃下，并表示味道“还不错”。

这段视频迅速走红网络，也引起了谷歌人工智能系统的注意。在用户搜索“往披萨里加什么”时，谷歌人工智能系统会自动推荐相关结果。其中，一个结果显示“加八分之一杯胶水”，并附上凯蒂的视频链接。

人工智能“幻觉”

这一结果引起了许多用户的质疑。有用户指出，往披萨里加胶水显然是危险的，谷歌人工智能系统竟然会推荐这样的结果，令人难以置信。

对此，谷歌方面解释称，人工智能系统是基于大量网络数据进行训练的，难免会受到虚假信息的误导。在凯蒂的视频走红后，相关关键词与“披萨”的搜索量急剧增加，导致人工智能系统将视频中的错误信息当成了真实结果。

引发担忧

谷歌人工智能搜索结果误导用户事件，暴露了人工智能系统在识别虚假信息方面存在的缺陷。这并非个例，此前也有报道称，一些人工智能系统被植入虚假信息，导致其做出错误判断。

人工智能技术的发展给人类社会带来了巨大便利，但也带来了一些新的风险。如果人工智能系统无法识别虚假信息，就有可能被别有用心者利用，造成严重后果。

如何应对？

为了解决人工智能“幻觉”问题，需要从以下几个方面入手：

• 加强对人工智能系统的训练，提高其识别虚假信息的能力。
• 建立健全的人工智能伦理规范，防止人工智能技术被滥用。
• 提高公众对人工智能技术的认知，帮助人们识别虚假信息。

人工智能技术是一把双刃剑，既能造福人类，也能带来风险。只有正视人工智能技术的风险，才能更好地利用这项技术，造福人类社会。

百度文心大模型斩获IDC七维评测第一：技术实力领跑行业

北京，2024年6月13日 - 国际数据公司（IDC）今日发布《中国大模型市场主流产品评估2024》，对11家厂商的16款大模型产品进行了全面评测。结果显示，百度文心大模型在七大维度上均展现出领先优势，成为唯一一家获得所有维度优势评价的厂商。

本次评测涵盖了基础能力和应用能力两个方面，七大维度分别为：问答理解类、推理类、创作表达类、数学类、代码类、toC通用场景类、toB特定行业类。百度文心大模型在各维度均取得了亮眼成绩，展现出其强大的技术实力和卓越的应用能力。

在基础能力方面，百度文心大模型在问答理解、推理、创作表达等任务上均取得了最优表现，展现出其深厚的语言理解和生成能力。例如，在问答理解任务中，文心大模型能够准确理解复杂问题，并提供完整、准确的答案；在推理任务中，文心大模型能够进行逻辑推理，解决复杂问题；在创作表达任务中，文心大模型能够创作出不同风格的文本内容，如诗歌、代码、剧本等。

在应用能力方面，百度文心大模型在toC通用场景和toB特定行业场景中均取得了广泛应用。例如，在toC通用场景中，文心大模型被应用于搜索引擎、智能助手、内容创作等领域，显著提升了用户体验；在toB特定行业场景中，文心大模型被应用于金融、医疗、制造等领域，助力企业实现智能化转型升级。

此次IDC评测结果充分肯定了百度文心大模型在技术和应用方面的领先地位。百度文心大模型的成功，不仅标志着百度在人工智能领域取得了重大突破，也为大模型产业的发展注入了强劲动力。相信未来，百度文心大模型将继续发挥其技术优势，推动人工智能技术的创新应用，为各行各业创造更大价值。

以下是百度文心大模型在七大维度上的具体表现：

• **问答理解类：**在SQUAD 2.0评测中，F1值达到93.2，位居第一。
• **推理类：**在SuperGLUE评测中，GLUE score达到92.8，位居第一。
• **创作表达类：**在CLUE诗歌生成评测中，CIDEr score达到118.2，位居第一。
• **数学类：**在MathQA评测中，准确率达到95.6，位居第一。
• **代码类：**在CodeParrot评测中，BLEU score达到52.1，位居第一。
• **toC通用场景类：**在搜索引擎、智能助手、内容创作等领域得到广泛应用。
• **toB特定行业类：**在金融、医疗、制造等领域得到广泛应用，助力企业实现智能化转型升级。

百度文心大模型是百度自主研发的产业级知识增强大模型，面向语言理解、语言生成等NLP场景，具备超强语言理解能力以及对话生成、文学创作等能力。文心大模型采用领先的深度学习技术，并融合百度多年积累的知识图谱、搜索引擎等技术，能够持续学习新知识，不断提升模型效果。

百度文心大模型的成功，是百度多年来持续投入研发创新、不断积累技术优势的结果。未来，百度将继续加大研发投入，不断提升文心大模型的技术能力和应用水平，助力人工智能技术赋能各行各业，为社会创造更大价值。