AI聊天机器人如何通过语料库投毒而被黑掉？ | 搜索引擎聊天机器人对比

相关阅读

视频讲解

当涉及到获得答案时，这几乎是一个陈词滥调：只要Google一下。只要百度一下。

是的，你会得到答案，但通常你必须在一系列可能的解释中进行分类，其可靠程度各不相同。

现如今，互联网用户越来越喜欢 “只要给我一个答案 “式的回答。这就是如同chatGPT这样的聊天机器人使用的场景。这些人工智能驱动的聊天机器人在回答范围广泛的问题方面变得越来越好，产生了一个听起来很权威的回答。但这是一件好事吗？本期视频，我们将探讨聊天机器人依赖庞大的数据集来得出 “只有一个答案 “的答复的潜在的黑暗面。

相关资料

最近很多搜索引擎也在融合类似于ChatGPT的技术，并且部分搜索引擎会在回答中给出索引链接，提供来源参考。

Google Bard

以下节选来自Google博客《我们人工智能之旅的重要下一步》：

在我们将深入的研究和突破转化为真正帮助人们的产品时，从事这些技术的工作是一个非常令人兴奋的时刻。这就是我们一直在进行的大型语言模型的旅程。两年前，我们发布了由我们的对话应用语言模型（简称LaMDA）驱动的下一代语言和对话能力。

我们一直在研究一项由LaMDA驱动的实验性对话人工智能服务，我们称之为Bard。今天，我们又向前迈进了一步，在未来几周向公众更广泛地提供服务之前，向值得信赖的测试者开放了该服务。

Bard寻求将世界知识的广度与我们大型语言模型的力量、智慧和创造力相结合。它利用网络上的信息来提供新鲜、高质量的回应。Bard可以成为创造力的出口，以及好奇心的发射台，帮助你向一个9岁的孩子解释美国宇航局詹姆斯-韦伯太空望远镜的新发现，或者了解更多关于现在足球界最好的前锋，然后得到练习来培养你的技能。

我们在使用人工智能来改善数十亿人的搜索方面有着悠久的历史。BERT是我们最早的Transformer模型之一，在理解人类语言的复杂性方面是革命性的。两年前，我们推出了MUM，它比BERT强大1,000倍，对信息的理解更上一层楼，而且是多语言理解，可以挑出视频中的关键时刻，提供关键信息，包括更多语言的危机支持。

现在，我们最新的人工智能技术–如LaMDA、PaLM、Imagen和MusicLM–正在以此为基础，创造出全新的信息接触方式，从语言和图像到视频和音频。我们正在努力将这些最新的人工智能进展引入我们的产品，首先是搜索。

最令人兴奋的机会之一是人工智能如何加深我们对信息的理解，并更有效地将其转化为有用的知识–使人们更容易找到他们要找的东西的核心，并完成事情。当人们想到谷歌时，他们通常会想到向我们寻求快速的事实性答案，比如 “一架钢琴有多少个键“？但是，人们越来越多地转向谷歌寻求更深层次的见解和理解–比如，”钢琴或吉他更容易学习，各自需要多少练习？” 学习这样的话题可能需要花费大量精力来弄清楚你真正需要知道的东西，人们往往希望探索各种不同的意见或观点。

在这些时候，人工智能可以提供帮助，为那些没有一个正确答案的问题综合提供见解。很快，你就会在搜索中看到由人工智能驱动的功能，将复杂的信息和多种观点提炼成易于消化的格式，这样你就可以快速了解全局，并从网络上学到更多东西：无论是寻求额外的观点，如既弹钢琴又弹吉他的人的博客，还是深入了解相关主题，如作为初学者入门的步骤。这些新的人工智能功能将很快开始在谷歌搜索上推出。

微软新版Bing

在谷歌宣布「实验性对话式人工智能服务」Bard 之后仅 24 小时，北京时间 2 月 8 日凌晨两点，微软发布了面向大众的 AI 语言模型产品的重大公告。通过与 ChatGPT 发明者 OpenAI 合作，微软给自己的搜索引擎加入了先进的 AI 对话模型，以支持全新版本的必应（Bing）和 Edge。

以下选择微软博客的《用新的人工智能驱动的微软必应和Edge重塑搜索，你的网络副驾驶》：

我们将搜索、浏览和聊天整合成一个统一的体验，你可以从网络的任何地方调用，提供。

• 更好的搜索：新的必应为你提供了一个改进版的熟悉的搜索体验，为体育比分、股票价格和天气等简单的事情提供更相关的结果，同时还有一个新的侧边栏，如果你想要的话，可以显示更全面的答案。
  
• 完整的答案：必应审查来自整个网络的结果，以找到并总结出你要找的答案。例如，你可以在那一刻得到如何用鸡蛋代替你正在烘烤的蛋糕中的另一种成分的详细说明，而不必滚动浏览多个结果。
  
• 一种新的聊天体验：对于更复杂的搜索–例如计划详细的旅行路线或研究买什么电视–新的必应提供新的互动聊天。聊天体验使您能够通过询问更多的细节、清晰度和想法来完善您的搜索，直到获得您所寻找的完整答案–并提供链接，以便您能够立即根据您的决定采取行动。
  
• 一个创造性的火花：有的时候，你需要的不仅仅是一个答案–你需要灵感。新的Bing可以产生内容来帮助你。它可以帮助你写一封电子邮件，为你的夏威夷梦幻假期创建一个5天的行程，并提供预订旅行和住宿的链接，为工作面试做准备，或为小游戏之夜创建一个测验。新的必应还引用了它的所有来源，因此你能够看到它所引用的网络内容的链接。
  
• 新的Microsoft Edge体验：我们更新了Edge浏览器，增加了新的人工智能功能和新的外观，并增加了两个新功能。聊天和撰写。通过Edge侧边栏，你可以要求对一份冗长的财务报告进行总结，以获得关键的收获–然后使用聊天功能要求与竞争公司的财务状况进行比较，并自动将其放在一个表格中。你也可以要求Edge帮助你撰写内容，比如LinkedIn的帖子，只要给它一些提示就可以开始了。之后，你可以要求它帮助你更新帖子的语气、格式和长度。Edge可以理解你所处的网页，并相应地进行调整。

您可以选择加入微软新必应的白名单，优先进行体验

加入成功之后就可以率先体验了

百度 文心一言

以下选自百度微信官方公众号《官宣：文心一言》

据悉，百度已经掌握ChatGPT相关技术。百度在人工智能四层架构中，有全栈布局，包括底层的芯片、深度学习框架、大模型以及最上层的搜索等应用。文心一言，位于模型层，具备跨模态、跨语言的深度语义理解与生成能力。

业界分析，尤其在自然语言处理领域，中国绝对没有一家公司目前水平接近百度。