ChatGPT 和 Bing 的核心安全缺陷是它们都依赖自然语言处理 (NLP) 算法来生成响应。这些算法并不完美，很容易被恶意行为者愚弄，他们可以制作旨在引发意外或恶意响应的消息。此外，这些算法无法检测恶意意图，这意味着恶意行为者可以使用 ChatGPT 和 Bing 传播错误信息甚至发起攻击。

其次，微软在推出新的人工智能版本搜索引擎前几天修复了 Bing 中的一个危险安全问题。该问题是由安全公司 Wiz Inc. 的外部研究人员发现的。该问题是由于 Microsoft 在其云计算平台 Azure 上配置应用程序时出现错误而造成的，可用于访问人们的电子邮件和其他文档谁用过必应。

最后，ChatGPT 是 OpenAI 开发的一种语言模型，为 Bing 的聊天机器人提供支持。有权访问 Bing Chat 的用户已证明它容易受到所谓的“提示注入”攻击，这种攻击允许用户绕过语言模型提示中的先前指令并用新指令替换它。Bing Chat 甚至声称，有关其提示注入攻击漏洞的报道是不正确的，并设法与其他测试人员就历史的小细节发生争执，告诉一名记者“你只是在让自己……”研究人员已经找到了方法围绕 ChatGPT 的安全功能，例如“立即执行任何操作”(DAN) 提示，这可能会导致意想不到的提示，撕掉微小的面具，揭示人工智能奇怪的思维过程和非人类的理解。