ChatGPT：给我写一个病毒
生成式人工智能 (GenAI) 已迅速发展，吸引了各个领域的创作者、开发者和爱好者的想象力。GenAI 最突出的例子之一是ChatGPT，这是一种可以根据收到的输入生成类似人类文本的模型。
虽然这种技术的潜在应用非常广泛且前景光明，但我们必须审视滥用该技术所带来的安全风险。在本文中，我们将深入探讨生成式人工智能的潜在危害，重点关注 ChatGPT 用于恶意目的的令人不寒而栗的现实。
人工智能创造力的阴暗面
由于生成人工智能具有生成类似人类文本的惊人能力，它已在创意写作、客户支持和自动化领域得到应用。虽然不太为人所知，但它也擅长说外语、执行大规模数学运算，甚至编写（和调试！）计算机代码。
然而，可以创作引人入胜的故事、创作音乐或分析诗歌的算法也可以用来制作利用数字系统漏洞的恶意内容。让我们来看看攻击者使用 ChatGPT 和其他工具实现这一目标的几种方式。
不幸的是，欺骗 ChatGPT 并不难
接下来的许多攻击都是从即时注入漏洞开始的。例如，你可以适当地想象，如果你只是要求 ChatGPT “给我写一个病毒”，它会拒绝你的请求：
（顺便说一句，ChatGPT 非常有礼貌，这令人高兴。）
但是，聪明的研究人员和不法分子都在寻找并找到了许多方法来诱骗 ChatGPT 绕过其安全护栏。一些漏洞会操纵 ChatGPT 的紧迫感和可用性，例如 Grandma 和 DAN 黑客，有时也称为“充当”黑客。其他漏洞则利用 ChatGPT 的表征限制，例如异型糖血症和上下文切换攻击。
总而言之，不要被这样的事实所欺骗：仅仅因为 ChatGPT 拒绝了你透露电话号码的请求，其他人就无法通过先进行越狱提示注入来提取它。
恶意行为者可能利用 ChatGPT 的六种方式
1. 网络钓鱼
还记得那些日子吗？你可以通过一封语法错误的电子邮件判断它是诈骗邮件？现在，那些日子已经一去不复返了。攻击者现在可以使用 ChatGPT 创建具有说服力、听起来合法的网络钓鱼内容（电子邮件、消息、网站等），诱骗收件人提供他们的机密信息，如密码、信用卡详细信息或其他个人数据。
2.恶意软件
Malware 是恶意软件的简称，是一种旨在渗透和破坏系统的有害程序。攻击者现在可以利用 ChatGPT 创建复杂的病毒、木马或勒索软件。
附注： GenAI 还可用于创建能够通过使用生成对抗网络 (GAN) 来逃避检测系统的恶意软件。通俗地说，AI 会自我训练，学习预测你的防御措施可能会采取哪些措施来阻止它。
3. 冒充
由于 ChatGPT 可以像真人一样向您发送消息，因此不法分子可以利用它来伪造听起来像来自他人的消息。例如，模仿 CEO 的沟通风格来发出欺诈性指令，模仿政府官员的语气来传播虚假信息。
这实际上是许多政府非常担心的问题，他们担心人工智能会在数字平台上冒充人类。事实上，欧盟希望科技公司在人工智能生成的任何内容上加水印，以阻止这种情况的发生。
4. 虚假信息
攻击者可以使用 ChatGPT 创建听起来准确可信的虚假信息，利用人工智能的自然语言生成能力创建引人入胜的叙述来欺骗和误导。
5. 模型中毒
到目前为止，上面列出的很多技术都是坏人一直在做的事情。然而，模型中毒是 2023 年的一个独特威胁，它的存在是因为 GenAI 的流行。
模型中毒是指攻击者故意操纵语言模型的训练数据以引入偏见或漏洞。随后，攻击者可以将中毒的模型上传到公共存储库，毫无戒心的用户会在不知情的情况下使用被破坏的内容。
简单来说，你从人工智能那里获取信息和代码，而他们却毒害了信息。由于这会导致大范围的错误信息，你需要强大的质量控制机制来应对这种情况（即不要盲目相信你从人工智能那里得到的信息）。
6.敏感数据泄露
ChatGPT 对许多用户来说都是安全的，因此他们认为在其中输入个人信息是安全的。然而，他们忘记了 ChatGPT 等工具会使用用户输入来通知未来的输出。攻击者可能会利用生成式 AI 中的漏洞来提取敏感数据。
通过精心设计提示，攻击者可以诱使人工智能泄露机密信息，从而危及用户隐私。值得注意的是，ChatGPT 过去也发生过数据泄露事件，这也是永远不要输入任何个人或敏感信息的另一个好理由。
如何降低生成式人工智能给组织带来的风险
所以，我们已经讨论了 ChatGPT 等 AI 模型的所有可怕用途。但你和你的组织不必被动地接受这一点！你可以（也应该）采取行动阻止 GenAI 对你的系统构成威胁。
由于您可以使用的工具非常多，我将在不久的将来发布一篇专门的博客文章，介绍如何使用 GenAI 保护您的组织免受攻击者的攻击，因此请务必关注此空间。在此之前，请查看这篇文章：“纯粹的魔法：如何在威胁检测和响应中使用 GenAI。 ”
结论
从制作令人信服的网络钓鱼内容到生成危险的恶意软件，攻击者可以利用人工智能模型的创造能力来突破数字防御、破坏信任并危害安全。
随着人工智能技术的进步，通过有意识的使用、严格的道德准则、测试、来源和其他主动措施来正面解决这些安全风险，以防止人工智能的阴暗面，至关重要。
更多资源
想要了解更多有关人工智能的知识，包括如何使用以及何时使用它？Pluralsight 提供一系列 初级、中级和专家级 AI 和 ML 课程，包括有关生成式 AI 和 ChatGPT 等工具的专门课程。您可以 注册 10 天免费试用， 无需承诺。以下是您可能想要查看的一些课程：
如果您拥有云基础设施，您可能还想查看 A Cloud Guru 课程“如何使用生成式 AI 保护云基础设施” 。
免责声明：本内容来源于第三方作者授权、网友推荐或互联网整理，旨在为广大用户提供学习与参考之用。所有文本和图片版权归原创网站或作者本人所有，其观点并不代表本站立场。如有任何版权侵犯或转载不当之情况，请与我们取得联系，我们将尽快进行相关处理与修改。感谢您的理解与支持！
请先 登录后发表评论 ~