人工智能的影响：网络安全挑战与机遇
人工智能在带来新的网络安全威胁的同时，也为增强组织防御提供了新方法。我们与专家探讨了人工智能对网络安全的影响，以及组织如何利用人工智能为自己谋利，同时保护数据。
目录
人工智能在安全领域的作用日益增强
从历史上看，网络安全技能的差距阻碍了威胁者充分利用人工智能。但生成式人工智能工具的普及正在改变这一现状。
Pluralsight 安全与 GenAI 技能高级总监Aaron Rosenmund解释道：“值得庆幸的是，在过去 20 年的大部分时间里，利用 AI 技术所需的技能集合和恶意攻击的技术实力很少存在于同一领域。” “[但] 在过去两年里，生成式 AI 的进步和可用性使这些辅助工具可供所有人使用。”
这意味着更多人可以使用 AI 工具来发起复杂的攻击。但正如 Aaron 所指出的那样，像 AI Copilot 和 Security Copilot 这样的工具对双方都有利。“恶意软件开发的大部分要求只是良好的编码实践，而 Copilot 功能对双方都有利。我很高兴看到未来几年这些功能在自动防御方面会取得哪些进展。”
人工智能在安全领域的优势
让我们先从在安全领域使用人工智能的优势开始。安全专业人员经常陷入永无止境的追赶游戏中，以对抗各种威胁和不良行为者。人工智能工具可帮助他们更快地应对现代网络安全挑战。
自动化威胁检测和响应
正如 Pluralsight 作者兼安全顾问John Elliott所说，“我们将使用人工智能来更好地保护自己。”
其中一部分涉及威胁检测和事件响应。人工智能算法可以实时分析数据，以识别表明潜在威胁的模式。通过从历史数据中学习，它们甚至可以减少误报，标记异常以进行更仔细的检查，并识别以前未被发现的零日攻击。
人工智能还可以帮助实现事件响应部分工作的自动化。“我看到人工智能在自动化方面发挥了很大的作用，它能够发现不同的威胁，识别安全领域内发生的恶意行为或异常，尤其是与云工作负载相关的行为，”网络安全专家兼 Pluralsight 作者Chris Jackson说道。
利用人工智能进行全面风险评估
人工智能工具可以快速梳理大量数据，以分析潜在漏洞并确定其对业务的危害程度。这使安全专业人员能够优先处理最紧迫的威胁。
如果风险评估标记出某些漏洞，组织可以采取措施保护其组织并制定更主动的安全立场。人工智能也可以提供帮助。安全专家兼 Pluralsight 作者Lyron H. Andrews 博士分享了一个例子：“特别是在我的领域，我看到与保护攻击面和暴露这些学习模型中的漏洞相关的训练模型。”
确保加强对人工智能的遵守
从隐私问题到公司政策和联邦政府的行政命令，遵守 AI 指导可能是一项挑战。但您也可以使用 AI 来协助安全合规，无论是否与 AI 相关。
首先，您可以使用它来简化合规任务，最大限度地减少错误并减少潜在罚款。您还可以使用它来了解最新法规。人工智能模型可以不断分析监管数据库和可靠的新闻媒体以获取更新。这使您的组织能够尽快在合规系统中实施这些更改。
改善成本管理
虽然 AI 解决方案可能需要大量的前期投资，但它们可以带来长期回报。根据2023 年 IBM 数据泄露成本报告，数据泄露的平均成本为 445 万美元。好消息是，与未使用基于 AI 的网络安全工具的企业相比，使用安全 AI 的组织产生的数据泄露成本更少。
AI 安全解决方案的其他用途
人工智能安全工具和网络安全解决方案还可以帮助：
威胁情报
漏洞检测
数据维护
可见性和可观察性
人工智能对安全产生的负面影响
虽然人工智能可以对安全产生积极影响，但它也带来了新的网络安全挑战。
人工智能和网络安全技能差距仍然存在
只有 17% 的技术人员对自己的网络安全技能充满信心。而对自己的 AI/ML 技能充满信心的人就更少了（12%）。这种知识差距，加上现有的心理健康问题，使得安全专业人员很难抵御 AI 驱动的威胁并利用 AI 作为安全工具。
即使人工智能具有优势，安全专业人员仍需要提高技能，以了解人工智能如何与其他工具和技术交互。“对于信息安全专业人员来说，在人工智能中如何协同工作安全和隐私方面将有大量新知识，”约翰说。
Deepfat 增强了社会工程学
威胁者经常利用社会规范和压力诱骗人们泄露信息。而人工智能正在帮助他们。“深度伪造、语音模拟等技术确实为社会工程学提供了助力，”Aaron 说。
“初始访问使他们能够访问网络环境。从这里开始，他们仍然必须枚举环境，横向移动到网络的其他部分，提升权限，下载工具或勒索软件，通过 C2 协议进行通信，然后窃取数据或加密设备。在每个点上，他们都应该被抓住。”
威胁者利用人工智能发动网络攻击
“我们有攻击者，可以是任何人，从脚本小子到民族国家，他们都在利用人工智能来完善和改进他们的攻击，”约翰说。
借助生成式人工智能，没有丰富编码经验的人现在也可以编写恶意软件和机器人攻击，并发起更大、更复杂的攻击。这增加了威胁的数量和攻击者的数量。
威胁者还利用使用 AI 工具的个人和组织，攻击其背后的数据和模型。他们使用以下方式发起攻击：
及时注射
开源代码注入
数据中毒
模型逃避
“我看到人工智能更多地用于攻击性的事情，”克里斯说。“例如，黑客只是帮助开发不同的脚本，更快地创建工具，甚至提供不同的视角，因为你知道，很多黑客攻击，很多攻击性安全都依赖于跳出框框思考，思考如何操纵系统并让它们以某些不应该的方式运行。”
人工智能在安全领域的未来
AI 已在网络安全领域掀起波澜，随着时间的推移，威胁形势只会进一步恶化。训练您的团队使用 AI 来防御这些威胁，并利用它来增强组织的防御能力。
以下是一些入门课程：
免责声明：本内容来源于第三方作者授权、网友推荐或互联网整理，旨在为广大用户提供学习与参考之用。所有文本和图片版权归原创网站或作者本人所有，其观点并不代表本站立场。如有任何版权侵犯或转载不当之情况，请与我们取得联系，我们将尽快进行相关处理与修改。感谢您的理解与支持！
请先 登录后发表评论 ~