AI+人类，实现高效网络安全

Posted 2023-04-06 HummerCloud云原生

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了AI+人类，实现高效网络安全相关的知识，希望对你有一定的参考价值。

导语

聊天机器人和生成式人工智能（如 ChatGPT）突然成为主流让很多人感到担忧。很多人开始担忧，人工智能取代人的时代已经到来。幸运的是，事实并非如此。

更有可能的情况是，人类将与 AI 合作创建工作角色的混合模型。这在网络安全方面尤为明显。人工智能最常用于执行人类无法完成的任务：例如，执行 24/7 监控并在海量数据集中发现行为和模式的异常。一旦检测到可能的威胁，就由人类来确定 AI 发现的是实际威胁还是误报，然后决定正确的缓解指令。

“人工智能只是大规模的线性代数；人类决定训练集和用于进行代数运算的特征，”Netenrich 的首席威胁猎手 John Bambenek 在接受电子邮件采访时说。一旦它学会了，人工智能就可以比人类更快地做一些事情，比如在混乱的结构中寻找模式。但有时直觉是必要的，而现在，这是人类相对于机器的一大优势。

ChatGPT和网络安全

一段时间以来，人工智能一直是网络安全平台不可或缺的一部分，但聊天机器人的兴起改变了对话。我们知道聊天机器人可以用来制造新的威胁和网络攻击，但它可以在网络安全系统中用于抵御攻击吗？

Resilience Insurance 的首席信息安全官 Justin Shattuck 表示：“ChatGPT 和类似技术，例如微软将 OpenAI 模型用于 GitHub 的 Copilot 服务，将有助于打破网络安全中的障碍。”

聊天机器人是一种工具，可以提供更详细和可操作的信息，帮助安全分析师更有效地采取行动。安全团队一直在与噪音作斗争，围绕聊天机器人的技术可以成为消除干扰噪音的高效工具。

能够使用与服务集成的现有工具来帮助破译、翻译、解码和理解复杂信息，这将有助于减少进入障碍以及对事件采取行动所需的时间，进而提高安全团队的效率。

当下AI需要人类

在网络安全中越来越多地实施人工智能，经常被认为是解决技能差距和熟练网络安全专业人员短缺的一种方式。不可否认，人工智能在处理经常导致倦怠的重复性任务方面做了很多工作。

但是人工智能需要人类。安全专业人员在监督机器被要求执行的行为和任务方面发挥着至关重要的作用。作为人类，我们应该去采纳和使用更多的机器人，更多的自动化和更多的人工智能，借助机器的力量来解决那些平凡和消耗时间的人，进而把人类宝贵的经历投入到更加有意义的地方：思考和解决计算机目前无法处理的复杂问题。

而且我们已经知道 AI 不是无所不能。如果人工智能能够接管所有网络安全功能，我们现在就已经解决了垃圾邮件问题，简而言之，攻击者在欺骗自动化系统方面拥有近 30 年的经验，而且这些能力也在不断地增加。

归根结底，网络安全是一个人类问题，技术加速了这一问题。我们这个行业存在的全部原因是因为人类的创造力、人类的失败和人类的需求，每当自动化‘解决’了一系列网络安全防御问题时，攻击者就会简单地用更新的技术创新突破这些防御来实现他们的目标。

如果有一天一切终于结束的时候，那应该是这样：技术解决了平凡的挑战，让人类专注于他们擅长的事情，战略性地确定下一步要解决的问题，接着由机器执行并重复。

因此，人工智能不太可能完全接管网络安全功能。未来，我们将需要人类操作员将直觉、创造力和道德决策带入网络安全。

AI参与保护和预防

通过以下五大应用场景，AI 采用者正在大力投资保护其业务的潜在价值。

应用 AI 来实现端点发现和资产管理。未经授权的设备在组织传统安全策略的雷达下运行，因而难以检测。AI 可以学习与特定资产类型、网络服务和端点相关的上下文、环境和行为，随后企业可以限制对授权设备的访问，并防止访问未经授权的非托管设备。

应用 AI 实现漏洞管理。AI 驱动的漏洞评估可以帮助识别配置不当的设备，以便管理员删除或重新配置这些设备。运营技术 (OT) 环境中的主动漏洞扫描可能会破坏系统的稳定性，但组织可以运用 AI 和自动化来执行被动监控。此外，AI 还可以提供关于漏洞攻击的信息，从而帮助客户确定漏洞修补优先级，以便采取基于风险的漏洞管理方法。

应用 AI 来实现访问管理。企业可以运用 AI 来审计用户和应用对数据和服务的访问。建立了对敏感资源的授权之后，AI 就可以协调整个控制平面的活动，包括监控行为、标记异常、生成上下文洞察、发送预警以及启动补救措施。

应用 AI 来实现威胁模拟。威胁模拟器可以连接至组织网络中的软件端点，以便模拟网络安全事件的生命周期。它不需要与生产服务器或端点交互即可测试实时安全防御，从而让企业能够在不影响其运营的情况下识别并填补防御体系中的漏洞。

应用 AI 来实现身份管理。零信任安全运营对 IT 基础架构和安全身份验证功能提出了更高的要求，尤其是需要近乎实时地解析身份。尽管零信任可以大幅增强运营能力，但也对运营能力和协调提出了新的挑战（例如，支持远程工作人员使用来自多个位置的多个设备）。AI 可以结合历史行为、情境化数据和基于角色的策略来创建独特的用户配置文件，从而增强身份验证服务。

AI 加速检测和响应

AI 采用者正在运用 AI 和自动化来大幅提高其网络安全员工的工作效率，并通过一些关键绩效指标来进行衡量。以下 5 个应用场景演示了具体应用。

自动检测和响应。安全 AI 和自动化可自动收集、集成和分析来自数百甚至数千个控制点的数据，并整合系统日志、网络流、端点数据、云 API 调用和用户行为。再结合威胁管理和预警优先级排序，组织可以通过端点检测和响应 (EDR) 以及跨层检测和响应 (XDR) 功能来为现有遥测解决方案提供强力补充。这使安全运营团队能够充分了解安全异常的情境、确定优先级顺序并投入足够安全人员来调查高影响威胁。

威胁情报。借助基于 AI 的安全智能，组织可以分析实时数据流以实时检测异常行为。结合跨域安全信息（通过集成内部遥测信号与外部情报源）可在切实可行的窗口中提供切实可行的情报，从而提高安全策略的有效性，尤其是与紧急威胁相关的安全策略的有效性。此外，还可以跨云环境应用相同的程序来扩展日志捕获功能 — 扫描可能指向更难以解释的攻击特征的不规则配置，例如零日攻击和高级持续性威胁 (APT)。

案例管理。借助安全案例管理功能，安全团队可以收集可疑活动的相关信息，并利用与案例相关的详细信息和日志来升级调查。应用 AI 可以提高数据的处理速度和处理量，还可以集成数据科学技术，从而自动对文档中的数据进行识别和分类。由于 AI 可以理解上下文，因此可以按主题对数据进行分组，而无需事先分类，从而帮助安全团队运用识别到的相关数据来进行推理并查找不明显的相似点。

威胁管理。AI 可以有效对预警进行分类，并区分假阳性和假阴性，让安全分析师能够首先关注最关键的预警，并大幅降低错过关键事件的几率。AI 还可以根据攻击特征、危害指标 (IOC) 和行为指标 (IOB) 对威胁特征进行分类和优先级排序，并触发预警。

行为建模和异常检测。自动化 AI 安全模型可以识别异常行为、动态评估漏洞并标记异常活动，包括所有潜在的危害指标。随后，机器学习可以根据情境变量、历史先例或威胁情报来源等各种因素来提出补救方案，并在特定控制点更新策略管理。

 关于HummerRisk

HummerRisk 是开源的云原生安全平台，以非侵入的方式解决云原生的安全和治理问题，核心能力包括混合云的安全治理和K8S容器云安全检测。

Github 地址：https://github.com/HummerRisk/HummerRisk

Gitee 地址：https://gitee.com/hummercloud/HummerRisk

深度学习发现古人类遗址，AI 考古比胡八一更高效

作者 |神经星星

来源 |HyperAI超神经

By 超神经

内容一览：伊利诺伊州立大学人类学专业考古方向的研究人员，将空间遥感技术和深度学习应用于古人类遗址的发掘和研究。

关键词：考古遥感机器视觉

考古，一直是个神秘又充满吸引力的话题。

盗墓系列小说《鬼吹灯》中主人公胡八一，就是靠半部《十六字阴阳风水秘术》掌握了寻龙诀和分金定穴，找到大墓和宝藏。

「盗墓文学」将探险、玄学、灵异等元素加入了考古学，

使盗墓主题红极一时

胡八一的那套口诀：寻龙分金看缠山，一重缠是一重关，关门如有八重险，不出阴阳八卦形。帮助他用八卦星象确定墓穴位置、找到逃生出口，顺利完成任务，解决难题。

近年考古事件也频频登上热搜，新闻中常见的标题：爱琴海农民挖出古希腊雕塑、西安地铁为战国古墓停工等等，让考古工作看起来很像开盲盒，仿佛要靠碰运气才能发现遗迹。

AI 考古：深度学习大有可为

伊利诺伊大学人类学专业的博士 Dylan Davis 就致力于将遥感和深度学习加入到考古中，带来更多的发现。

他基于南卡罗来纳州几个地区的 LiDAR 激光雷达数据，结合了当地的 SAR 合成孔径雷达、多光谱数据，利用机器学习和深度学习的方法，发现了多处 3000-5000年前的美洲原住民生存遗迹。

古人类的居住地附近常用食用过的贝类、动物遗骨、食物残渣堆积围绕，久而久之就形成了环形的围体，在考古学中将这类人类遗址成为贝丘遗址或贝环遗址。

环状地形、贝丘遗存是古人类生活、构建家园的主要特征

这类遗址往往出现在沿海地区，在我国、日本、英国、北非等世界各地都有发现，这些遗址通常属于新石器时期，或者晚至青铜时期。

对古人类贝丘遗址的考察、遗址沉积物的分析，可以为北美洲原住民的发展年表、社会形成、气候环境变化提供丰富的研究资料。

这些古人类在建设住地时，会对土壤空隙和地形产生轻微的改变，但经过千百年来的更迭，这些变化很难在地面通过肉眼观察出来，所以也让这些遗址的发现增加困难。

壳环形态在遥感影像上形态不一

有圆环、相互连接的圆环，也有半圆环

在利用机器学习和深度学习进行图像处理环节时，Dylan 首先下载了实验区域的 LiDAR 数据，将其提取数字高程模型（DEM）分析得到丘陵阴影（Hillshade）和坡度（Slope），旋转 45° 来增强训练数据。

最终得到了 776 个环状地形、720个贝丘地形和 1316 个无关地形，导出为 200*200 的图像，保留了 10% 作为验证集。

Dylan 和团队基于 ResNet 50 设计了一个 Mask-R-CNN 模型，为了对模型基于 LiDAR 训练数据得出的深度学习结果进行交叉验证，团队还基于Sentinel-1的多时相 SAR 数据和 Sentinel-2 的多光谱数据，对研究区域的环形地形进行了随机森林（RF）概率分析。

经测试，模型获得了让团队满意的结果

Dylan 和团队在一台 NVIDIA Quadro p4000 GPU、Intel® Core™ i7-7700 K CPU @ 4.20 GHz、4200 Mhz、4 个核心、8 个逻辑处理器和 64 GB 内存配置的工作站中，训练了 40 多个小时，共运行了 20 个 epochs，获得了最佳模型的训练和验证损失分别为 0.252 和 0.554。

在 Dylan 和团队的该项研究之前，美国的五大湖区已知的的古人类遗址大约有五十多个，在这些古人类遗址中发现了石器和陶器等人类生存痕迹。在 Dlyan 的研究结果显示，这些区域仍有近百个疑似古人类遗址等待被验证。

Dylan 在近期的研究中提到，下一步即是根据训练结果在实地进行考察。

空间考古：非破坏性考古研究

真正的考古没有分金定穴这么玄妙，没有传说中的藏宝图和神秘钥匙，当代考古工作大多是非主动性的发掘。

受到目前发掘保护方法的局限，很多文物可能会因为缺乏有效的保护手段，一经发掘出土，就会永久性地损坏。比如我国就以「如无必要，不进行主动发掘」的标准，来保护遗迹和考古发现，所以空间考古越来越受到重视。

在二战后，全球的考古学界都开始使用空间技术，尤其是结合遥感来进行考古研究。遥感考古主要是通过分析遥感图像，再结合考古成果、历史和文献资料进行的。不仅能避免野外工作花费大量时间，经费和精力，减轻劳动强度。