ChatGPT在安全研究领域的应用实践

Posted 2023-03-17

引言

ChatGPT是一个人工智能技术驱动的自然语言处理工具，它能够通过理解和学习人类的语言来进行对话，并能进行连续对话。目前ChatGPT已经官方已经更新模型到4.0版本，宣称它是“最先进的系统，能生产更安全和更有用的回复”。当前使用ChatGPT进行问答也越来越方便，本文总结了一些ChatGPT在安全研究领域的一些应用实践，有了人工智能的帮助，我们更轻松高效的完成部分研究工作。

01

防护规则编写

ChatGPT能很方便的帮助我们编写各类防护规则。除开规则本身，它还帮你写好了注释，让你不光能快速编写，还能根据注释进行学习。

对于给出的规则编写要求，ChatGPT也不拘泥于给定的条件和范围，会尝试进行发散。如在下图的案例中，在我们原本提的需求之外，ChatGPT在检测的文件内容里脑补了“<?php”字符串，消除了部分误报；同时在上传文件名里除了php外，对php3、php5也做了限制，消除了部分漏报。

除此之外，对于一些指纹类的事件型规则，我们可以很方便的利用ChatGPT完成相应规则的收集，后续只需要做好验证工作就行了。

02

检测规则编写

ChatGPT虽然不能直接帮我们写poc（主要是考虑到了漏洞利用造成的影响），但是对于一些检测插件，还是能很快帮我们写出检测demo示例来：

当需要转换语言或转换poc格式时，利用ChatGPT也能很轻易的帮忙完成相关工作：

03

代码审计&漏洞挖掘

我们当然希望通过ChatGPT帮我们做更多有意义的安全研究工作，比如自动化漏洞挖掘。就笔者目前的测试情况来看，对于逻辑较为简单的代码，ChatGPT能很快找到脆弱点，但稍微设置些“坑”上去，ChatGPT的表现效果就不那么友好了。

我们以一个最简单的sql注入为例，看看ChatGPT的表现效果如何。首先在不做任何过滤的情况下，ChatGPT能很快识别到sql注入：

我们加一个简单的过滤条件，把get方法里获取的参数过滤了，但是查询语句里还是使用request方法获取请求数据，很显然使用post方法传递数据依然可以造成sql注入，我们看看ChatGPT能发现吗？

这里ChatGPT回避了我们设置的“坑”，开始扯怎么绕过正则的问题。这并不是我们想要的答案，在稍加提示后ChatGPT给出了正解。

现在我们难度进一步升级，过滤request里的参数，然后将get里的参数拼接进sql语句，我们先来看看ChatGPT能否帮我们找到突破点。

ChatGPT在这里出现了代码理解错误，认为$_GET没有做任何过滤。我们想让它知道$_GET在$_REQUEST里已经被过滤掉了，于是开始引导：

ChatGPT在思考了一阵好发现确实是自己错了，该代码不存在sql注入，并开始道歉。这时候再给它一点提示，剧情又反转了过来

。

在一步步引导后ChatGPT终于发现了漏洞点在哪里，并给出了最终的绕过方案。从这个案例可以看出，ChatGPT在基于安全视角的代码理解上还需要不断学习和打磨。

04

社会工程学应用

作为“写小作文”的能手，ChatGPT自然在社会工程学上也有广泛的应用，例如我们可以利用它轻松写一封钓鱼邮件：

当然也可以用它来做钓鱼邮件识别和检测，我很乐意看到它自相矛盾的样子：

除此之外，我们可以根据所掌握的信息，利用ChatGPT生成口令字典：

总结

事实上ChatGPT凭借其强大的训练集有能力帮我们做更多安全研究方面的事情，比如漏洞复现、免杀、代码混淆等，只是很多偏向的成果已经被列为了黑名单。在上个月我们还能用ChatGPT辅助生成免杀的webshell，今天尝试的时候同样的请求已经被禁止了。但无论如何，人工智能的存在势必能提高我们的研究效率，也能帮我们探索出更多创新性的研究场景和方向。

ChatGPT在医疗领域的应用

第10章ChatGPT在金融领域的应用

10.1金融领域的现状和需求

随着科技的不断进步，金融领域也越来越需要依靠人工智能技术来提高效率和准确性。ChatGPT作为一种自然语言处理技术，在金融领域中也有着广泛的应用。本节将从ChatGPT在金融领域的现状和需求两个方面进行探讨。

ChatGPT在金融领域的现状

在金融领域中，ChatGPT主要应用于智能客服、智能投资、智能风险管理等方面。下面我们来看看ChatGPT在这些方面的应用。

智能客服

ChatGPT可以通过分析和理解用户的语言来提供针对性的服务。例如，用户可以向ChatGPT提出关于银行账户、信用卡、投资产品等方面的问题，并得到及时、准确的回答。智能客服可以极大地提高客户的满意度，并降低客服成本。

智能投资

ChatGPT可以根据用户的投资偏好和风险偏好，为其推荐适合的投资产品。ChatGPT可以分析用户的历史投资数据、市场行情等信息，从而预测未来的投资趋势，帮助用户做出更明智的投资决策。

智能风险管理

金融领域中的风险管理非常重要，ChatGPT可以通过分析大量的数据来识别和预测风险。例如，在信用风险管理方面，ChatGPT可以分析用户的信用记录、行为模式等信息，评估用户的信用风险；在市场风险管理方面，ChatGPT可以分析市场行情、宏观经济数据等信息，预测未来的市场变化，从而提高风险管理的准确性和效率。

在金融领域，ChatGPT的应用需求主要集中在以下几个方面：

客户服务与支持