斯坦福大学打响 ChatGPT 反击战，阻止学生用 AI 写作业

Posted 2023-02-02 AI科技大本营

整理 | 朱珂欣   

出品 | CSDN（ID：CSDNnews）

自 OpenAI 于 2022 年 11 月发布 ChatGPT 以来， ChatGPT 可谓是风靡各个领域：修bug、写代码、写周报、绘画、写小说……不仅如此，ChatGPT 也没“放过”教育圈，可谓是学生用得不亦乐乎，老师们却“防不胜防”……

据调查显示，美国 89% 的大学生在用 ChatGPT 做作业。近日，针对学生们屡禁不止的行为，斯坦福研究人员推出了 DetectGPT，便于检测出 AI 生成文本。DetectGPT 是基于大型语言模型（large language models，LLM）生成文本的特定倾向，从而可以判断文本是否是 AI 生成的。

新闻刚爆出，就引发不少网友关注，甚至有人调侃道：“ChatGPT 反击战终于敲响了，这一次是要用算法打败算法吗？

ChatGPT 被学生们“玩坏”

其实，本次教育圈的猛烈回击，并非无中生有，主要原因是学生们要把 ChatGPT“玩坏了”！

去年 12 月，弗曼大学哲学助理教授 Darren Hick 给学生们布置了一篇 500 字的课后文章。明明是一个没有难度的作业， Darren Hick 却发现居然有学生用 ChatGPT 来完成。

在一些“蛛丝马迹”的追踪后，Darren Hick 发现 AI 生成的第一个迹象是：尽管文章的句法连贯，但它毫无意义。他还表示：“可能在 ChatGPT 之后的升级优化中，这些痕迹将更难发现。”强大的 AI 生成，让 Darren Hick 感到极度恐惧。

但是，这并非个案。

据《纽约时报》1 月中旬报道，北密歇根大学的哲学教授 Antony Aumann 在为自己任教的一门世界宗教课程评分时，读到了一篇没有错别字和语法错误的“最佳论文”，教授倍感意外。不料最后发现，是学生用 ChatGPT 完成的。

在该篇论文中， ChatGPT 通过简洁的段落、恰当的举例和严谨的论据，探讨了禁止罩袍带来的道德问题。不禁让人深思，ChatGPT 是否也能对其它的话题侃侃而谈？究竟会带来什么更大的“惊喜”呢？

为了避免事态发展的更加严重，今年 1 月美国纽约市教育部正式宣布：纽约市的学生和教师，无法再在教育部设备或互联网上访问 ChatGPT 。很多大学甚至将“使用AI”列入作弊手段，开始纷纷出招！

斯坦福团队推出 DetectGPT

斯坦福大学研究团队推出 DetectGPT 的新方法 ，旨在成为首批打击高等教育中 LLM 生成文本的工具之一。

1 月 26 日，相关研究论文以《 DetectGPT : Zero-Shot Machine-Generated Text Detection using Probability Curvature 》为题，在网站 arXiv 上发布。

（图片来源：arXiv 论文截图）

该方法的原理是：由 LLM 生成的文本通常在模型的对数概率函数的负曲率区域的特定区域徘徊。基于这个观察结果，研究团队定义了一个新的基于曲率的标准（称为 “zero-shot”），可以让 DetectGPT 用于判断文本是否是机器生成的，并且不需要训练人工智能或收集大型数据集来比较文本。

然而，该方法存在一定的局限性。例如，在现有的掩模填充模型不能很好地表示有意义的改写空间的情况下，则某些域的性能可能会降低，从而导致曲率估计的质量被降低；以及 DetectGPT 相比于其他检测方法需要更多的计算量等。

值得一提的是，研究团队表示，该方法在检测机器生成的文本方面优于其他零样本方法，未来在机器生成文本检查方面将很有前途。并且，他们将尝试将这一方法用于 LLM 生成的音频、视频和图像的检测工作中。

网友：“感觉这是 AI 大战要开始了？”

伴随着#斯坦福大学推出新算法严查 ChatGPT 代写论文#的消息被爆出，就引发了网友的讨论热潮：

• “这回学生用AI写论文要犯难了”；

• “那我模仿 ChatGPT 的风格写作，怎么算呢”；

• “感觉这是 AI 大战要开始了”；

• “别人是用魔法打败魔法，你是用算法打败算法”。

毋庸置疑的是，随着 AI 技术的进一步发展，对于机器生成的文本及其相关的检测工作想必将备受关注。但是，任何事物的发展都存在两面性。一方面，AI 生成的文本能提供一套框架，便于人们更好地掌握修订和编辑的诀窍。而另一方面，它存在连续性较差，没有清晰的逻辑的缺点，甚至还会提供潜在的“作弊”可能。

那么，对于学生群体而言，该如何 ChatGPT 助力于自身学业的完成呢？对此，你怎么看？可以在评论区留言或讨论。

参考链接：

• https://arxiv.org/abs/2301.11305

• https://ericmitchell.ai/detectgpt/

• https://i.ifeng.com/c/8Myj7nsgbqR