大学生在线“打假”，火速开发了一款拆穿 AI 的神器

Posted 2023-01-12 CSDN资讯

整理 | 屠敏
出品 | CSDN（ID：CSDNnews）

ChatGPT 的爆火，几家欢喜几家愁。

喜的是，它的确为各行各业带来了极大的便利；愁的是，它的滥用，在学术界影响尤为恶劣，以至于当代大学也看不下去了，甚至在新年交替之际，直接动手开发了一款可以识别文本是否来自 AI 的神器。截至目前，引发了 715.6 万人的围观。

一、引发争议的生成式 AI

毋庸置疑的是，ChatGPT 是生成式 AI 成功的代表产品之一。虽然当前，其还处于测试阶段，但是过去一个多月中，无数人的尝试与使用已经证明了 ChatGPT 的到来让 AI 落地发展往前迈进了一大步。无论是对写代码，还是更多 AIGC 的实践都有很大的帮助。

然而，正如文章伊始所述，随之而来的还有业界对其广泛滥用的负面担忧，譬如不久之前一位大学教授抓到了一个用 ChatGPT 写论文的作弊者；StackOverFlow 充斥着大量没有来源的 AI 答案；在众多艺术家付出心血的美国科罗拉多州博览会的艺术比赛中，一幅出自 AI 之手的《太空歌剧院》竟然轻松地摘得了桂冠，这让人类艺术家情何以堪…

如果 AI 被无限制地滥用，那么艺术家创作的热情、学生潜心专注于研究的耐心，或将都会被 AI 磨灭。

正因此，AI 生成式的作品，接连收到了业界的“封杀令”，其中包括 StackOverFlow、纽约市教育部相继宣布禁用 ChatGPT。

与此同时，国内也开始行动。国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自 2023 年 1 月 10 日起施行。《规定》指出，将人脸替换、合成人声、图像生成在内的各种 AI 应用，纳入到监管范围内。

当然，ChatGPT 背后的开发商 OpenAI 以及其他 AI 产品制造商也深刻意识到了这一点，不久前，OpenAI 的客座研究员 Scott Aaronson 对外透露，OpenAI 正在潜心研发一种“为 AI 加水印”的方法，来帮助众人识别哪些东西是人类自己完成的，哪些东西是 AI 生成的。

不过，比官方更快一步的是，一位来自普林斯顿大学计算机科学专业的学生 Edward Tian 于 1 月 3 日在推特上宣布，「利用新年的时间构建了一款可以快速有效地检测一篇文章是 ChatGPT 还是人工撰写的应用程序——GPTZero（https://gptzero.substack.com/）」。

二、GPTZero，可识别是人还是 AI？

当前，GPTZero 应用程序主要检测的对象仅是文本，还不能用于检测图像等 AI 生成的其他形式内容。

它的界面窗口和 ChatGPT 的窗口有些类似，都是简单的 UI，只要将需要检测的文本内容复制到程序的窗口中即可。

Edward Tian 也在推特上分享了两个视频，比较了《The New Yorker》网站上的一篇文章和 ChatGPT 生成的一封信，最终，这款工具正确地识别出它们分别是由人类和 AI 撰写的。

这款工具主要是对文本书写方式的随机性和复杂性为指标进行检测，技术上称之为是 “困惑性和突发性”。

除了 Edward Tian 本人对 GPTZero 进行测试之外，也有不少网友用它对 ChatGPT、一些 GPT-3 衍生工具生成的内容进行了多次测试，最终结果显示，GPTZero 每次都能抓住人工智能生成的文本，并在十多个案例中正确识别了人类写的文本。

在 GPTZero 发布之后，受到了很多用户的欢迎，Edward Tian 称有超过 10，000 人在 Steamlit 上测试了 GPTZero 的公开版本（https://etedward-gptzero-main-zqgfwb.streamlit.app/），这也导致该网站“由于出乎意料的高网络流量”而崩溃。

Tian 也直言，意料不到会有这么多人对 GPTZero 感兴趣。而之所以开发这款工具，主要是因为看到越来越多的人工智能抄袭事件后，他才有动力去构建 GPTZero。

他说道，“你认为高校老师会希望学生使用 ChatGPT 来撰写他们的论文吗？可能不会。”

简而言之，网络上充斥着太多 ChatGPT 炒作的内容。这个和那个是人工智能撰写的吗？其实我们作为人类应该知道！

有些缺憾的事，目前还没有足够的数据来衡量 GPTZero 工具的准确性，当前开发者本人也正在努力地通过测试来发布一个数据。同时，Tian 称将会对 GPTZero 进行更多更新，包括“改进模型功能，并扩展应用程序。”

不过，这对于当代大学生仅通过一个假期而开发出来的产品而言，已然算是不错的成果。

三、网友：世界各地的学生看到都要哭了！

科技是把双刃刀。在带来便利的背后如何遏制住负面，来自 Voicebot 创始人 Bret Kinsella 评价道，“一些教育工作者有兴趣发现如何在学习过程中建设性地使用 ChatGPT 和其他 LLM。但是，现在的重点是如何抑制使用或抓住用户。我们应该期望这种关注会持续下去。探索如何将 LLM 融入教育需要花费时间和精力，但是很少有人愿意花费这些时间和精力。这可能会对学生造成伤害。”

因此，规范使用 ChatGPT，也需要 GPTZero 这类的工具进行约束，对此，不少网友也表示欢迎：

@aridutilh _：

“我有一种感觉，世界各地的老师很快就会使用它……对于使用 AI 写论文的学生来说，这并不算太神奇，哈哈！”

@ erstorts：

这是一位同事告诉我这款工具的。考虑到人工智能生成内容的兴起，我认为这是一个好主意。我期待更多的制造商创造出类似的产品，因为我们消费的内容越透明越好。

不过，也有人调侃道，“世界各地的学生看到这个应该要哭了吧！”

参考资料：

https://twitter.com/edward_the6

https://voicebot.ai/2023/01/04/deepfake-text-detector-tool-gptzero-spots-ai-writing/

《2022-2023 中国开发者大调查》重磅启动，欢迎扫描下方二维码多点击，参与问卷调研，更有 iPad 等精美大礼等你拿！