OpenAI 祭出 AI 文本检测利器，ChatGPT 的对手横空出世

Posted 2023-02-14 非著名程序员

大家好，我是校长。

自从 ChatGPT 发布以来，真的是热度依旧不减，几乎每隔几天都会有新的消息爆出，登上热搜。

尤其是，ChatGPT 发布后，竟然成了学生的作弊神器，有学生用 ChatGPT 来写作业，写作文，甚至还有用它写论文的。前几天，我还看到一个新闻，有公务员使用 ChatGPT 来写公文。

当然了，更牛的是，有学生使用 ChatGPT 来参与学校的课程考试，甚至过了医学考试，然后引发了老师们和社会的担忧。

这些事件直接的后果是，美国一些最大的学区已禁止在其网络和设备上使用 ChatGPT。

科技就是这个样子，拥有一体两面，正确的使用它可以提高效率，促进发展，错误的使用它，可能会造成社会危害。

那么如何检测内容是否是 AI ，是 ChatGPT 所写的呢？这就成为了刚需。

ChatGPT 带来的喧嚣还未归于平静，昨天，ChatGPT 背后的公司 OpenAI 又趁热打铁推出了一款检测工具，试图区分人工编写的文本和 AI 生成的文本。

这款工具名为 AI 文本检测器（AI Text Classifier），据《每日经济新闻》记者亲测了其检测效果发现，其能成功区别单独的人工或 AI 文本，但当人工和 AI 文本混淆时，检测效果并不乐观。不过，OpenAI 认为，当这个检测工具与其他方法结合使用时，可能有助于防止 AI 文本生成器被滥用。

不过，这个工具目前还是有一定局限性的，OpenAI 显然也意识到了这个工具的局限性，因为它在博客里强调，不要仅仅凭借这个检测器来确定内容的真实性，“在确定文档是否由 AI 生成时，检测结果可能会有所帮助，但不应成为唯一的证据。”

OpenAI 在这个检测器里，使用了来自多个来源的 AI 生成的文本样本和人工编写的样本来训练模型。

AI 生成的文本样本方面，他们使用了包括 OpenAI 在内的 5 个不同机构开发的 34 个模型生成的文本来进行训练。而人工编写的文本有三个来源，包括一个新的维基百科数据集、2019 年收集的 WebText 数据集，以及训练 InstructGPT 时收集的部分数据。

OpenAI 也对检测器在进行测试时的准确性进行了详细说明：

• 大约 5% 的人工撰写的文本和 2% 的人工智能生成的文本，被判定为 “非常不可能由 AI 生成”；

• 大约 15% 的人工编写文本和 10% 的人工智能生成的文本，被归为 “不太可能是 AI 生成”；

• 大约 50% 的人工编写的文本和 34% 的人工智能生成的文本，被归为 “不清楚是不是 AI 生成”；

• 大约 -21% 的人工编写的文本和 28% 的人工智能生成的文本被归为 “可能是 AI 生成”；

• 大约 9% 的人工编写的文本和 26% 的人工智能生成的文本，被归为 “可能由 AI 生成”。

虽然，目前这个工具的准确度和确定性还不是很高，但是，也有网友说：OpenAI 自己创造了 ChatGPT ，现在又推出一个反 ChatGPT 的工具，是不是在玩猫捉老鼠的游戏呢？

是不是在玩猫捉老鼠的游戏我们不知道。

不过，OpenAI 可以用这种方式来持续保持热度，推出 ChatGPT 让自己登上了风口浪尖，市值涨了一波，现在再推出一个 ChatGPT 的检测工具，可能又会让自己保持一段时间的热度，或许，市值又能大涨一波。

而且，用魔法来打败魔法的背后，OpenAI 的目的可能是想用人工智能来训练人工智能的方式，让 ChatGPT 的进化更上一层楼。

毕竟，当自己掌握了如何检测是否为 AI 所创作的内容之后，就相当于找到了 ChatGPT 的漏洞，然后再进一步针对性的弥补，让 ChatGPT 进化更像人，岂不是非常完美？

一句话：用人工智能去训练人工智能，然后抹去人工智能的痕迹，最终让人工智能更像人，这可能是一种效率更高的进化方式。

点击下方公众号卡片，关注我

在公众号对话框，回复关键字 “1024”

免费领取副业赚钱实操教程