准确率99%,新模型可识别ChatGPT生成的文本内容

IT之家 11 月 8 日消息,根据 sciencedirect 收录的最新论文,科学家依赖 20 个特征和机器学习算法,可以准确区分内容是由人类论文作者创作,还是由 ChatGPT 生成的,且准确率可以高达 99%。

Bing Image Creator 生成

AI Detector 研究人员表示该模型在区分人类写作和 ChatGPT 生成的文本方面表现出 99% 的准确率,并且明显优于 ChatGPT 制造商 OpenAI 提供的 AI 检测软件 GPT-2 Output Detector。

研究人员也坦言,现阶段该赛模型算法测试的样本数据并不够大,只是测试了 13 家化学期刊和 3 家媒体上文章,通过 20 个文本特征和 XGBoost,可以有效区分人类协作,以及 GPT-3.5 / GPT-4 生成内容。

研究人员表示,这些测试表明他们的方法简单而有效。他们强调,取决于提示和模型,该工具在识别人工智能生成的文本时表现出 98%-100% 的准确率。

研究人员表示 OpenAI 目前检测器准确率目前在 10-56% 之间,该工具比 OpenAI 的更为先进。

研究人员进一步透露,这项研究和发明背后的目标是为科学界提供一种途径,让他们能够评估“ChatGPT 对化学期刊的渗透,确定其使用的后果,并在出现问题时迅速引入缓解策略”。

IT之家在此附上论文地址,感兴趣的用户可以深入阅读。

Heather Desaire, Aleesa E. Chua, Min-Gyu Kim, David Hua,Accurately detecting AI text when ChatGPT is told to write like a chemist,Cell Reports Physical Science,2023,101672,ISSN 2666-3864,https://doi.org/10.1016/j.xcrp.2023.101672.

标题:准确率99%,新模型可识别ChatGPT生成的文本内容

地址:http://www.hmhjcl.com/dianshi/40577.html