OpenAI发布ChatGPT人工智能文本生成检测工具

admin 2023年2月4日13:40:17评论88 views字数 984阅读3分16秒阅读模式

OpenAI发布ChatGPT人工智能文本生成检测工具

OpenAI发布ChatGPT人工智能文本生成检测工具        ChatGPT

ChatGPT是OpenAI 2022年11月推出的交互式自然语言对话模型。OpenAI使用RLHF(从人类反馈中进行强化学习)来训练ChatGPT,与InstructGPT使用的方法相同,但数据收集设置时有明显的差别。在训练初始模型时使用有监督调整(参):人类AI训练器提供的会话。训练员有访问模型建议的权限以帮助训练器更好地完成响应。然后将新生成的会话数据集与InstructGPT数据集混合,形成对话格式。

ChatGPT发布后在业界引发了震动,随后给各方广泛试用,其中就包括学生。有学生试用ChatGPT来写论文、作业和编写程序,并且老师很难分辨论文、作业和编写的程序是否是由学生自己完成的。此外,还出现了很多署名ChatGPT的待发表论文。

为应对这一问题,全球学校纷纷采取措施,比如禁用该平台。根据BusinessInsider的数据,ChatGPT目前已被纽约、西雅图、洛杉矶等地的初高中禁用,法国和印度的大学计算机也禁用了该平台。

OpenAI发布ChatGPT人工智能文本生成检测工具        ChatGPT检测工具

1月31日,OpenAI 宣布推出人工智能文本分类器,旨在检测输入内容是否是由ChatGPT这样的人工智能工具生成的。

OpenAI称其分类器并不完全可靠。在英文文本测试时,分类器正确识别了26%人工智能生成的文本,约9%人类写出的内容错误标记为人工智能生成的。随着输入文本长度的增加,分类器的性能有所提高。与之前其他分类器相比,该分类器的准确率高于其他检测分类器。

分类器试用地址:http://platform.openai.com/ai-text-classifier

OpenAI称由于结果并不完全可靠,因此不建议将该工具用作决策,而是作为其他检测工具和方法的补充。

ChatGPT试用地址:https://chat.openai.com/

https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text

参考及来源:https://www.bleepingcomputer.com/news/technology/openai-releases-tool-to-detect-ai-written-text/

OpenAI发布ChatGPT人工智能文本生成检测工具

OpenAI发布ChatGPT人工智能文本生成检测工具

原文始发于微信公众号(嘶吼专业版):OpenAI发布ChatGPT人工智能文本生成检测工具

  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2023年2月4日13:40:17
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   OpenAI发布ChatGPT人工智能文本生成检测工具http://cn-sec.com/archives/1536751.html

发表评论

匿名网友 填写信息