首页 AI写作 正文

ChatGPT克星?OpenAI发布不完美的工具来检测AI生成的文本

ChatGPT克星?OpenAI发布不完美的工具来检测AI生成的文本

ChatGPT的克星?OpenAI发布“不完美”工具来检测人工智能生成的文本

OpenAI是流行聊天机器人ChatGTP的创建者,它发布了一款用于识别AI生成文本的软件工具。

ChatGPT是一款根据提示生成文本(包括文章、散文、笑话甚至诗歌)的免费程序,自11月推出以来广受欢迎,同时引发了对版权和抄袭的担忧。

AIclassifier是一种在同一主题的人类和人工智能文本对数据集上训练的语言模型,旨在区分人工智能编写的文本。该公司表示,它使用各种供应商来解决自动错误信息活动和学术不诚实等问题。

在其公开测试模式中,OpenAI承认该检测工具对于少于1,000个字符的文本非常不可靠,并且可以编辑AI编写的文本来欺骗分类器。

OpenAI表示:“我们认识到识别人工智能编写的文本一直是教育工作者讨论的一个重要问题,认识到人工智能生成的文本分类器在课堂上的局限性和影响也同样重要。我们目前正在将这种分类工具公开,以获取关于这样不完善的工具是否有用的反馈。”

自ChatGPT于11月推出并受到数百万用户欢迎以来,包括纽约市在内的一些美国最大的学区已禁止使用人工智能聊天机器人,因为担心学生会使用文本生成器进行作弊或剽窃。除了AIclassifier之外,GPTZeroX等其他第三方检测工具也已出现,帮助教育工作者检测AI生成的文本。

OpenAI表示,它正在与教育工作者合作讨论ChatGPT的功能和局限性,并将继续致力于检测人工智能生成的文本。

本文转载自互联网,如有侵权,联系删除

本文地址:https://www.5i818.cn/2763.html

相关推荐

发布评论

文章目录