首页 AI写作 正文

解铃还须系铃人?ChatGPT开发者放出AI内容识别工具,但称失败率高达34

解铃还须系铃人?ChatGPT开发者放出AI内容识别工具,但称失败率高达34

问题该结束了吗?开发商ChatGPT发布AI内容识别工具,但称失败率高达3/4

随着ChatGPT的日益普及,人工智能生成的内容也引发了版权和学术道德等方面的担忧。对此,ChatGPT背后的初创公司互相借矛攻击对方的盾牌,推出AI生成的内容识别工具,但也承认这些工具“不可靠”。

周二,ChatGPT背后的公司OpenAI推出了一个分类器,用于区分人类编写的文本和所有类型人工智能(不仅仅是ChatGPT)编写的文本。

据OpenAI称,其人工智能分类器几乎有四分之三的时间无法检测到机器人编写的文本,因此不应将其用作主要决策工具,而应作为确定文本来源的补充方法。

在英语文本识别测试中,该分类器仅将26%的AI生成文本正确识别为“可能由AI编写”。人类书写的文本也被分类器“错误但自信地”标记为人工智能书写,比例为9%。

据报道,该分类器在识别短文本(少于1000个字符)方面非常不可靠。分类器的可靠性通常随着输入文本长度的增加而提高,但较长的文本也可能被分类器错误地标记。。

OpenAI建议仅使用该分类器进行英文文本识别,它在其他语言中的表现要差得多,并且对于代码识别来说并不可靠。

OpenAI表示,虽然分类器可能无法可靠地检测人工智能编写的所有文本,但该工具补充了教育工作者、雇主和其他人用来确定文本来源的方法,为一些错误做法(例如使用人工智能)提供了参考。。针对学术不端行为等的智能工具。

自去年11月推出以来,ChatGPT已在各行各业广泛传播。它可以在几秒钟内生成几乎任何主题的类似人类的文章、诗歌、脚本和销售文案。它甚至可以帮助程序员写代码,帮助学生写论文。此外,ChatGPT有可能被滥用来传播错误信息和编写垃圾邮件。

一些学校已经开始禁止学生使用ChatGPT,许多大型互联网公司也禁止了ChatGPT。

根据用户反馈,OpenAI希望改进该工具。该公司表示已与美国教育工作者联系。讨论ChatGPT的功能和局限性。

本文来自华尔街日报,欢迎下载APP查看更多

本文转载自互联网,如有侵权,联系删除

本文地址:https://www.5i818.cn/2398.html

相关推荐

发布评论

文章目录