OpenAI开发了一种工具，可以检测ChatGPT是否被用于撰写论文或研究论文，但由于内部争论和对用户反应的担忧，该公司尚未发布该工具。据《华尔街日报》报道，该工具能够检测ChatGPT编写的人工智能文本，准确率为99.9%。
令人惊讶的是，报告显示OpenAI的反作弊工具已经准备了一年，但内部讨论推迟了它的发布。该公司在透明度和留住用户之间左右为难。OpenAI甚至对用户进行了一项调查，近三分之一的ChatGPT忠实用户反对这项技术。OpenAI指出的另一个担忧是，该工具可能会不公平地影响非英语母语人士。尽管该工具在技术上很有前景，但该公司仍在权衡风险并研究替代方案。一些员工认为，这项技术的好处超过了这些担忧。
这个工具是如何工作的?
反作弊工具使用一种水印方法，巧妙地改变了文本生成中的令牌选择。这些变化创造了一种看不见的模式，OpenAI的技术可以检测到，它可以对文档由ChatGPT编写的可能性进行评分。据报道，当生成足够的新文本时，水印的有效性为99.9%。
有人担心，水印可以通过翻译或添加和删除表情符号等技术轻易去除。此外，确定谁应该有权使用探测器也是一个挑战。限制访问可能会降低其有效性，而广泛的访问可能会危及水印技术。
教师和教授都渴望有工具来打击教育中对人工智能的滥用。根据该报告，一项调查发现，59%的初中和高中教师认为学生已经使用人工智能来完成作业。尽管有必要，OpenAI对反作弊工具对用户体验和公平性的影响持谨慎态度。谷歌(Google)等其他公司也在开发水印工具，比如谷歌的SynthID，目前正处于beta测试阶段。OpenAI优先考虑音频和视觉水印而不是文本，因为它们的影响很大，特别是在选举年。OpenAI面临内部辩论，并进行了调查，以评估公众对该工具的看法。虽然一些数据显示公众支持，但仍有人担心虚假指控和对ChatGPT业绩的潜在影响。OpenAI继续探索较少争议的替代方案，并寻求与公众舆论和潜在的人工智能透明度新法律保持一致。
本文来自作者[安以沐]投稿，不代表浩龙号立场，如若转载，请注明出处：https://cn.xhzfwx.com.cn/zheh/202505-1183.html
评论列表（4条）
我是浩龙号的签约作者“安以沐”！
希望本篇文章《OpenAI推出了一款工具，能够以超过99.9%的准确率识别ChatGPT生成的文本》能对你有所帮助！
本站[浩龙号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：OpenAI开发了一种工具，可以检测ChatGPT是否被用于撰写论文或研究论文，但由于内部争论和对用户反应的担忧，该公司尚未发布该工具。据《华尔街日报》报道...