OpenAI 的工具可以检测 ChatGPT 生成的内容，但它并不公开

领先的人工智能研究实验室OpenAI为其聊天机器人ChatGPT开发了水印系统。然而，由于各种担忧，该公司不愿发布此功能。据《华尔街日报》报道，该系统已准备就绪约一年，通过修改人工智能模型预测后续单词和短语的方式来运行。此过程在文本输出中创建可检测的模式。

水印系统可以帮助教育工作者检测人工智能生成的内容

水印系统对于旨在防止学生提交人工智能生成的写作作业的教育工作者来说可能是有益的。OpenAI 的内部测试发现水印不会影响聊天机器人文本输出的质量。由萨姆·奥特曼领导的初创公司委托进行的一项调查显示，全球范围内四比一的人支持使用人工智能检测工具的想法。

OpenAI 的水印方法有效性达 99.9%

OpenAI 在周日更新的博客文章中确认了其在文本水印方面的工作，并表示其方法的有效性达到 99.9%，并且可以抵御改写等篡改行为。然而，该公司也强调了这种方法的潜在问题。使用另一种模型进行改写等技术可能会让不法分子轻松绕过水印。此外，人们担心，如果非母语人士广泛使用带水印的内容，人工智能工具的实用性可能会受到损害。

用户担忧和替代解决方案

OpenAI 还表示担心水印可能会阻止用户使用 ChatGPT。近 30% 的受访用户表示，如果加入水印，他们将减少使用该软件。尽管存在这些担忧，但据报道一些员工仍然相信水印的有效性。然而，考虑到用户的情绪，公司正在考虑替代方法作为解决这些挑战的潜在解决方案。

OpenAI 探索元数据嵌入作为潜在替代方案

OpenAI 目前正在探索将元数据嵌入文本的可能性，作为一种在用户中不太引起争议的方法。这种方法尚未得到证实，但由于其加密签名可以消除误报，因此很有前景。不过，现在判断其有效性和用户接受度还为时过早。此次探索表明 OpenAI 致力于在维护用户信任和确保 AI 技术的道德使用之间找到平衡。