OpenAI正在研发ChatGPT文本水印技术，这一技术旨在为ChatGPT生成的内容添加一个“数字指纹”，以便未来使用专门工具进行识别和验证，从而加强版权保护和内容的可追溯性。
电子工程专辑讯 OpenAI正在研发ChatGPT文本水印技术，这一技术旨在为ChatGPT生成的内容添加一个“数字指纹”，以便未来使用专门工具进行识别和验证，从而加强版权保护和内容的可追溯性。
据悉，通过文本水印，OpenAI 将只专注于检测来自 ChatGPT 的文字，而不是来自其他公司模型的文字。其将通过对 ChatGPT 选择单词的方式进行微小的更改来实现这一点，本质上是在文字中创建一个不可见的水印，以后可以被一个单独的工具检测到。
不过这个工具还尚未发布， 这一技术通过对ChatGPT选择单词的方式进行微小调整，在文本中隐蔽植入难以察觉的水印，未来可通过专用工具轻松检测。然而，这项技术仍面临诸多挑战，例如如何确保水印的不可见性同时不影响文本的自然流畅，以及如何防止水印技术被恶意利用等问题。
OpenAI 称，文本水印是他们探索的多种解决方案之一，其他还包括分类器和元数据，旨在确定文本的来源。
在应对复杂多变的文本篡改手段时，如翻译、深度改写或插入特殊字符等，这个水印工具的效果会大打折扣。此外，可能不经意间对非英语母语用户等特定群体造成不成比例的影响。
OpenAI内部对于是否发布文本水印技术存在显著的争议。一些员工认为，这项技术是负责任的做法，有助于防止滥用和提高透明度。但另一些员工则担心，这可能会影响用户的体验和公司的收入。此外，还有员工指出，文本水印技术可能会被绕过，甚至可能引起隐私泄露问题。
有些反对者表示担忧和不满。一些网友认为这项技术过于鸡肋，甚至有部分用户表示如果ChatGPT部署了水印，他们会减少使用该工具。还有观点指出，尽管这项技术能够高精度识别AI生成的文本，但其准确率高达99.9%的反作弊工具可能会让某些用户感到不安，担心自己的隐私和自由受到限制。
OpenAI 表示，由于这些复杂因素及其对整个生态系统潜在的影响，OpenAI 表示将谨慎推进文本溯源技术的研究，并优先考虑视听内容的认证工具。
您可能感兴趣
