OpenAI 正在考虑为成人用户开放一种可以产生色情内容的 ChatGPT 模式。这听起来像是满足某些人好奇心的功能，实际上却可能把用户最私密的想法和偏好变成数据记录，进而带来真正的风险。
什么是“成人模式”，为什么大家开始在意
类似功能并非全新概念，色情聊天机器人多年存在于小众网站。不同之处在于，如果 OpenAI 在主流平台上推出这类功能，那会把大量用户和他们的性幻想集中在一个被广泛使用的服务里。
研究人类与人工智能互动的专家指出，生成式 AI 的设计很容易让人把它当作有意识的社交对象来对待。把性内容加入这种“社交”体验，会让原本单向的亲密感变得更复杂。
记忆功能会记住什么
ChatGPT 近年不断改进记忆功能，用于记录用户偏好并提供个性化建议。比如你标注自己是素食者，它下次不会推荐牛排馆；它也可能记住你的城市位置以便推荐附近的徒步路线。
把这类记忆功能和色情对话结合，就出现了问题。想象一下，系统开始记住并重复你从未向真人说过的幻想内容。系统可能保存关于恋物癖、多人情景或其他敏感偏好的记录，未来用来定制响应或建模用户行为。
“临时聊天”并不完全临时
为了缓解担忧，OpenAI 提供了“临时聊天”选项，声称这些对话既不会出现在历史记录中，也不会用于训练模型。但这里有个重要细节：出于安全原因，这些聊天副本可能会保存最多 30 天。
此外，服务条款中还提到，数据保留可能会受到法律变化的影响。换句话说，这些对话并非永远不可见，也可能在特定情况下被调取。
真实的风险：数据泄露与执法请求
更令人生畏的是现实世界的风险。如果账户被入侵、系统出现漏洞或政府要求访问数据，那些非常私密的对话可能被曝光。历史上确实发生过类似事件：一次漏洞导致用户的聊天标题被短暂泄露，另一次则因为分享设置导致用户对话被搜索引擎索引并意外公开。
此外，外部顾问也提出了其他极端担忧，比如系统可能被滥用来提供有害建议或以不当方式强化危险行为。
专家们怎么说
- Julie Carpenter 表示，她支持人们探索性，但强调这一过程必须兼顾安全。她提醒大家意识到数据中存在的监视成分。
- Kate Devlin 指出，厂商有动机把这种需求货币化，因为人们本来就会去尝试这些行为，平台把它们整合进主流服务，商业利益显而易见。
普通用户可以做什么
- 使用临时聊天时要清楚它们可能会被保留短期，评估你愿意承担的风险。
- 启用更强的账户安全措施，例如双因素认证，减少被入侵的可能性。
- 在平台上分享之前，考虑到未来可能的泄露和法律请求，不要把最敏感的信息完全托付给第三方。
把私人幻想告诉一台会记忆的机器，听起来既诱人又危险。对于想尝试的人来说，做好防护意识比一味追求即时满足更重要。
