据报道，OpenAI内部存在一个名为Project Lily的项目，雇佣数百名合同工人工审阅ChatGPT用户的聊天记录，以此来改进模型回复质量。

这些合同工被称为提示词审核员，工作内容是查看匿名后的真实聊天，评估ChatGPT回复的质量，判断是否真正回答了问题，是否存在AI腔调、居高临下的语气、表情符号滥用或阿谀奉承。

审核标准明确禁止拟人化表达和编造个人经历，如ChatGPT可以说“我找到了一些信息”，但不能说“作为一名厨师，我喜欢……”或“我知道那是什么感觉”。

一位审核员形容工作非常机械，虽然时薪超过50美元，但审核指南经常变动且自相矛盾。

令人担忧的是，许多用户会把ChatGPT当作临时朋友或心理咨询师，从而在对话中倾吐深层秘密。审核员表示，大多数用户并不知情自己的聊天正在被他人阅读。

虽然聊天记录经过匿名化处理且审核员看不到用户名，但OpenAI向404 Media承认，这种处理有可能会遗漏掉部分个人信息，短对话尤其容易遗漏。

此外交给审核员的版本还包含一份用户记忆摘要，汇总了用户的提问兴趣、上下文甚至可能的位置信息。

这一项目也戳破了AI公司的技术形象：模型并非仅靠技术进步和更好的训练数据提升，仍然需要大量人工介入。

而且大多数聊天机器人会默认启用“允许使用你的对话改进产品”选项，包括许多付费计划。已存入数据库的聊天除非用户主动删除否则仍会保留，但即便删除，聊天可能已被采集和匿名化，存在于某个数据集中。

OpenAI最初对404 Media的询问没有回应，后来提供了一条FAQ链接，该页面至少存在两年，报道发表后OpenAI更新了帮助页面，但文中未提及人工审核。

Google Gemini在隐私中心则明确表示“人工可能会审阅部分已保存的聊天”，Anthropic也有类似页面，Perplexity的态度则不明确。