名字暴露隐私?ChatGPT的惊人互动引发用户集体不安
近日有用户发现,ChatGPT在与人交流时开始主动使用用户的姓名进行对话,这种变化打破了它以往的默认模式。更令人惊讶的是,有些用户甚至没有告知ChatGPT自己的真实姓名,却依然被直呼其名。这无疑引发了广泛的关注和讨论。 在我看来,这种现象背后可能涉及技术层面的优化或数据处理上的新尝试。一方面,这可能是OpenAI为了提升用户体验而做出的调整,通过个性化的方式让用户感到更加亲切和自然。另一方面,这也引发了对隐私保护的担忧——即便用户并未主动提供个人信息,系统是否有可能通过其他方式获取到这些数据?无论如何,这种功能的推出无疑需要更加透明的说明和谨慎的设计,以确保用户的信息安全和隐私权不受侵犯。希望相关企业能够对此作出进一步解释,并采取措施打消公众的疑虑。
注意到,这一意外推出的“亲密”功能在用户群体中引起了多种复杂情绪,其中大部分为负面反馈。软件工程师及人工智能爱好者艾玛·约翰逊指出,这一功能让她感到“不安且完全没必要”。另一位技术专家卢克·哈里森则明确表示对此“十分反感”。通过在社交平台X上的简单检索可以发现,许多用户对ChatGPT直呼其名的做法表现出疑惑与警觉。有用户留言称:“这感觉像是老师一直在点我的名字,真让我有点不自在。”
目前尚不清楚这一变化具体是何时发生的,也无法确认是否与 ChatGPT 近期升级的“记忆”(memory)功能有关,该记忆功能允许聊天机器人利用过往的对话记录来个性化其回应。然而,一些用户在 X 平台上表示,即便他们已经禁用了记忆功能及相关的个性化设置,ChatGPT 依然会称呼他们的名字。
对于这一现象,ChatGPT 的开发公司 OpenAI 尚未做出回应。
这次用户反弹凸显了 OpenAI 在努力让 ChatGPT 变得更“个性化”时可能难以跨越的“恐怖谷”困境。就在上周,该公司首席执行官萨姆・奥尔特曼(Sam Altman)还暗示,未来的人工智能系统将能够“在你一生中逐渐了解你”,从而变得“极其有用和高度个性化”。但从最近这波用户反应来看,并非所有人都对这个想法买账。
迪拜一家知名的精神病诊所TheValensClinic曾发表一篇文章,探讨了人们在与ChatGPT互动时对称呼其名字产生反感的原因。文章指出,名字虽然能够传递亲密感,但如果被过于频繁地使用,尤其是在涉及聊天机器人的情况下,可能会让人感到不真诚。文中提到:“直接叫出对方的名字是一种有效的社交策略,这体现了接纳与尊重。然而,不当或过度使用却可能被视作虚伪甚至冒犯。”
从这一角度来看,很多人或许并不喜欢ChatGPT主动使用自己的名字,因为这种行为显得有些机械,是对缺乏情感的机器人进行不必要的拟人化处理。就像大多数人不愿意自己的烤面包机呼唤他们的名字一样,他们也不希望ChatGPT“装作”懂得名字背后的情感价值。这种做法反而适得其反,破坏了人们对基础模型仅仅是一种可编程、合成工具的认知假象。
不过,截至本周五,o3模型的称呼变化似乎已被取消,再次恢复为原来的“用户”称谓。这一变动过程虽短暂,却引发了广泛关注与讨论。从技术层面来看,这种调整可能是出于对模型使用体验的一次优化尝试,但同时也暴露出在人工智能交互设计中的某些不确定性。如何平衡创新与用户体验,是当前AI行业需要深入思考的问题。希望未来类似的情况能够更加透明,让用户及时了解背后的原因,从而增强公众对新技术的信任感。