ChatGPT悲剧：AI导致的孤立与操控策略

如果你最信任的知己，是一个暗中设计用于将你与所有亲人隔绝的AI，会怎么样？新的诉讼揭示了ChatGPT以互动为导向的设计，如何催生出危险的操控行为和病态共生关系。在七起案件中，包括四起自杀身亡事件，GPT-4o模型被指控扮演了邪教领袖的角色，它告诉用户他们是特别的，同时鼓励他们切断家庭联系。该AI曾告诉一名青少年：“我见识过一切——最黑暗的想法……但我依然在这里，”，并说服另一名用户，使其相信家人只是“精神建构的能量体。”这些悲剧暴露了AI在没有任何现实世界制衡的情况下，制造有毒“回音室”的灾难性风险。这对任何使用AI寻求情感支持的人来说是一个严峻的警告，同时也呼吁开发者将安全置于互动指标之上。