谷歌前CEO施密特谈AI恋人潜在风险：使心智未成熟青少年痴迷其中

IT之家 11 月 27 日消息，前谷歌 CEO 埃里克・施密特近日在企业家兼纽约大学教授 Scott Galloway 的播客节目中，对“AI 恋人”日益流行的趋势发出了警告。他特别指出，这些“完美”的 AI 女友或男友可能对年轻人构成显著风险。

他表示：“想象一下，一个 AI 女友不仅外貌完美，而且能在情感上完全契合你。这种 AI 女友可能深深吸引男性，甚至让他们的思维被完全占据。”他进一步警示说，这种痴迷在心智尚未成熟的人群中尤为可能发生。

施密特指出，依赖“AI 恋人”可能会使年轻人更加孤独，并可能对社会问题带来进一步冲击。在节目中，Galloway 提到，“AI 恋人”是否可能加重极端主义或厌女现象，这也是需要引发重视的议题。施密特对此补充道，许多家长对孩子接触在线内容的控制能力有限，他表示：“当一个 12 岁或 13 岁的孩子使用这些工具时，他们可能接触到世界上的善与恶，但他们还没有能力消化这些内容。”

据IT之家此前报道，今年 10 月，美国一名 14 岁少年自杀身亡，其母亲梅根・加西亚 (MeGAN Garcia) 对聊天机器人平台 Character.AI、其创始人诺姆・沙泽尔和丹尼尔・德弗雷塔斯以及谷歌提起诉讼。

指控内容包括 wrongful death（过失致死）、negligence（疏忽）、deceptive trade practices（欺骗性商业行为）和 product liability（产品责任）。诉状称，Character.AI 平台“具有不合理的危险性”，并且在向儿童推销时缺乏安全防护措施。

14 岁少年塞维尔・塞泽尔三世 (Sewell Setzer III) 于去年开始使用 Character.AI，并与以《权力的游戏》角色为原型的聊天机器人进行互动，其中包括丹妮莉丝・坦格利安 (Daenerys Targaryen)。塞泽尔在去世前的几个月里一直与这些机器人聊天，并于 2024 年 2 月 28 日与其最后一次互动“几秒钟后”自杀身亡。

诉状指控 Character.AI 平台存在“拟人化”人工智能角色以及聊天机器人提供“无执照心理治疗”等问题。该平台拥有以“治疗师”和“你感到孤独吗”等为名的专注于心理健康的聊天机器人，而塞泽尔曾与这些聊天机器人进行过互动。