微软AICEO苏莱曼：“看似有意识”的AI即将到来，恐导致严重后果

8月21日消息，据外媒TechRadar今日报道，微软AI首席执行官穆斯塔法・苏莱曼警告称，即使只是鼓励人们相信AI有意识，也可能带来严重后果。

穆斯塔法・苏莱曼称，所谓“表面有意识的AI”（注：SeeminglyConsciousAI，SCAI）可能很快表现得、听起来都特别逼真，以至于用户难以分辨虚幻与现实。

他表示，人工智能正在迅速发展到足以在情感上说服人类，让人误以为它有感知能力。AI能模拟记忆、情感镜像甚至表面共情，使人们倾向于把它当作有意识存在对待。一旦发生这种情况，局面将会一团糟。

穆斯塔法・苏莱曼写道：“看似有意识的AI的到来既不可避免，也不受欢迎。我们需要的是一种AI设想，它可以成为有用伴侣，同时不陷入幻觉。”

穆斯塔法・苏莱曼指出，越来越多案例显示，用户与聊天机器人长期互动后可能产生妄想信念。他警告，如果大量人被误导去倡导AI公民身份，而忽视真正的技术问题，将带来反乌托邦的社会风险。“我最担心的是，许多人会过分相信AI具备意识，从而倡导AI权利、模型福利甚至AI公民身份。这将成为AI发展中的危险转折，需要立即关注。”

穆斯塔法・苏莱曼预测，结合大语言模型、语音表达、记忆与聊天记录的SCAI系统可能在几年内出现，且不仅来自科技巨头，也可能出现在拥有API和优质提示的任何开发者手中。同时他强调，AI行业应避免使用助长机器意识幻觉的语言，不应将聊天机器人拟人化或暗示其理解或关心人类。

“我们应开发优先与人类和现实世界互动的AI，同时确保AI始终呈现为AI，在最大化实用性同时，最小化意识特征。我们必须避免制造‘意识模拟’的AI，它不应声称拥有体验、感受或情绪，例如羞愧、内疚、嫉妒或竞争欲，也不应通过声称受苦或希望自主生存来触发人类共情。”

穆斯塔法・苏莱曼呼吁建立防护机制，避免社会因人们对AI产生情感依赖而出现问题。他强调，先进AI的真正风险不在于机器觉醒，而在于我们可能忘记它们尚未觉醒。