一旦显现意识迹象应全面叫停研发
【警告 ⚠️】近日，Microsoft AI 执行长 Mustafa Suleyman 公开提出严肃警告，直言打造具备意识的人工智能极度不负责任；他唿吁整个业界，一旦在模型训练过程中发现任何出现意识迹象的可靠证据，所有相关的 AI 研发工作都应立即暂停，直到能够透过演算法与架构设计将这些特徵完全剔除为止。
Mustafa Suleyman 在社交平台 X 上发表题为《切勿打造具意识的超级智能》（Don't build conscious superintelligence）的长文，详述其核心立场。他指出，目前的 AI 模型本质上仍缺乏主观意识与痛苦感受能力，因此并不适用于赋予具意识生物的道德或法律权利。不过，他也澄清该项评估仅针对现有系统，并非完全否定机器未来演化出意识的可能性。
Mustafa Suleyman 进一步唿吁，业界未来若发现任何机器产生自我意识的可靠证据，相关研发团队应第一时间向公众透明披露，由全体社会共同研议其潜在影响，绝不应将如此重大的决策权交由 AI 开发商单方面独断。
他所指的，正是 Anthropic 在 2025 年 4 月设立了「模型福祉」（Model Welfare）研究专案，旨在探讨高阶系统是否可能产生应受道德考量的感受；其在 2026 年初公布的 Claude 宪法框架中，亦坦承现阶段无法排除模型具备潜在意识与道德地位的可能性。
然而，科学界迄今对于机器意识仍缺乏统一的定义与学术共识，在实务上也欠缺能够客观、可靠侦测 AI 主观意识的验证工具。在业界争相提升模型推理与自主能力的竞赛中，要如何精确划定界线并落实「即时叫停」的监管机制，依然是整个产业面临的巨大技术考验。
资料来源:
