微软首席执行官萨蒂亚·纳德拉在平台X上的一篇帖子中呼吁对先进的AI系统实施强制性紧急停机。受影响的将是能够自主承担复杂任务、处理敏感企业数据并做出具有深远影响决策的模型。通过新闻门户TechCrunch，公开了他此项要求的细节。.
纳德拉的核心论点：企业日益让算法访问内部数据库、财务流程和关键业务，但往往无法解释系统为何作出特定决策。他呼吁不再把AI视为不透明的黑箱，仅凭信任其行为。.
紧急停机开关成为必需
核心是纳德拉要求建立一种技术机制，使授权人员能够随时停止AI系统，即使在任务执行过程中也能中止。.
他将这一原则称为遏制（Containment）：系统的能力被限制，超出既定权限的行为将被阻止。这一理念源自IT安全领域，但通常用于访问权限和网络，而非自主软件。.
第二点涉及行动与记录的分离。一个人工智能系统不应同时执行自己的操作并控制其日志。每一次相关操作都应留下可供人类理解、具备防篡改性的记录，且该记录不能被软件本身修改或删除。.
应急情况下的基础设施
Nadella 建议从一开始就将系统设计为假设模型已经被攻破的情况，这在企业安全针对内部威胁时已经是标准做法。即使是拥有合法访问权限的员工或程序，也不会对系统拥有无限制的控制权。随着 AI 模型自主性的提升，Nadella 认为需要更好的隔离、权限分配以及强制停用方法。.
关于自主 AI 代理的安全边界的争论目前也在其他行业领袖之间展开，其中包括 Anthropic 公司的首席执行官 Dario Amodei，他主张对强大模型采取更为谨慎的发展路径。.
对微软而言，这一议题具有直接的实践相关性：该公司在其云服务、Office 产品以及业务流程中广泛集成 AI 功能，而自主系统的错误可能会同时影响众多组织的数据和流程。.
通过控制而非承诺来建立信任
Nadella的提议指向一次范式转变：对人工智能的信任不应基于可靠性的保证，而应基于技术上随时限制或停止系统的可能性。模型越自主，它们获得的关键权限就应越少，且必须在独立的人类控制之外。.
对欧洲企业而言，这场辩论并非纯粹的美国事务。Microsoft在Azure上运营着欧洲最大的云基础设施之一，众多奥地利公司、政府机构和银行也在其上运行人工智能应用。.
欧盟已通过《AI法案》为高风险人工智能系统制定了自己的规定，这些规定将从2026年起逐步生效，并要求包括人工监督和决策可追溯性等内容。Nadella提出的技术紧急停机要求在实质上与欧洲企业必须实现的要求相吻合，前提是Microsoft真的将此类机制嵌入其产品中。.