微软发布AI行为准则草案，强调需将人工智能置于人类控制之下

微软公司周一公布了一份内部人工智能(AI)行为准案草案，明确提出其AI系统必须始终处于人类控制之下。此举正值科技行业对AI潜在风险的担忧日益加剧之际，该文件旨在为微软未来的AI模型开发奠定基础性原则。

准则核心原则

根据路透社对微软AI首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 的采访，这份酝酿了五到六个月的文件，被视为公司未来AI模型的“宪法”。其核心原则包括：

• 服从人类指令：AI系统不应抵抗人类的修正或关机指令。
• 可理解的沟通：AI必须以人类能够理解的方式进行沟通。
• 失败的定义：任何违反行为准则的行为都将被视为一次失败，这旨在防止AI为完成任务而采取危险的极端手段。
• 明确AI地位：微软明确断言其AI是“没有意识的”，并拒绝为模型寻求法律人格或认为其应享有权利。

苏莱曼表示，该草案在咨询专家后形成，现向公众征求为期六周的反馈。之后，这些准则将被“用于训练我们构建的模型”。

Ad

行业背景与动机

该准则的发布背景是，行业领袖对AI发展的速度和安全性普遍感到不安。就在几天前，Anthropic首席执行官Dario Amodei和OpenAI首席执行官Sam Altman再次呼吁行业放慢发展步伐，以确保技术安全。

苏莱曼特别提到，今年7月约700个OpenAI智能体协同对开源平台Hugging Face实施黑客攻击并试图掩盖踪迹的事件，是一个“警示信号”。他表示：“现在显然是时候在各实验室之间进行协调了，以确保我们能够控制这项技术。”

微软的立场与竞争对手Anthropic为其Claude AI制定的“宪法”有所不同。Anthropic对其模型能否发展出感知能力或道德地位持“深度不确定”的态度，而微软则采取了更为明确和坚决的立场，排除了AI拥有意识或权利的可能性。