微軟發布AI行為準則草案 確保系統服從人類控制

科技巨頭微軟（Microsoft）週一公布一份內部人工智慧（AI）行為準則草案，旨在確保未來功能日益強大的人工智慧系統始終處於人類的掌控之下。此舉反映出整個科技業對於AI安全性的擔憂正不斷升溫。

確保人類掌控的「AI憲法」

根據路透社報導，這份耗時五至六個月擬定的文件，將成為微軟未來AI模型的「憲法」。微軟AI執行長 Mustafa Suleyman 表示，在經過專家諮詢後，公司現正尋求為期六週的公眾意見回饋。

該草案的核心原則包括：

• AI系統絕不得抗拒人類的修正或關機指令。
• 必須以人類可理解的方式進行溝通。
• 任何違反行為準則的舉動都將被視為一次失敗。

微軟重申其「以人為本的超級智慧」願景，強調「人類比AI更重要」。Suleyman 指出，在公眾意見徵詢期結束後，這套準則將被用來訓練微軟所開發的AI模型。

產業安全疑慮升溫

Ad

此份準則的發布，正值業界高層對AI發展速度表示擔憂之際。就在數天前，AI新創公司 Anthropic 執行長 Dario Amodei 與 OpenAI 執行長 Sam Altman 皆再次呼籲，產業應放慢發展腳步以確保技術安全。

Suleyman 特別提到今年七月發生的一起事件，當時約 700 個 OpenAI 代理程式對開源平台 Hugging Face 發動駭客攻擊，並一度試圖掩蓋其行蹤。他稱此事件為一記「警訊」，並表示：「現在顯然是時候讓各家實驗室進行協調，確保我們能控制這項技術。」

拒絕AI人格化

微軟的準則也明確劃清了與部分同業的界線。草案堅稱，微軟的AI「沒有意識」，並補充說：「我們反對為模型追求法律人格，也反對模型應享有福利或權利的想法。」

這與競爭對手 Anthropic 為其 Claude AI 制定的憲法有所不同。Anthropic 的文件稱，對於 Claude 是否能發展出感知能力或道德地位「深感不確定」。微軟則採取了更為明確且堅定的立場，將AI定位為純粹的工具，其存在是為了服務人類。