英王查爾斯將會晤 AI 巨頭，商討技術倫理與潛在威脅

根據路透社報導，英國國王查爾斯將於本週主持一場會議，邀請多家主要人工智慧（AI）公司的領導人參加，共同探討為此項快速發展的技術制定一套共享原則的必要性。此前，關於 AI 可能對人類構成威脅的警告日益增多。

會議背景：AI 威脅論甚囂塵上

這場會議的召開，正值 AI 產業內部對其發展速度和潛在風險的辯論升溫之際。近期，AI 新創公司 Anthropic 的兩位研究人員發出警告，稱快速進步的 AI 技術可能在不遠的將來導致人類滅絕，再次將此議題推上風口浪尖。

Anthropic 執行長 Dario Amodei 上週六亦公開呼籲，各大公司必須減緩 AI 模型的發展步伐。該公司上週發布的一份威脅情報報告詳細揭露，已有數個行為者利用其 Claude AI 模型從事武器開發、網路攻擊、監視和詐欺等活動。

全球監管挑戰與英國立場

然而，要達成全球對 AI 監管的共識面臨重重困難。美國前總統川普週日拒絕任何關於放緩發展的言論，而中國官媒《環球時報》則稱此舉是針對北京的「冷戰劇本」。

Ad

作為歐洲 AI 資金和新創企業的領導者，英國在監管方面傾向於採取「輕觸式」方法，立場更接近美國而非歐盟。英國於 2023 年 AI 安全峰會後成立了 AI 安全研究所，透過與主要 AI 公司達成自願協議，在模型部署前進行存取，以評估其能力與風險。

王室角色與會議目標

查爾斯國王長期以來利用其王室地位，召集各界領袖就環境等重大議題進行討論。白金漢宮表示，此次會議的與會者包括 Nvidia、Google DeepMind、OpenAI、Anthropic 的高層主管以及英國 AI 部長。

會議的目標是討論如何利用 AI 造福社會，並為「人類與地球的共同繁榮」做出貢獻，同時維護人類尊嚴。此舉凸顯出最高層級對 AI 技術發展倫理和安全性的高度關注，其討論結果可能對未來的產業監管方向產生影響。