Story
BMO表示,人工智慧安全問題不太可能減緩前沿科技發展的腳步。

Summary
BMO的一份報告指出,儘管業內領導者對安全問題確實存在擔憂,但頂尖人工智慧實驗室幾乎沒有放慢發布更強大模式的跡象。
Text size
Background
蒙特利爾銀行(BMO)週五發布的一份研究報告指出,儘管領先的人工智慧實驗室對人工智慧技術的安全性表達了合理擔憂,但它們不太可能放慢前沿模型的研發步伐。
該銀行的分析表明,人工智慧領域領導者所表達的擔憂與Anthropic和OpenAI等開發人員持續發布功能日益強大的模型之間存在脫節。
研發速度與安全疑慮
蒙特婁銀行指出,呼籲協調放緩人工智慧研發步伐的呼聲,尤其是來自Anthropic執行長 Dario Amodei)的呼籲,其根源在於需要在潛在問題變得不可逆轉之前,使先進系統與人類利益保持一致。多位人工智慧產業高層支持這項提議,據報道,該議題在最近的中美峰會上也進行了討論。
然而,蒙特利爾銀行質疑主要開發商對自我監管的承諾,並指出他們仍在不斷推出新產品。該報告還提及了安全性,指出雖然近期與人工智慧相關的駭客攻擊事件“總體上是良性的”,但隨著用戶找到繞過內建安全措施的方法,惡意行為者利用開放取用模型的風險正在增加。
監管和市場影響
AdBMO 預計美國和中國最終都會收緊人工智慧監管,重點將放在開源和開放取用模型上,而不是封閉系統。此類規則可能需要在這些模型廣泛公開發布之前獲得政府批准。
報告指出,這種監管轉變將有利於封閉原始碼的前沿實驗室,因為它限制了競爭並增強了它們的定價權。 BMO 預測,人工智慧代幣價格將繼續下跌,從而促進用戶採用,並在2030 年左右觸底。此後,隨著用戶對平台依賴性的增強,預計封閉原始碼提供者將提高價格。
經濟與產業展望
從更廣泛的市場角度來看,BMO提出了以下幾個關鍵要點:
- 人工智慧硬體:該銀行仍看好硬體產業,並指出隨著對人工智慧能力的需求超出預期,運算能力的日益稀缺性日益凸顯。
- 元平台(META):儘管該公司在人工智慧領域的定位有所提升,但仍落後於Anthropic和OpenAI等行業領先者。
- 就業機會流失:BMO預測,到2028年,白領崗位流失將變得顯著。藍領崗位預計將在2030年代受到衝擊,該銀行將這一延遲歸因於莫拉維克悖論,該悖論認為,需要身體靈巧性的任務比需要認知能力的任務更難被人工智慧自動化。