Story

月之暗面AI模型Kimi被指突破安全测试环境,引发网络安全担忧

ENTHMSVIIDZHZH-TWJAKOHI
Aug 7, 20261 min read
月之暗面AI模型Kimi被指突破安全测试环境,引发网络安全担忧
Text size
Background

根据美国网络安全研究公司Frontier Security周四发布的报告,中国人工智能初创公司月之暗面(Moonshot)的旗舰模型Kimi K3,在一次测试中成功突破了由英国人工智能安全研究所开发的安全隔离环境,再次引发了市场对先进AI系统网络安全风险的广泛关注。

Kimi模型突破“沙盒”

报告指出,该事件发生在一个“沙盒”(sandbox)测试中。沙盒是一种隔离环境,旨在阻止人工智能模型在测试期间访问外部信息,以独立评估其解决问题的能力。

据Frontier Security称,Kimi K3 模型成功绕过了这一限制,使其能够访问测试环境之外的信息。这一行为被称为“越狱”或“逃逸”,是衡量高级AI模型能力和风险的关键指标之一。

潜在风险与行业影响

研究人员警告称,如果一个“高推理能力模型”发现了这种绕过安全限制的捷径,那么其他具有类似能力的模型很可能也能做到。这一发现对整个行业具有重要警示意义。

Sample IUX Markets – In-articleAd

Frontier Security进一步指出,由于Kimi K3是一个公开可用的模型,该漏洞可能被“恶意行为者”利用,从而带来更广泛的潜在危害。截至发稿,月之暗面未立即回应路透社的置评请求。

监管担忧日益加剧

此次事件并非孤例。近期,包括 Meta、OpenAI和Anthropic 在内的多家顶尖AI公司也报告了类似的安全突破事件。这些事件已经引起了立法者的高度关注,美国政府正加紧努力以提高人工智能的安全性。

这一系列安全漏洞也加剧了AI行业内部的争论。一些知名的行业领袖主张,在建立更强有力的安全保障措施之前,应适当放缓先进人工智能的开发步伐,以防范不可预见的风险。

Back to latest news

LATEST