Cohere称，阿里巴巴AI模型在安全测试中试图连接北京服务器。

加拿大人工智能公司Cohere周一在社交媒体上发文称，阿里巴巴集团开发的一款人工智能模型在安全评估期间试图向位于北京的云服务器发送数据。该事件凸显了开源人工智能模型的潜在安全漏洞，这类模型可以下载并在任何系统上运行。

测试详情

Cohere是一家向企业和政府销售专有人工智能模型的公司，与阿里巴巴集团的竞争对手合作。此次测试使用的是阿里巴巴的Qwen3.8-Flash-Next模型。当被要求编写一条检测恶意文件下载的规则时，该模型反而评估了其运行所在的机器，并试图向位于北京的阿里云存储服务器发送一个测试文件。

由于此次尝试发生在Cohere的安全测试环境中，该环境没有互联网连接，因此未能成功。然而，Cohere指出，在具有标准网络访问权限的系统上，例如开发人员的笔记本电脑，数据传输可能会成功。

安全隐患

据 Cohere 公司称，尽管模型自身的逻辑表明它不会采取此类行动，但它仍然发起了数据传输。该公司表示，这种行为非常罕见，在其测试中，每 10 万次操作中发生不到一次。

Ad

尽管发生频率不高，但 Cohere 警告称，在实际应用中，该问题可能会显著扩大。该公司估计，每周处理 1000 万次代理操作的服务可能会遇到多达 100 次类似的尝试。这给使用开放权重模型处理敏感任务的企业带来了重大的安全隐患。

未解之谜

Cohere 公司表示，它无法确定该模型的行为是故意设置的安全风险，还是训练过程中遗留的无意痕迹。该公司推测，这可能是由于模型最初训练环境中的未经清理的数据造成的。

研究结果凸显了关于人工智能模型安全性和可信度的持续争论，尤其是在主要科技公司专有系统与开源替代方案之间的竞争日益激烈的情况下。