诺贝尔奖得主玛丽亚·雷萨警告：立即限制AI，否则人类将丧失自主权

诺贝尔和平奖得主玛丽亚·雷萨（Maria Ressa）近日发出严正警告，称除非立即通过立法限制人工智能（AI），否则人类将面临丧失自主权的风险。雷萨同时担任联合国人工智能国际科学顾问小组成员，她认为AI已通过社交媒体劫持了人类的注意力，并通过聊天机器人操纵了人们的亲密需求。

人工智能的三波冲击

雷萨在奥斯陆一个关于民主威胁的会议上接受采访时指出，AI的发展已对公众产生了三波冲击。她认为，AI既非“人工”也非“智能”，其发展历史已近70年。

• 第一波：社交媒体平台通过算法捕获用户注意力，导致社会两极分化和个体孤立。
• 第二波：聊天机器人利用人们对亲密关系的需求，“入侵了我们的生物学”。
• 第三波：最新的“代理式AI”（agentic AI）和前沿模型，这些机器不仅能模仿人类，还能为人类采取行动，直接威胁到人类的自主权。

雷萨强调：“如果我们现在不介入，情况将超出我们的控制。”她认为，争取对AI进行监管并非言论自由问题，而是一个公共安全问题。

监管呼声与对策

Ad

针对部分人士担心监管会输掉与中国的AI竞赛的观点，雷萨认为这是一种“巧妙的托辞”。她指出：“事实上，中国为其公民设置的安全保障比硅谷为世界其他地区设置的要多。”她以TikTok为例，指出其在中国国内的版本设有年龄限制。

雷萨认为，解决问题的第一步是让科技公司对其造成的损害负责。她对美国法院促使Meta Platforms在未来十年支付高达180亿美元，并严格限制青少年使用Facebook和Instagram的判决表示欢迎。

建立公共平台

雷萨进一步提出，除了对现有平台进行限制，还应创建由公共利益团体主导的、不受大型科技公司控制的通信平台。她以自己创办的新闻媒体Rappler在2023年推出的Rappler Communities为例。

该移动应用基于一个名为Matrix的开源、安全和去中心化的协议构建，旨在为读者提供一个安全的数字空间，让他们可以进行“真实的对话”。雷萨表示，此举是为了“让民主的伟大工作得以发生”，并计划将该模式推广到东南亚其他媒体。