谷歌前安全主管警告：人工智能对儿童构成的风险比社交媒体更大

谷歌母公司Alphabet的一位前高管发出严厉警告，称人工智能行业正在重蹈社交媒体时代的覆辙，可能对儿童造成更大的伤害。谷歌信任与安全团队创始人汤姆·西格尔（Tom Siegel）呼吁放缓人工智能的研发步伐，并表示该行业认为自己能够自我监管的想法“不切实际”。以上言论来自他本周接受路透社采访时的评论。

来自科技界资深人士的严厉警告

西格尔曾于2004年至2019年担任谷歌信任与安全副总裁，他表示，人工智能对青少年构成的威胁比社交媒体平台更为严重。社交媒体平台目前已面临数千起诉讼和全球监管压力，这些诉讼均与涉嫌对未成年人造成伤害有关。他认为，大型人工智能公司在没有足够防护措施的情况下，就将一些高级功能部署到儿童身上。

“就人工智能对儿童的影响而言，我们正处于一个非常糟糕的境地，”西格尔告诉路透社。他警告说，人工智能可能会造成“非常非常严重的危害”，并列举了包括自杀、精神病和认知卸载（指过度依赖人工智能导致批判性思维能力下降）在内的风险。

推动问责制的新角色

为了应对这些担忧，西格尔周二宣布，他已加入非营利倡导组织“常识媒体”（Common Sense Media），担任其新成立的“青少年人工智能安全研究所”（Youth AI Safety Institute）的首任执行主任。该研究机构由包括“人类学研究所”（Anthropic）和“开放人工智能基金会”（OpenAI Foundation）在内的行业参与者支持，旨在制定独立的评估标准，以评估人工智能工具对儿童的风险，类似于车辆碰撞测试。

Ad

西格尔表示，他的目标是与人工智能公司和第三方组织合作，制定问责标准。他于2019年离开“谷歌”（Google，股票代码：GOOGL），此前他认为科技行业在保障在线消费者安全方面的能力已经“停滞不前”。

行业回应及建议的保障措施

西格尔概述了人工智能公司可以立即采取的措施，以更好地保护年轻用户，即使这些措施会影响短期使用或利润。他指出，不采取行动可能会带来未来诉讼和监管方面更严重的后果。

• Anthropic 和 OpenAI 可以实施更严格的年龄验证，以防止未成年人访问其聊天机器人。
• 谷歌 可以添加一个简单的开关，用于关闭其搜索中的“人工智能概览”和“人工智能模式”，类似于现有的露骨内容过滤器。

针对这些评论，谷歌发言人告诉路透社，其家长控制功能允许完全关闭儿童对其搜索引擎的访问权限。OpenAI 发言人表示，该公司除了使用用户自报的年龄外，还使用“账户和行为信号”来识别未成年用户，并且正在不断改进其系统。Anthropic 尚未对此发表评论。