谷歌前安全主管警告：人工智慧對兒童的風險比社群媒體更大

谷歌母公司Alphabet的一位前高階主管發出嚴厲警告，表示人工智慧產業正在重蹈社群媒體時代的覆轍，可能對兒童造成更大的傷害。谷歌信任與安全團隊創始人湯姆·西格爾（Tom Siegel）呼籲放緩人工智慧的研發步伐，並表示該行業認為自己能夠自我監管的想法「不切實際」。以上言論來自他本週接受路透社採訪時的評論。

來自科技界資深人士的嚴厲警告

西格爾曾於2004年至2019年擔任Google信任與安全副總裁，他表示，人工智慧對青少年的威脅比社群媒體平台更為嚴重。社群媒體平台目前已面臨數千起訴訟和全球監管壓力，這些訴訟均與涉嫌對未成年人造成傷害有關。他認為，大型人工智慧公司在沒有足夠防護措施的情況下，就將一些進階功能部署到兒童身上。

「就人工智慧對兒童的影響而言，我們正處於一個非常糟糕的境地，」西格爾告訴路透社。他警告說，人工智慧可能會造成“非常非常嚴重的危害”，並列舉了包括自殺、精神病和認知卸載（指過度依賴人工智慧導致批判性思維能力下降）在內的風險。

推動問責制的新角色

為了應對這些擔憂，西格爾週二宣布，他已加入非營利倡導組織「常識媒體」（Common Sense Media），擔任其新成立的「青少年人工智慧安全研究所」（Youth AI Safety Institute）的首任執行董事。該研究機構由包括「人類學研究所」（Anthropic）和「開放人工智慧基金會」（OpenAI Foundation）在內的行業參與者支持，旨在製定獨立的評估標準，以評估人工智慧工具對兒童的風險，類似於車輛碰撞測試。

Ad

西格爾表示，他的目標是與人工智慧公司和第三方組織合作，制定問責標準。他於2019年離開「Google」（Google，股票代碼：GOOGL），此前他認為科技業在保障線上消費者安全方面的能力已經「停滯不前」。

業界回應及建議的保障措施

西格爾概述了人工智慧公司可以立即採取的措施，以更好地保護年輕用戶，即使這些措施會影響短期使用或利潤。他指出，不採取行動可能會帶來未來訴訟和監管方面更嚴重的後果。

• Anthropic 和 OpenAI 可以實施更嚴格的年齡驗證，以防止未成年人訪問其聊天機器人。
• Google 可以添加一個簡單的開關，用於關閉其搜尋中的“人工智慧概覽”和“人工智慧模式”，類似於現有的露骨內容過濾器。

針對這些評論，Google發言人告訴路透社，其家長監護功能允許完全關閉兒童對其搜尋引擎的存取權限。 OpenAI 發言人表示，該公司除了使用用戶自報的年齡外，還使用「帳戶和行為訊號」來識別未成年用戶，並且正在不斷改進其係統。 Anthropic 尚未對此發表評論。