人工智能發展速度與安全風險的爭議，正式由科技業界進一步升至聯合國層面。聯合國秘書長古德禮（或譯古特雷斯）在聯合國大會高級別會議周前夕表示，愈來愈多直接參與 AI 開發的人士正對技術風險發出警告，各國政府不能忽視這些訊號，更不能讓全球競爭演變成 AI 安全標準的「鬥低競爭 (race to the bottom)」。
古德禮 9 月 16 日在紐約向記者表示，AI 具有促進教育、醫療、可持續發展及氣候韌性的巨大潛力，但技術發展速度正超越人類對風險的理解。他指出，各國政府首先有責任保護自己的公民，但單靠個別國家行動並不足夠，因為 AI 及其風險都不受國界限制，因此全球協調不可或缺。
他亦特別警告，零散、無法驗證及各自實施的自願減速措施，不能真正解決問題。如果社會認為當風險過高時，AI 發展應該放慢，就需要比企業自行承諾更具體的制度安排，包括共同理解甚麼情況需要更強的安全措施。
這番言論直接呼應近日由 Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman、SpaceXAI CEO Elon Musk 等提出的 AI 安全倡議，但古德禮把問題進一步推向國際治理層面。他表示，AI 將成為下周與各國領袖討論的重要議題，聯合國亦會繼續研究可立即採取的實際方案。
聯合國已成立「人工智慧獨立國際科學小組」(Independent International Scientific Panel on AI)，希望透過全球科學專家提供較獨立的風險評估，讓政策建立在科學證據之上。古德禮認為，未來需要建立跨國共同框架，令 AI 發展更安全、透明和可問責，同時維持「以人的尊嚴為核心」的原則。
古德禮並沒有主張全面停止 AI 發展，而是強調當模型能力提升至某個風險水平時，應有更強的保障措施。他亦承認目前存在地緣政治分歧，各國都擔心放慢發展會在 AI 競賽中落後，但正因如此，全球才更需要協調，否則各方為避免落後而不斷降低安全門檻，可能令所有國家承受更大風險。
隨着 AI 安全問題正式進入聯合國大會議程，爭論的焦點正由「科技公司應否自行減速」，逐步轉變成另一個更實際的問題：全球是否有可能建立一套各主要 AI 國家都願意遵守的共同安全規則。
這亦將是未來 AI 治理真正最困難的一步。
（圖片來源：聯合國）
