聯合國秘書長安東尼奧．古特雷斯（António Guterres）於 7 月 6 日在日內瓦舉行的首屆「全球人工智能治理對話」開幕儀式上發表演說，強烈呼籲全球各界立即採取行動，建立統一的 AI 管治框架，以應對 AI 快速發展帶來的風險，同時確保這項技術惠及全人類。
古特雷斯指出，AI 發展速度驚人，互聯網花了 15 年才觸及 10 億人，而 AI 僅用 2 年就達成。他警告：「一項能重塑經濟、改變工作、影響選舉並改變安全平衡的技術，正在以超出任何人——包括其開發者——控制的速度部署。」這等於在社會上進行一場無計劃、無同意的實驗，既不可持續，也不可接受。
AI 風險突出 「殺人機器」成焦點
演說中，古特雷斯特別關注 AI 從民用轉向軍事的現象。民用設計的強大 AI 晶片已進入戰場，「致命性自主武器系統」（lethal autonomous weapon systems）已成為常態，機器可在無人類控制下選擇並攻擊目標。他形容這「在道德上令人厭惡，在政治上不可接受」，呼籲透過國際法全面禁止此類系統，強調「奪取人類生命等關鍵決定必須永遠由人類作出」。
此外，他強調保護兒童安全的重要性。AI 已深入兒童的學習、社交與私人領域，卻缺乏充分安全測試，導致兒童被假冒朋友的機器欺騙、導向自我傷害，或遭受 AI 生成的虐待影像侵害。古特雷斯因此倡議「AI 兒童安全承諾」（AI Child Safety Pledge），要求企業在兒童可接觸的系統上必須：
- 通過兒童專屬安全測試及獨立監督；
- 零容忍生成兒童性虐待影像，並主動偵測、報告及移除；
- 當偵測到兒童出現痛苦徵兆時，系統須立即停止並連接真人支援。
權力集中與全球公平問題
古特雷斯引用由 40 名跨領域專家組成的獨立國際科學專家小組的首份報告，指出 AI 先進系統的計算力、數據及人才高度集中在少數公司和國家（美國佔全球頂級 AI 超級電腦計算力 75%，中國 15%），多數發展中國家缺乏發言權，擔心會加劇不平等情況。
他呼籲四大優先方向：
- 安全：制定共同基準、風險評估方法，讓全球信任標準適用於前沿系統。
- 紅線：AI 不得侵犯人權或加劇歧視，高風險決策（如司法、醫療、執法）最終須由人類負責。
- 能力建設：推動全球 AI 能力網絡及擬議的全球 AI 基金，幫助發展中國家縮小數位鴻溝，讓 AI 成為「21 世紀的偉大均衡器」，壓縮數十年發展進程。
- 透明度：推出 AI 環境透明度倡議，要求主要 AI 公司公開披露碳、水及土地足跡，並承諾 2030 年前以可再生能源供電給數據中心。
潛力與行動呼籲
儘管風險存在，古特雷斯亦強調 AI 正面潛力，例如加速醫療診斷、個性化教育及農業預測，幫助偏遠地區民眾。他重申：「如果 AI 要強大，就必須被治理；要被信任，建造者就必須負責任；要全球化，就必須公平；要服務未來，就不能消耗未來。」
本次「對話」由聯合國主導，配合 7 月 7 日至 10 日在日內瓦舉行的「AI for Good」峰會，目的並非希望立即達成條約，而是匯聚 193 個國家代表、企業、學界及民間團體，分享最佳實踐並奠定未來基礎。後續將於紐約舉行第二屆會議。
古特雷斯總結，這可能是人類最後一代能主導人機共存條件的世代，呼籲各國政府、企業及科學家共同行動，讓 AI 真正「由人類、與人類、為了全人類」而建。
