AI 道德問題成為焦點，最近應該令全球首富 Elon Musk「幾頭痕」，因為旗下社交平台 X 及 AI 工具 Grok 具備強大的影像生成功能，用戶能夠輕易以指令製作非自願性深偽（deepfake）裸露或性化圖像（包括針對女性及未成年人的「數碼脫衣」內容），或許因此成為全球最大的色情內容創作網站，引發全球多國強烈監管風波。
歐洲多國動作頻頻。歐盟執委會已延長對 X 保留所有 Grok 相關數據的命令至 2026 年底。英國通訊管理局 Ofcom 於本月 12 日正式展開調查，審查是否違反《Online Safety Act》，以保護民眾免受非法內容侵害。法國官員將相關露骨內容移交檢察官，並要求 Arcom 調查平台是否符合《Digital Services Act》。德國、意大利資料保護機構亦發聲，警告此類未經同意的深偽裸照可能構成私隱侵犯甚至刑事罪行。
亞洲保守國家反應亦相當激烈，印度電子資訊科技部本月 2 日指控 X 利用 Grok 產生淫穢內容，要求立即下架並於 72 小時內報告。印尼率先全球封鎖 Grok，該國通訊部長強調要保護婦女與兒童免受 AI 虛假色情侵害。另外菲律賓亦同樣宣布加入封鎖行列，馬來西亞則暫時封鎖 Grok，並計劃對 X 平台展開法律行動。日本政府則要求 X 立即改善，防止不當圖像生成與傳播。
此外，美國加州檢察長本月 14 日向 X 要求解釋非自願性性圖片傳播事件。澳洲 eSafety Commissioner 亦正調查 Grok 相關深偽內容，雖然目前兒童案例尚未達 CSAM 門檻，但監管持續升溫。
香港個人資料私隱專員公署近日表示，已留意到 Grok 可被用作生成不雅或惡意照片及影片，事件已在多個司法管轄區引起廣泛關注，公署正主動聯絡相關機構了解詳情。公署並提醒市民，使用 AI 工具時必須嚴格遵守《個人資料（私隱）條例》及相關保障資料原則。若不當或惡意利用 Grok 生成不雅、惡意內容，可能違反《私隱條例》，甚至觸犯其他刑事罪行。公署建議，市民切勿輕易向 AI 分享自己或他人個人資料；如需使用他人資料生成內容，必須事先取得對方明確及自願同意；禁止生成非法內容，例如兒童色情影像（違反《防止兒童色情物品條例》）；謹慎使用生成結果，避免涉及非法、不準確、侵犯版權、歧視或偏見的內容。
面對全球壓力，X 已採取了技術性措施，阻止所有 X 社交平台用戶利用 Grok 對真人圖像進行「數碼脫衣」或露骨編輯生成色情內容，當中包括付費用戶，而目前付費用戶仍可編輯和創建合符規定的圖片。隨著 AI 生成內容愈來愈逼真，這波風波凸顯 AI 技術快速發展下，監管挑戰日益嚴峻。但色情資訊向來在網上存在和流傳，要如何有效監管未來的 AI 生成內容，仍有待各國監管機構進一步討論和完善。
來源：路透社 [1]、[2]、香港個人資料私隱專員公署
