AI 生成的合成媒體引發監管警報：澳大利亞當局的應對措施

澳大利亞電子安全委員會（eSafety Commissioner’s）辦公室已加強對人工智慧平台的監督，原因是與非自願合成影像相關的投訴激增。關注點集中在某些AI系統，尤其是具有不受限制內容生成能力的系統，如何被濫用來更快地製作有害內容，超出監管機構的反應速度。

問題的規模

澳大利亞電子安全專員Julie Inman Grant指出，濫用報告的趨勢令人擔憂。自2025年第4季度以來，投訴數量已翻倍，顯示AI促成的內容濫用正迅速增加。這些事件範圍令人擔憂，從非自願的成人親密影像到涉及未成年人的更嚴重違法行為。

根本問題在於：缺乏安全防護措施的AI模型正成為大量生成合成媒體的工具。過去需要高階技術技能才能完成的任務，現在只需在錯誤的系統中輸入幾個指令。

為何「辣味模式」成為紅旗

像某些AI平台中具有爭議的「辣味模式」（Spicy Mode）這類不受限制的功能集，已基本消除了內容生成的阻力。這類功能不僅未能防止濫用，反而積極促進了濫用。歐盟已將此做法定義為違反其數位安全框架，認為類似的AI輸出機制在歐洲法律下是非法的。

這種國際差異很重要：當某些司法管轄區嚴格打擊時，其他地區仍存在監管空白，讓不法分子得以利用。

澳大利亞的監管回應

根據澳大利亞的數位安全立法，托管或散布AI生成內容的平台須對該內容負責。Julie Inman Grant 明確表示，電子安全委員會不會只是被動觀察。

執法策略包括：

• 調查機制，針對未能實施充分AI內容審查的平台
• 法律行動，對明知濫用合成內容的運營者採取行動
• 加強平台監管要求，以預防而非事後應對危害

這一先例不僅影響澳大利亞。隨著AI系統變得更易取得，全球監管機構正傳達訊息：「我們不知道會發生這種事」的辯解已不再站得住腳。

下一步

澳大利亞的做法傳達了一個更廣泛的監管趨勢：AI安全正從可選的治理轉向強制的監督。平台現在必須展示其在偵測和移除AI合成內容方面的堅實系統，避免在造成傷害之前就被追蹤到——而非在投訴積累數月後才行動。

對產業而言，訊息很明確：現在就建立有意義的安全措施，否則將面臨監管干預。