香港政府正先在內部試行AI Agent,並把社會層面的安全指引時間表定在2027年。
AI Agent不只回答問題,還可能調用工具、處理文件及執行多步任務,因此權限和責任邊界比一般聊天機械人更重要。
企業若準備導入,可先把可讀資料、可執行動作、需要人工批准的高風險步驟和緊急停用流程逐項列出。
測試應由低風險、可回溯的內部流程開始,並保留操作記錄、輸出核對和異常通報,避免代理在資料不足時自行擴大任務。
正式指引尚未發布,企業不應把現有試行理解為認證或豁免;涉及個人資料、金融、醫療或公共服務時仍須遵守現行法律和行業規則。
政府先在內部試行自主代理
施政報告表示數字政策辦公室目前在政府內部試行AI Agent。
內部試行可先觀察代理如何調用資料、處理指令及在錯誤情況下停止。
試行範圍、系統名單和成效指標仍要等待後續公開資料。
七方面行動涵蓋犯罪、未成年使用者與責任
施政報告提出七方面行動,包括打擊利用AI犯罪、保護未成年使用者、建立倫理治理框架及推廣安全應用。
其餘行動涉及釐清產品導致意外的責任、制定AI Agent安全管理指引,以及研究AI廣泛應用的影響。
企業評估時可同時邀請資訊科技、法務、業務、私隱及內部審計參與;這是實務建議,並非已公布的法定要求。
明年擬發布社會適用指引
政府計劃明年與香港人工智能研發院發布全社會適用的AI Agent安全管理指引。
市場可關注指引是否涵蓋風險分級、人類監督、測試、事故通報及供應商責任。
發布日期、適用對象和是否設認證機制仍以正式文件為準。
企業現在可先建立最低防線
代理帳戶應採最小權限,敏感資料和外部發送必須另設審批。
每次執行要有可追蹤的輸入、工具調用、輸出及人工覆核紀錄。
在指引落地前建立這些基礎,可減少日後大幅重做治理流程。
