AI沙盒2.0上線｜聚焦風險管理
金管局聯同數碼港推出第二期生成式人工智能沙盒，重點關注AI風險管理和安全性。
生成式人工智能沙盒計劃背景
香港金融管理局（金管局）與香港數碼港管理有限公司合作，早於2024年8月推出生成式人工智能（GenA.I.）沙盒，旨在為銀行提供一個風險可控的環境，以開發並試驗切合銀行業實際情況的人工智能（A.I.）解決方案，推動銀行業創新。業界今年1月開展第一期沙盒積極響應，共收到超過40個建議方案。
第二期沙盒計劃重點
第二期GenA.I.沙盒計劃將注重進一步加強風險管理、反詐騙措施和客戶體驗的用例，並將加入一項主要優化措施「GenA.I.沙盒協創實驗室」，透過一系列實務工作坊，促進銀行與科技供應商早期對接，將問題轉化為實際用例，並於沙盒測試。
針對深度偽造詐騙的威脅日益增長，金管局將於未來數周舉辦協創實驗室工作坊，專題探討如何利用AI對抗深度偽造。
「以AI對抗AI」的可能性
金管局副總裁阮國恒表示，這項計劃除了繼續驗證試行用例，更將集中探索「以AI對抗AI」的可能性，鼓勵銀行嘗試將AI技術整合至風險管理的第二及第三道防線，妥善應對衍生的風險及挑戰。
金管局作為監管機構，也可透過這種互動和持續演進的方式，及時了解可威脅金融系統的GenA.I.潛在風險，並參考銀行在沙盒中取得的經驗，分享各種良好做法並考慮是否需要提供進一步指引。
沙盒的應用
沙盒有助於探索A.I.的多種應用方式，包括檢索增強生成、模型適配、模型訓練和微調。它也提供了一個試驗場予銀行測試具有實時互動、特定領域評估、決策支援和預測分析功能的A.I. 模型，並聚焦於風險管理、反詐騙和客戶體驗。
潛在應用包括：
- 風險管理：優化財務報表和非結構化數據的分析，以加強信貸分析和風險評估能力。
- 反詐騙：透過識別欺詐訊息，偵測並防範騙案（包括「深偽技術」帶來的威脅）。
- 客戶體驗：通過聊天機械人與客戶互動，生成基於個別客戶紀錄和互動的個人化回應。
風險與挑戰
隨著生成式人工智能應用的普及，安全風險也日益凸顯。惡意人工智能大模型的出現，給AIGC的安全治理帶來了新的嚴峻挑戰。濫用AIGC可能對國家安全、行業創新和社會生活帶來威脅。
對策建議
為應對生成式人工智能的安全風險，需要：
總結
生成式人工智能沙盒計劃的推出，旨在推動金融業採用AI技術，提升風險管理和安全性。透過加強協作、探索創新應用和應對潛在風險，香港有望鞏固其作為國際金融中心的領先地位。
