香港電腦學會：打造安全可靠AI基石

介紹主題背景

近年來，人工智能（AI）在各行各業的應用日益普遍，香港也不例外。隨著AI技術的快速發展，如何構建安全可靠的AI框架成為了當前的一個重要課題。香港電腦學會在這方面做出了積極的努力，強調從數據治理、透明度、持續監控及倫理合規四大支柱入手，結合技術與管理手段，構建可信賴的AI生態[1]。本文將深入探討香港在AI安全方面的努力，包括相關框架的構建、AI在安全運作中的應用，以及AI安全的重要性。

AI安全框架的構建與應用

AI治理與數據治理

AI治理是構建安全可靠AI框架的第一支柱。它涉及到對AI系統的設計、開發、部署和使用進行嚴格的管理和監控，以確保AI系統的安全性和可靠性。數據治理則是AI治理的基礎，通過對數據的收集、儲存和使用進行嚴格的管理，來防止數據洩漏和誤用[1]。

在香港，個人資料私隱專員公署已推出《人工智能（AI）：個人資料保障模範框架》，為企業提供了AI應用中的數據保護指引[5]。這些指引幫助企業在使用AI時，能夠有效地保護個人資料，避免數據洩漏等安全問題。

AI在安全運作中的應用

AI技術在安全運作中發揮著重要作用，特別是在安全運作中心（SOC）。中信國際電訊CPC是香港領先的SOC服務提供商之一，該公司通過積極注入AI技術，提升了SOC服務的能力和質量[2]。AI技術被用於加快為企業客戶設定合適的信息安全規則，並提供自建的SIEM（安全信息和事件管理）技術平台，以更快速、更精準地偵測和歸類異常行為[2]。

此外，AI技術還被用於「AI攻防」實踐中，通過模擬攻擊來評估企業的IT基礎設施環境與應用的風險，並制定有效的防禦措施，以達到最高的安全保障[2]。

AI安全的重要性

隨著AI技術的普及，AI安全問題也日益受到重視。個人資料私隱專員公署將於本月舉行「關注私隱週2025」，以AI安全為主題，透過一系列推廣活動來增進公眾對AI安全的認識[3]。這些活動包括電車宣傳以及針對機構和高等教育界的推廣活動，旨在提高公眾對AI安全的關注度。

Google Cloud Summit香港2025也聚焦於AI基礎設施和工具如何提升企業效率和優化客戶體驗[4]。這些活動和會議不僅展示了AI技術的潛力，也強調了在AI應用中確保安全和可靠性的重要性。