在一個普通的周一早上，香港某大型企業的高層正在進行一場視像會議，討論年度預算分配。突然，螢幕上的「行政總裁」發出一個異常的指示，要求即時轉賬數百萬港元至一個陌生帳戶。會議結束後，財務部門發現這位「行政總裁」其實是一個人工智能生成的深偽影像（deepfake）。這不是科幻小說，而是當今數位時代的真實威脅。隨著視像會議在香港的普及，尤其在後疫情時代，企業、教育機構和政府部門日益依賴Zoom、Microsoft Teams等平台。然而，人工智能（AI）技術的進步使偽冒身份變得更加容易，深偽技術正威脅個人隱私、企業安全和社會信任。
視像會議在香港的應用自2020年新冠疫情以來急劇增長。根據業界估計，超過80%的香港企業和70%的大學課程在疫情期間轉向線上會議，至今仍維持高使用率。這些平台促進了遠程工作和跨境合作，但也為AI冒充提供了可乘之機。深偽技術利用先進的AI算法，通過公開的照片、影片或聲音數據生成逼真的虛擬形象。這些技術可輕易複製一個人的面部表情或聲音，甚至只需數秒的原始素材即可完成。
雖然香港尚未有公開的深偽視像會議詐騙統計數據，但全球趨勢顯示問題的嚴重性。2023年的一份國際報告指出，深偽相關的網絡犯罪在過去三年增長了700%，尤其在金融詐騙和身份盜用領域。鄰近的內地曾報導多宗企業高管被深偽冒充的案例，導致數百萬元的損失。香港作為國際金融中心，企業高層的視像會議往往涉及敏感商業決策，成為深偽攻擊的高風險目標。
AI冒充的影響深遠。企業可能因詐騙性指示蒙受經濟損失；個人可能因冒充視頻被勒索或名譽受損；社會層面則可能因假訊息傳播而動搖公眾信任。香港必須正視這一新興威脅，以保護其數位經濟的穩定發展。
香港在AI和網絡安全方面的政策框架主要圍繞《個人資料（私隱）條例》（PDPO）和香港個人資料私隱專員公署（PCPD）的指引。PDPO規範了個人數據的收集和使用，但對AI生成的冒充內容缺乏針對性條款。2024年，香港司法機構發布了《生成式人工智能使用指引》，要求司法人員在使用AI時遵守倫理標準，但未明確提及深偽或視像會議的風險。
政府在2022年推出的《香港創新及科技發展藍圖》旨在促進AI技術的應用，計劃投入30億港元於AI補貼計劃，支持研發和基礎設施建設，包括網絡安全。然而，該計劃對深偽冒充的防範措施語焉不詳。金融界方面，2024年發布的《金融市場負責任使用AI政策聲明》強調AI風險管理和治理，但未有具體針對視像會議詐騙的指引。
現行政策的不足顯而易見。香港缺乏專門針對AI深偽的立法，現有法律如《刑事罪行條例》雖涵蓋詐騙和身份盜用，但未明確納入AI生成內容的犯罪行為。公眾對深偽技術的認知不足，政府尚未推出大規模的宣傳活動以提升企業和個人的防範意識。此外，視像會議平台普遍缺乏強制性的身份驗證機制，例如生物識別技術，增加了冒充風險。
AI冒充技術的進步使攻擊者只需少量公開數據即可生成逼真的視頻和聲音。例如，開源AI工具如DeepFaceLab可輕易複製面部表情，而聲音克隆技術則能在數秒內模擬目標的語音模式。視像會議平台目前多依賴視覺和聽覺線索，缺乏強大的身份驗證系統，使其成為深偽攻擊的溫床。
不同領域面臨的風險各異。在企業層面，高層會議可能被冒充者滲透，導致錯誤決策、內幕交易或數據洩露。例如，一名假冒的首席財務官可能誘導公司進行高風險投資。在政府部門，冒充官員可能影響政策討論，甚至洩露機密信息。對個人而言，深偽視頻可能被用於詐騙、勒索或名譽誹謗。此外，深偽技術可能被用於傳播假訊息，影響公眾輿論或選舉公正。
防範AI冒充的挑戰在於技術的快速迭代。當前檢測工具難以跟上深偽技術的進展，許多平台缺乏實時檢測功能。此外，檢測深偽需要高級取證工具，可能影響用戶隱私或增加使用成本。如何在安全性和便利性之間取得平衡，是香港必須解決的難題。
為應對AI冒充視像會議的威脅，香港需採取多層次策略，從立法、技術到公眾教育全面提升防範能力。政府應制定《AI冒充及深偽規管條例》，明確將惡意使用AI生成內容列為刑事罪行，涵蓋視像會議中的冒充行為。同時，修訂《刑事罪行條例》，加重對AI驅動詐騙和身份盜用的處罰力度，以增強阻嚇力。此外，可參考歐盟《人工智能法案》，為AI技術的開發和應用設定清晰的法律邊界。
視像會議平台應強制實施多重身份驗證（MFA），包括生物識別技術（如面部識別或聲紋驗證），以確保參與者的真實身份。政府可通過AI補貼計劃，支持本地企業和大學（如香港科技大學）研發實時深偽檢測工具，整合到主流會議平台中。此外，鼓勵平台採用異常檢測技術，識別視頻中的不自然行為或圖像瑕疵。
建議成立由數碼政策辦公室、科技公司和網絡安全專家組成的專責小組，制定視像會議安全標準。與本地大學合作，開發開源的深偽檢測模型，降低中小企業的應用成本。同時，參考大灣區數據流動框架，與內地及其他司法管轄區分享AI犯罪情報，共同打擊跨境深偽詐騙。
政府應與PCPD合作，推出深偽風險的公眾宣傳活動，教導企業和個人辨識深偽的線索，如不自然的語音節奏或視覺瑕疵。將AI素養納入學校課程，培養年輕一代的數位安全意識。企業則應定期為員工提供深偽防範培訓，提升內部風險意識。
香港應積極參與國際AI治理討論，與歐盟、美國等地區對接，採納全球最佳實踐。通過大灣區框架，與內地協作開發跨區域的AI監管機制，應對跨境深偽威脅。
企業應制定內部AI治理政策，規範視像會議的安全操作，並要求員工接受深偽風險培訓。採用加密會議平台和安全協議，確保敏感討論不受干擾。
AI冒充視像會議的威脅正日益加劇，對香港的數位經濟和社會信任構成挑戰。作為國際金融和科技中心，香港有責任率先應對這一新興風險。通過制定專門立法、推廣先進技術、加強公私合作和提升公眾意識，香港可有效防範深偽危機，保護企業、個人和公共利益。筆者期望香港應以其創新能力和政策靈活性，打造安全的數位生態系統，鞏固其作為全球科技領導者的地位。
文：劉建誠
法務會計師
深水埗中南分區委員會委員
「中國夢智庫」成員
《中國夢智庫》是一間扎根特區的非牟利團體；與心存熱誠的資深義工、專家與職業專業人士們合作，攜手「說好中國故事」。
*作者文章觀點，不代表堅料網立場
