國安新領域之一　人工智能安全　文：吳家俊

本月15日「全民國家安全教育日」剛過，原國家安全16個重點領域去年起新增至20個，新增的4個重點領域分別為人工智能安全、數據安全、金融安全和糧食安全，充份反映人工智能是國家安全的新焦點。近月熱議人工智能，衍生道德、法律和就業等等議題，人工智能可分三個級別：弱人工智能 ( Artificial Narrow Intelligence )，通用人工智能 ( Artificial General Intelligence )，超人工智能 ( Artificial Super Intelligence )，各級別製造不同爭論問題，世界各國都充份意識到人工智能將對國家安全構成不確定性影響，各個政府為保障國家安全，再不能付之闕如。

人工智能牽涉鉅資，普通的訓練模型動輒千萬美元，運算海量數據超級電腦維修保養費昂貴，種種龐大金錢投資，並非財力有限的小國可負擔，超級大國有財力去負擔，霸權國家一定會『有風使盡𢃇』，詭譎百計，打壓所有較弱的國家，恃巨額支援，便可透過人工智能影響別國的國家安全。現時毋庸置疑美國擁有這個優勢，美國亦好大機會將利用其人工智能去干擾別國安全，尤其針對最具潛質的競爭者中國。故此國安領域新增人工智能安全，合情合理。

人工智能風險可以簡分為數據、演算和應用三個方面的風險，數據方面較常見，例如雲端和敏感數據的竊取風險，2022年亞馬遜的律師團隊就提醒員工，不要與ChatGPT分享絕密數據，因為會被機器用作訓練學習、又例如合成和深偽技術的合法性，各國的法律學者已展開深入研究。

演算方面，現時開發商在機器系統內界定不良非法等不恰當內容，當系統遇到這些『禁區』內的資料，便不會進一步提供演算並會作出警告，但劃界如何釐定，譬如各國的成年人定義有別，如何保護不同國家的未成年人去判斷內容，別有用心的國家，在演算上故意放寬不當行為的界線，誘導人民分裂國家，後果難以控制；還有演算出錯誰要負責，無人駕駛車輛意外的歸責仍在斟酌，因出錯而發佈了宣揚分裂國家的資訊歸責又如何。

應用方面，人工智能引導『民意』問題，機器假裝民意輸出它的意見，透過互聯網和各個AI系統渲染，讓社會輿論出現『主流意見』左右政府決策；還有人工智能可以創建暗網市場劇本，為非法交易提供自動對盤，生成極大量用戶和密碼組合，恐怖組織會利用作為掩飾工具，逃避追查，策劃恐襲。

上述只是冰山一角，有待討論範圍更廣，我們必須明白，國家安全是穩定繁榮基石，隨著人工智能發展，必須預警它的潛在風險，人工智能的安全，就是國家安全的其中元件，業界和社會大眾必須嚴肅應對。