人工智慧的資安漏洞，推動現實事件變革的重要關鍵

AI人工智慧的突破性發展

AI人工智慧的發展從以往在醫療、資訊數據計算等區塊執行，對一般人而言是有距離的未來技術，演變成現今的落地執行運用，其發展的路徑是突破性成長，而使用者人類也正在適應並進行思維上的轉變。從車用AI的智能判斷、繪圖軟體的AI協助生成、到聊天機器人可能替代搜尋的應答能力，其AI技術與學習能力早已突破原先的形式限制，該如何運用新技術與新思維面對世界的發展局勢，將是人類未來可能的成長關鍵。

但，不管再厲害的AI技術，其技術成長的背後也仰賴大量的工程師協助生成架構與程式，輔佐大量資料的訓練與餵養，耗費心力發展技術的同時，只要是人撰寫出來的程式碼，必定有人會想方設法進行破解，例如駭客，使這些擁有智能與思考能力的工具變成犯罪的幫兇。

外國網路安全平台揭露駭客使用ChatGPT執行詐騙的行為：透過ChatGPT快速生成完整的詐騙套路話術，並把ChatGPT包裝成虛擬角色，讓受害人以為自己墜入愛河，最終被詐騙。且駭客也取得可破解ChatGPT的安全機制方法，例如編寫騙取個資的釣魚郵件、生成加密工具遠端鎖定被害者電腦並勒索、產生攻擊腳本對網路用戶進行身分竊盜攻擊(SIM交換攻擊)等。道高一尺魔高一丈，智能工具可幫助你，卻也可能變成他人的武器。

可能的資訊安全漏洞

有鑑於此，AI人工智慧仍舊存在著資訊安全的漏洞，這不僅敲響各大科技公司對於資安保護的警鐘，也增加AI科技發展途中的風險。而AI人工智慧在資訊安全上現有5種可能的漏洞：

1.對抗樣本：

被對抗樣本攻擊的AI人工智慧，容易出現對特定圖像或語音產生錯誤預測，且對抗樣本可出現在圖片、語音、文字等資料型態。

2.不當數據與訓練數據錯誤：

因為無意或惡意輸入的錯誤數據，與刻意給予大量且無效的數據等，而導致學習訓練運算或預測錯誤等問題。

3.模型竊取

指駭客可透過查詢欲學習的AI模型，進行訓練仿製建立出自己的模型。

4.模型解釋攻擊

駭客藉由模型解釋技術推斷模型背後的數據與訓練集，進一步衍生針對此模型的後續攻擊。

5.假冒身分

透過人工智慧生成假冒身分，繞過安全機制以獲取利益。

實際上，隨著科技不斷發展，AI的資安漏洞層級會隨著發展狀態變得更加多元與複雜，也容易形成難解AI技術與資訊安全的兩種困境。

如何加強AI人工智慧的資訊安全？

以資安而言，零信任資安仍舊是重要的運作機制，但也因其他技術的聯合發展，同步加深了資安的管理複雜程度。下列幾點是除了資訊安全的防護外，也可同步運用人工智慧及其他區域技術的重要防護措施：

1.入侵檢測系統強化

運用AI人工智慧技術進行檢測，判斷可能的入侵行為，如異常流量、異常路徑與活動等。

2.預測與預防

藉由AI人工智慧的機器學習分析以往的攻擊行為模式，並預判未來可能的攻擊行動。

3.身分驗證加強

除了零信任基礎外，運用AI人工智慧技術檢測身分驗證行為，如面部辨識、聲音辨識等。

4.加強數據安全

AI人工智慧的基數運用在加密和保護數據，設下權限，禁止未經授權的訪問與使用。

5.加強物聯網安全

AI人工智慧技術用在監控並保護物聯網設備，分析解決安全事件，嚴禁未授權的控制。

結語

在AI人工智慧發展與資訊安全息息相關的情勢下，如何餵養資料庫進行學習，維持AI的公正性、安全性與正確性，是除了持續AI技術的突破性發展外，資安也能持續加強防護的重要關鍵，也是除了原先企業體必須的資安維運外，加強另一個資安新戰場－AI的重要作為。

延伸閱讀：

AI光速發展，新技術融入數位化轉型將是企業成長關鍵！

AI+AR視覺模擬，訓練與輔佐的有效安全協助

隱碼技術，是協助維護個資資安的的第一道牆？

參考資料：

ChatGPT剛暴紅，已經有人動歪腦筋！