用“冰山思維”系統性應對生成式AI安全挑戰

科技的發展常常以浪潮的形式出現。信息技術領域，“后浪”迭起，“C位”流轉，但即便那些在時代的風口處在“浪潮之巔”的，也無法繞過永恒的課題：安全。

生成式AI（AIGC）近年熱度非常，在啟發“千行百業”的企業進行新一輪業務創新的同時，也在安全層面帶來了全新的挑戰。并且，由于生成式 AI依賴大量數據和模型、流程環節多維、細節豐富，讓這些安全挑戰復雜多樣且變化多端。將安全合規“武裝到牙齒”，伴隨生成式AI的高速發展，變得更為緊要。

(相關資料圖)

在“安全為先”的理念下，亞馬遜云科技既提供了一系列的技術、服務和工具幫助更多企業充分釋放生成式AI的潛力，創新或者應用生成式AI尋求增量；更將確保安全合規作為基礎，將其生成式AI的各種安全相關工具與理念，涵蓋數據、模型以及應用各個環節；再進一步，亞馬遜云科技還將AI以及生成式 AI技術應用于其安全及合規服務中，以更智能的安全、合規服務應對復雜的安全威脅、提高合規效率。

前不久的“2023亞馬遜云科技re:Inforce中國站”，亞馬遜云科技，就將“生成式AI的安全挑戰及對策”以及“如何將生成式AI應用于安全實踐”做了全新呈現。

用“冰山思維”系統性審視?生成式AI安全

通過智能客服優化客戶體驗，通過自動生成代碼提高技術團隊生產力，通過文字生成圖片的方式加速內容生成，通過自動化文檔處理提高整個組織運營效率……這是各行各業、各個部門中的不少人正在經歷的日常，代表著生成式AI持續被應用到企業運營的各個環節，提高效率、優化流程，甚至協助創新。

即便如此，生成式AI就像洋面上的一座“冰山”，應用它所帶來的便捷與高效，依舊常常只是龐大山體顯露的小小一角。

亞馬遜云科技大中華區解決方案架構部總監代聞表示：

“生成式AI的需求越來越多從業務部門提出，不只是技術部門進行創新的工具或者是平臺，而是變成了業務增強競爭力的一個核心手段。也正是因為生成式AI應用場景的井噴，業務部門需求如此旺盛，目前給企業的技術部門帶來了前所未有的挑戰。”

“從構建開始，我們就需要把安全作為企業AI戰略發展中的核心環節。?然而，我們應該從哪里開始？依靠一個什么樣的框架？這就要求我們不能只是關注AI應用本身，而是從一個全棧的角度，去全面審視應用、模型、數據、基礎架構的安全規范、技術策略和平臺工具。?生成式AI應用就像是海面上的冰山，我們想要在企業里安全地駕馭這項新技術，還需要關注海面下的冰川。??”

也正是如此，“re:Inforce2023”整體探討了“數據和模型的安全”、“應用安全”、“全球合規”三個大議題。

數據和模型安全，構建AI應用的關鍵

代聞表示：生成式AI的井噴對一個企業的數據平臺有了更高的要求。要訓練構建一個生成式AI的模型，需要大量的非結構化數據。如果一個企業直接去應用一個做好的模型進行微調，這時候又需要有高質量的專業化的數據來微調這個模型。這兩個方面的要求目前對于大多數企業的數據平臺都是提出了更高的要求。

先看數據安全。亞馬遜云科技提供了貫穿生成式AI全周期的數據治理，從數據源的獲取到數據的存儲和查詢，再到將數據傳輸給 AI平臺進行模型的訓練、調優和推理，以及全面實施數據分類和治理。通過提供一整套的解決方案、產品服務和實踐，全面保護存儲中、傳輸中以及使用中的數據。

通過實施安全密鑰管理、靜態數據加密、強制實施訪問控制、利用機制限制數據訪問，保護存儲中的數據。?本次大會上，推出了敏感數據保護解決方案，可實現對企業敏感數據的自動化發現并在統一平臺管理數據資產。該解決方案允許客戶創建數據目錄、使用內置或定制數據識別規則定義敏感數據類型，該方案利用機器學習、模式匹配的方式自動識別敏感數據，并提供可視化面板，幫助客戶更輕松地對敏感數據進行管理和保護。

從實施安全密鑰和證書管理、執行傳輸中加密、自動檢測意外數據訪問、對網絡通信進行身份驗證四個方面對傳輸中的數據進行保護。

從身份認證、隔離環境、多方協作以及數據共享四個方面，進行使用中的數據保護。

再看模型安全。模型訓練后進入生產環境的安全防護同樣重要。針對大模型，幾個月前，亞馬遜云科技宣布推出Amazon Bedrock和多種生成式AI服務和功能，以幫助客戶構建和擴展自己的生成式AI應用程序。?

安全方面，Amazon Bedrock使用組織內部的數據來訓練大模型，同時又保證：首先，背后給大模型做了私有拷貝，這個拷貝只是給客戶服務，不會再跟其他任何的大模型共享。二是訓練數據只是在客戶賬戶里來幫助工作，Amazon Bedrock不會拿任何用戶的數據來增進自己的模型。對企業采用大模型時關于數據主權、數據保護方面的擔心，給了一個完善的答案。

同時，它能全面地使用亞馬遜云科技提供的安全功能，Amazon KMS、Amazon IAM等可以完善地跟Amazon Bedrock集成，集成以后可以很好地管理加密、權限控制和所有行為的日志。

應用安全，實現AI價值的保障

考慮到應用“創造價值”的屬性，其安全必然是實現AI價值的保障。從防護方面，有兩個階段，第一個階段是開發流程中的安全，第二個階段是生產過程中的安全。

開發安全應該貫穿到從開發到持續集成、持續部署再到投產、監控以及整個反饋的過程里，也就是要延伸到整個開發生命周期。基于這種趨勢，新推出了兩項服務：

Amazon CodeWhisperer，AI編程助手，可根據開發者指令利用內嵌的基礎模型實時生成代碼建議，內置了代碼安全掃描功能，可幫助開發者查找難以檢測的漏洞并提出補救建議；Amazon CodeGuru Security，可以掃描代碼，在代碼里面尋找漏洞，還能夠在CICD通過人工智能和機器學習的方式自動降低誤報率，同時基于API設計，能夠非常方便地集成到開發工作流里邊去，實現集中化和擴展性。

運行投產安全則綜合涉及零信任、威脅識別、攻擊保護。

零信任方面，亞馬遜云科技推出幾個工具，幫助客戶在自己的亞馬遜云科技環境下構建一套機制。對訪問大模型的應用進行權限管理，確保只有在擁有特定權限的應用，才能訪問或者調用大模型里的制定API。

Amazon Verified Access可以搭建一套無需VPN的網絡驗證系統，還支持可以設置規則，這些管控，可以在幾乎不對應用進行任何代碼改變的情況下部署和發生；Amazon Verified Permissions，為用戶構建的應用程序提供細粒度授權和權限管理，用戶可以使用該服務管理其應用程序的角色和屬性的訪問控制；新的開源語言CEDAR，方便書寫所有授權規則，使得更加輕松、快速地創建所有的訪問控制權限。

針對威脅識別，Amazon GuardDuty使用了基于人工智能和機器學習的技術，使安全事件的誤報率減少50%。能夠實現初期檢測，還可以做持續分析，會使用機器學習的技術來檢測“所有的威脅”，以智能化的手段給予采取行動的建議。

針對網絡防護，Amazon Shield用于防DDos攻擊；Amazon WAF提供防火墻支撐，每天托管規則請求超過3500億條；Amazon Firewall Manager管制防火墻策略，去年緩解了70萬次DDos攻擊。

AI反哺安全，提升安全合規效率

在提供生成式AI安全合規解決方案的同時，亞馬遜云科技也將AI技術應用到其安全及合規服務中，通過更智能的安全及合規服務應對復雜的安全威脅、提升合規效率。這是一種技術的雙向流動。

威脅檢測服務Amazon GuardDuty可通過人工智能和機器學習將安全事件的誤報率降低50%。亞馬遜云科技通過在其500多項自身合規審計控制項中使用AI技術，大幅提升了自身的合規效率，將審計時間簡約了53%。在此次大會上，亞馬遜云科技推出了多項具有AI能力的安全服務新功能，包括推出Amazon CodeGuru Security 預覽版，利用機器學習技術幫助用戶識別代碼漏洞，并提供修復漏洞的指導意見；擴大Amazon Detective發現組的范圍至Amazon Inspector，該服務利用機器學習技術，可以幫助專業安全人員加快調查過程、確定根本原因。

在IDC近期發布的《2023中國公有云托管安全服務能力報告》中，亞馬遜云科技在專家能力、漏洞及威脅檢測、威脅情報等7項目評估維度上是獲得滿分最多的廠商之一，其中“生態建設”評估維度是唯一獲得滿分的廠商。從全棧的角度考量安全合規，應該正是其中關鍵。（丁科技網原創，轉載務必注明“來源：丁科技網”）

關鍵詞：