來源:中國經濟網 發布時間:2023-9-14 10:37
中國經濟網北京9月12日訊(記者 李方) “AI大模型將開啟新一輪的‘攻強守弱’,大模型高效泛化內容生成的特點,會讓黑客以更低的門檻和成本發動更密集的攻擊;防守方需要更縝密的邏輯關聯,更精準的溯源能力。在新技術的實踐落地過程中,成本效率將會經歷更嚴峻的考驗周期。”9月8日,騰訊集團副總裁、騰訊安全總裁丁珂在騰訊全球數字生態大會發表主題演講,解讀了AI大模型帶給產業互聯網的機遇和安全挑戰,同時結合“數字安全免疫力”模型框架及頭部客戶實踐,提出企業需重新評估智能化時代的安全建設。
(騰訊集團副總裁、騰訊安全總裁丁珂在騰訊全球數字生態大會·數字安全專場發表主題演講)
丁珂表示,產業互聯網進入“智能化”下半場,企業安全建設將面臨四個方面的挑戰:企業安全防御的半徑將大幅增加、遭遇攻擊后的反應窗口期將進一步縮短、辨別“人”和“機器”的難度增大、現存的安全“情報庫”逐漸失效。
面對AI大模型引發的安全沖擊,丁珂認為傳統的安全工具、經驗、策略將失去效力,企業需要圍繞核心資產及時調整安全建設目標和路徑。丁珂在大會現場結合騰訊安全與海量企業客戶的共同實踐提出三個調整思路。
第一,擁抱智能化時代,需要建立發展驅動的安全建設理念。大模型會讓各行各業加速與數據交互,智能化、數據資產化將成為主要特征。企業安全建設需要圍繞數據和業務展開,以支撐企業在智能化時代發展戰略,對齊未來5-10年的發展目標。
第二,建立可度量的安全體系,評估安全建設的有效性。今年6月,騰訊安全和IDC聯合發布了“數字安全免疫力”模型框架,把復雜的安全體系抽象成了一個洋蔥模型,圍繞企業的數據和業務從內到外建立三個層次六大模塊的安全體系,致力于給企業決策層提供掌舵安全的“坐標系”,能從戰略視角定位安全投入和收益在哪個板塊。
第三,應對智能化時代的攻防趨勢,企業需要打造內在自適應的“安全免疫力”。安全建設是動態的,需要打造更靈活、彈性、可擴展的安全免疫能力,才能適應智能化時代快速變化。騰訊安全通過風控大模型、數據安全治理中心、天幕旁路阻斷等創新解決方案,助力企業在業務風險控制、數據安全、智能安全運營等關鍵領域沉淀了長期可持續的安全免疫力。
丁珂表示,大模型驅動產業互聯網進入智能化的下半場,騰訊安全愿意攜手產業各界,一起打造更加主動和可持續的數字安全免疫力生態,從容應對新時代的安全挑戰。
以下為演講全文:
大家好,我是騰訊安全丁珂,歡迎來到騰訊數字生態大會安全專場。AI大模型帶來的“智能涌現”,賦能千行百業全新發展機遇,同時也給企業安全建設帶來新的挑戰
首當其沖的,是AI大模型將開啟新一輪的“攻強守弱”。安全領域,攻擊方和防守方存在天然不對等關系。近期的同比數據也顯示,社工類攻擊增長135%,釣魚郵件較同期增長2.6倍。大模型高效泛化內容生成的特點,會讓黑客以更低的門檻和成本,發動更密集的攻擊。
相比較而言,防守需要更縝密的邏輯關聯,更精準的溯源能力。在新技術的實踐落地過程中,成本效率將會經歷更嚴峻的考驗周期。
具體而言,產業互聯網進入“智能化”下半場,企業安全建設將面臨如下四個方面的挑戰。
第一,企業安全防御的半徑將大幅增加。AI大模型驅動的智能化時代,圍繞數據產生的交互和分析行為會越來越普遍,這將進一步擴大企業風險的暴露,動態的數據流轉和使用,需要更加完善的防護手段。
第二,企業遭遇攻擊后的反應窗口期將進一步縮短。攻擊方的成本和門檻下降之后,其攻擊的頻次、密度會大幅提升,以前的攻守節奏可能是回合制的,防守方還有一天或者一周的時間調整安全策略;但大模型加持下,黑客會讓攻防變成“即時戰略”的對抗,企業的反應時間窗口將被迫縮短至小時級或者分鐘級。
第三,企業安全防御中,辨別“人”和“機器”的難度將增大。比如最近很多樂迷線上搶票,難度非常大,引發很大的吐槽。但我們發現,不少的黑灰產利用AI偽造真實用戶,讓票務公司的風控模型很快失效,甚至在很短時間內進入不設防狀態。隨著企業越來越多的業務轉移到線上,就必須要應用更先進的技術,實時判斷哪些是正常用戶、哪些是惡意和無效的機器訪問。
最后,進入智能化下半場,企業現存的安全“情報庫”將逐漸失效。企業安全建設往往依賴于安全情報庫,以記錄經常干壞事的惡意IP和異常流量特征;當黑客利用生成式AI實時變換大量的行為特征時,傳統靜態情報庫將逐漸失去防護價值。
面對AI大模型引發的全新安全挑戰,傳統的安全工具、經驗、策略將失去效力,企業如何及時調整安全建設路徑,評估自身安全體系的有效性?結合過去騰訊安全與海量企業客戶的共同實踐,在這里我想和大家分享如下三點思考:
第一,擁抱智能化時代,需要建立發展驅動的安全建設理念。
企業安全建設的目標,始終是要保護企業最重要的資產和增速最快的業務。AI大模型會讓各行各業加速與數據交互,智能化、數據資產化將成為主要特征,企業的數據和數字化的業務成為核心資產,變得越來越重要。企業安全建設,需要圍繞企業的數據和業務展開,以支撐企業在數字化時代發展戰略,對齊未來5-10年的發展目標。
實際上,在過去一個階段,一些行業頭部企業在這方面已經建立了示范效應。中遠海運是物流行業的一個標桿,這幾年的發展勢頭很好,去年的凈利突破千億大關。他們在安全的思考上也比較領先,和騰訊安全合作時就明確圍繞核心的數據資產和數字化應用部署防線,雙方攜手把技術和專家做了很好的融合,護航中遠海運的發展。
在消費金融領域,了解用戶的金融習慣和線上金融服務的便捷性是安身立命的根本。中原消金從2020年開始就與騰訊安全合作,從開始的反欺詐,到聯邦學習建模,再到智能決策平臺,雙方攜手搭建了動態智能的安全風控體系,支撐千萬用戶規模的線上金融業務開展。
第二,企業需要建立可度量的安全體系,評估安全建設的有效性。
明確安全的目標之后,如何圍繞核心資產建立完善有效的安全體系呢?就像以前用碰撞測試來檢驗汽車的物理安全性,但在智能化時代的今天,汽車的安全性評估肯定還要綜合考慮網絡安全、用戶隱私的部分。
今年6月,騰訊安全和IDC聯合發布了“數字安全免疫力”模型框架,把復雜的安全體系抽象成了一個洋蔥模型,圍繞企業的數據和業務從內到外建立三個層次六大模塊的安全體系。
這個模型框架首先給了企業決策層一個掌舵安全的“坐標系”,能從戰略視角定位安全投入和收益在哪個板塊。根據我們服務top300客戶的實踐來看,企業安全預算有50%要部署在數據和業務風控層,20%部署在智能安全運營層, 30%部署在外圍的安全工具層。
基于新的模型框架,我們還開發了“數字安全免疫力評估工具”,有參與過的企業把這個叫做安全版的“性格測試”,能幫助企業從全局視角掌握企業整體的安全狀態。總計有金融、能源、工業60家企業參與了測試,我們也發現了一些共性的問題。
金融行業總體得分第一,但是在細分的業務風控場景有不足;能源和工業安全工具部署非常充分,但是圍繞關鍵數據和業務的模塊有待提升;每個企業參與測試后,都能得到一個基準分,能知道自己在行業內是什么水平,和行業頭部、中位數的差距是多少。
同時,借今天大會,我們也宣布這個評估工具正式上線,稍后我的同事會和大家介紹詳細的使用過程和提升建議,讓各行各業的企業都能自己診斷問題和解決問題。
第三,應對智能化時代的攻防趨勢,企業需要打造內在自適應的“安全免疫力”。
安全建設是動態的,但如果外部的技術和安全趨勢一有變化,就要重新構建一整個模塊的安全體系來匹配,從成本和效果考量都是不合格的。打造更靈活、彈性、可擴展的安全免疫能力,企業的安全建設才會更長效。
例如在業務風控領域,金融機構往往通過采購大量的外部數據豐富自己的風控規則,但底層的風控模型可能兩三年都沒變過,客群特征稍微變化就要再次采購數據。東風日產融資租賃借助騰訊云的風控大模型,在只有較少樣本的情況下就完成了定制化的風控建模,讓最底層的模型上具備了堅實的風控免疫力,支持金融業務開展。
在數據安全方面,很多企業采用傳統的多個單點產品堆積的方案,很難適應當前環境下數據安全治理的需求。騰訊安全通過數據安全治理中心等產品,為一家大型零售企業提供云原生的資產管理和極速風險發現,以及免改造的數據安全管控,實現數據安全治理的閉環。
在安全運營領域,騰訊安全依托大數據處理和AI分析的技術優勢,為農業銀行打造了高適配、強擴展的創新入侵檢測方案。通過旁路部署,在業務零影響的情況下,極大地提高了風險阻斷效率,最大限度地保障銀行系統的安全運行。
我們也開放自己的技術原子能力,希望把騰訊領先的技術融合在企業現有的安全能力中。騰訊安全的數據分析能力沉淀為了安全數據湖,通過云原生、存算分離、MPP、列存等技術,能將企業的安全運營存儲成本降低90%,數據處理規模提升10倍以上。我們還和天融信、銳捷這樣的老牌安全廠商合作,把騰訊級的威脅情報能力內嵌在防火墻中,讓訪問控制列表實現精準智能高效的防御。
大模型驅動產業互聯網進入智能化的下半場,騰訊安全愿意攜手產業各界,一起打造更加主動和可持續的數字安全免疫力生態,從容應對新時代的安全挑戰。