国产综合高清-a视频-高清全高清-国产黄a三级三级三级70年后|www.whhswh.com

近日，一股“大模型熱”正在延伸到工業(yè)領域。中工互聯(lián)智工·工業(yè)大模型、思謀科技工業(yè)多模態(tài)大模型IndustryGPT V1.0、海爾卡奧斯工業(yè)大模型COSMO-GPT、科大訊飛羚羊工業(yè)大模型等大模型創(chuàng)新應用為智能制造提供了新的方向和思路。

但是，記者在采訪時卻了解到，工業(yè)企業(yè)利用分布式云將大模型引入到生產管理流程中是未來趨勢，但也會帶來越來越多的安全問題。工業(yè)級大模型應用可解決安全生產力短缺問題，但大模型技術是一把“雙刃劍”，需要以大模型應用安全為前提。

工業(yè)云已成網絡攻擊主要對象

騰訊研究院和騰訊安全聯(lián)合發(fā)布的《2023上半年云安全態(tài)勢報告》顯示，由于各行業(yè)用戶群體和業(yè)務需求不同，行業(yè)遭受攻擊的次數(shù)呈現(xiàn)出明顯差異，其中互聯(lián)網（通用工具、技術服務、通用SaaS）、工業(yè)云、金融是遭受攻擊最多的三大行業(yè)。

2023年上半年各行業(yè)用戶平均被攻擊次數(shù)

數(shù)據(jù)來源：2023上半年云安全態(tài)勢報告

據(jù)國家工業(yè)信息安全發(fā)展研究中心統(tǒng)計，2022年公開披露的工業(yè)信息安全事件共312起，行業(yè)分布覆蓋十幾個工業(yè)細分領域，制造、能源領域成為網絡攻擊重點目標攻擊。攻擊方式包括惡意軟件、分布式拒絕服務（DDos）攻擊、網絡釣魚等，呈現(xiàn)出目標多元化、手段復雜化、影響擴大化的攻擊趨勢。

值得關注的是，制造業(yè)已成為勒索攻擊主要目標。其中，電子制造行業(yè)遭勒索攻擊最多，占比約23%。汽車制造行業(yè)成為僅次于電子制造行業(yè)的重點攻擊目標，占比約13%。

據(jù)Verizon統(tǒng)計的數(shù)據(jù)顯示，全球多國大型制造企業(yè)關鍵工業(yè)數(shù)據(jù)遭泄露，造成的經濟損失和影響持續(xù)加大。比如，韓國三星電子190GB機密數(shù)據(jù)和源代碼被泄露。德國電子制造商賽米控遭數(shù)據(jù)勒索攻擊，2TB重要文件被竊取。

此外，供應鏈也是網絡攻擊的一個重點。由于工業(yè)供應鏈攻擊具有隱蔽性、威脅對象多、涉及維度廣等特點，利用上游企業(yè)的安全薄弱環(huán)節(jié)實施攻擊能達到“突破一點，傷及一片”的效果，工業(yè)供應鏈已成為網絡攻擊最佳切入點。

此前，豐田汽車就曾因主要零部件供應商遭受網絡攻擊，導致其不得不關閉在日本的全部14家工廠和28條生產線，影響約1萬輛汽車的生產，經濟損失嚴重。

騰訊安全副總經理董文輝在接受記者采訪時表示：“上云是必然趨勢，我們看到現(xiàn)在越來越多的工業(yè)企業(yè)是在上云的。他們會選擇優(yōu)先把自己原本就有的服務器等利用起來，進行本地化部署。像寧德時代、三一重工等比較典型的工業(yè)企業(yè)就采用的是本地云、專有云。”

在他看來，這些工業(yè)企業(yè)利用分布式云將AI的能力逐漸引入到整個生產、管理流程中，這是一個數(shù)字化的過程，也是未來的趨勢。不過也正因如此，他們面臨的安全威脅也越來越多了。

“一方面，傳統(tǒng)工業(yè)企業(yè)在專業(yè)技術人才儲備方面存在短板。另一方面，工業(yè)制造業(yè)涉及的特殊工藝、技術以及工業(yè)知識，給攻防端都帶來了很大的技術挑戰(zhàn)。”董文輝說道。

大模型與安全行業(yè)結合成新趨勢

在工業(yè)領域，制造企業(yè)的安全體系面臨挑戰(zhàn)。蔚來汽車信息安全基礎設施負責人馬磊表示，對于汽車制造業(yè)而言，傳統(tǒng)的云上DDOS、CCI以及爬蟲風險持續(xù)存在，而智能網聯(lián)時代，整個汽車生產制造，包括服務都跑在云上，車載應用迭代和更新的速度不斷加快，這樣也會加大安全漏洞的風險。此外，汽車制造業(yè)還面臨關鍵基礎設施的合規(guī)風險及供應鏈風險，必須從傳統(tǒng)的被動防御轉化成主動。

“長期以來，我們一直在思考一個問題——安全運營提效的終局會是怎樣，安全運營未來會是怎樣？”騰訊云安全產品負責人周荃說道，“如今，大模型來了。我們做了很多探索和嘗試，發(fā)現(xiàn)通用的語言模型如果沒有專門針對于垂類行業(yè)進行訓練，就無法在指定領域里成為一個可對話式、生成式AI專家角色。為此，騰訊云安全在通用模型基礎上投喂安全知識語料庫二次訓練出了一個安全大模型，并基于安全大模型打造了一款騰訊云AI安全助手，覆蓋告警解釋、漏洞修復、日志處理、智能客服等四大能力，產品將會在2024年1月全量正式上線。”

騰訊云安全年度產品發(fā)布會現(xiàn)場

不止是騰訊，微軟的Microsoft Security Copilot、阿里云安全大模型、360安全大模型、深信服安全GPT、安恒科技AI恒腦、奇安信Q-GPT安全機器人等產品的涌現(xiàn)，足以說明大模型與安全行業(yè)的結合已經成為一個新趨勢。

據(jù)奇安信集團總裁吳云坤介紹，目前奇安信推出的Q-GPT安全大模型已經在安全運營、事件響應、攻防演練等場景中進行大量實踐驗證，大幅度提升了相關應用場景的安全能力和效率。比如在安全運營場景下，經過初步測算，Q-GPT大模型每分鐘可以研判16條告警，是安全專家平均水平的16倍；年運營效率可以達到人工運營的70倍。

“安全大模型的不斷進化將驅動安全運營從人工時代進入全自動運營時代。”周荃表示。不過從現(xiàn)階段來看，工業(yè)領域安全交互產品本質上仍停留在信息交換層面。很多工業(yè)設計包括產品體驗設計更多都是提高信息反饋的及時性、準確性、豐富度，幫助安全運營人員拿到信息以后能夠快速準確地做出下一步決策和判斷。

他指出，下一步，如果能把安全大模型應用在產品交互、安全能力建設、安全服務等各個方面，將大大提升安全運營效率。比如，基于大模型，讓用戶通過更簡單的操作，甚至對話的形式直接使用安全產品。再比如，嘗試利用大模型對安全規(guī)則進行泛化和變種，提升安全漏洞的檢出率。安全大模型最終演化為一個真正的安全智能體后，安全運營人員使用安全產品時只需針對確定性的事情提出一個目標，AI就能完成余下的工作。

工業(yè)大模型要遵循安全原則

工業(yè)場景有其特殊性，一方面工業(yè)制造業(yè)關乎國計民生，是經濟和產業(yè)發(fā)展的基本盤。另一方面，這個領域極其復雜且細碎，目前國內規(guī)模以上工業(yè)企業(yè)數(shù)量超過40萬家，覆蓋41個工業(yè)大類、207個工業(yè)中類、666個工業(yè)小類，其中存在著大量的場景和業(yè)務痛點。工業(yè)安全的重要性毋庸置疑。

尤其是經過多年的發(fā)展，工業(yè)企業(yè)加速上云，完成了不少場景的智能化升級。大模型的到來，在為這個領域帶來新機遇的同時也帶來了更多安全挑戰(zhàn)。

“工業(yè)級大模型應用可以解決安全生產力短缺的問題，但大模型技術是一把‘雙刃劍’，需要以大模型應用安全作為生產力輸出的前提和基礎。然而，當前大多數(shù)大模型應用無法真正解決網絡安全生產力問題。”吳云坤表示。

他建議，安全大模型達到工業(yè)級應用，需要滿足三個關鍵條件。一是需要高質量知識數(shù)據(jù)、專家隊伍、實戰(zhàn)經驗和場景支撐；二是必須基于多種安全任務的強化學習和頂尖專家的反饋訓練；三是要面向安全生產場景中的任務和應用強化實戰(zhàn)能力。像奇安信推出的大模型衛(wèi)士，便可以防范大模型應用中數(shù)據(jù)投喂造成的敏感數(shù)據(jù)泄露、避免觸發(fā)數(shù)據(jù)跨境安全監(jiān)管紅線、建立身份識別與溯源機制，對企業(yè)的大模型應用進行安全管控。

奇安信集團總裁吳云坤在2023世界互聯(lián)網大會烏鎮(zhèn)峰會上發(fā)表演講

制造業(yè)是一個高度專業(yè)化的領域，且細分行業(yè)眾多，不能簡單地將一個通用大模型應用于生產環(huán)境。即便是引領技術潮流的GPT-4，也由于缺少專業(yè)知識、無法理解工業(yè)場景的具體需求，而無法準確回答制造行業(yè)的相關問題、識別常見的工業(yè)缺陷，或生成相關的業(yè)務流程和代碼。

在工業(yè)安全場景中，更是需要有全面的工業(yè)知識和安全知識的結合，這對安全大模型本身也提出了更高的要求。騰訊安全科恩實驗室高級安全研究員唐祺壹表示：“要跟實際的業(yè)務場景去做結合，通過場景數(shù)據(jù)微調的方式，以更低的訓練適配成本和插件化的靈活性，去將大模型應用到不同的場景當中，發(fā)揮真正的價值。”

360創(chuàng)始人周鴻祎認為，大模型很熱，但絕不是風口和泡沫，而是代表了一次工業(yè)革命的機會，將大幅提高生產力和生產效率。在構建企業(yè)級大模型的時候一定要遵循“安全原則”。安全是大模型發(fā)展的底線，也是未來大模型的核心競爭力。