專家 ：發(fā)展大模型的前提是安全可控
在日前舉辦的2025中國數(shù)谷·西湖論劍大會上，中國網絡空間安全協(xié)會理事長趙澤良表示，在網絡安全領域要建立可度量、可比較、可考核的量化評價體系。不僅要用人工智能解決安全問題，更要以人工智能引領科研范式變革，敢于突破現(xiàn)有理論體系，探索新的方法框架，最終實現(xiàn)網絡安全與科技創(chuàng)新的深度融合，推動行業(yè)高質量發(fā)展。
安恒信息技術股份有限公司董事長范淵認為，AI智能體發(fā)展有條件自主、高度自主和完全自主三重境界，安恒信息通過智能體賦能安全運營、安全監(jiān)管，重構威脅情報共享和協(xié)同防御體系，實現(xiàn)從傳統(tǒng)的被動響應轉向主動防御，同時通過智能體生態(tài)共創(chuàng)，結合各自專業(yè)領域的業(yè)務知識，共創(chuàng)出兼具創(chuàng)新與實用的智能體，在技術、業(yè)務、成果上實現(xiàn)共贏。
范淵分析，在數(shù)據(jù)要素化發(fā)展新階段，數(shù)據(jù)安全要從靜態(tài)安全向動態(tài)安全迭代升級，需要對數(shù)據(jù)、業(yè)務和行為意圖進行更為深入的理解，安全智能體是解題的關鍵核心。在可信數(shù)據(jù)空間領域，AI原生可信數(shù)據(jù)空間可實現(xiàn)可信數(shù)據(jù)空間與AI的雙向賦能。既要看到“人工智能帶來前所未有發(fā)展機遇”，也要看到它“帶來前所未遇風險挑戰(zhàn)”，必須將大模型風險評估檢測列為關鍵任務，讓大模型在安全可控的前提下，才能實現(xiàn)敢用、可用、好用。
中國計算機學會原理事長、CCF計算機博物館館長梅宏表示，數(shù)字化轉型需構建以數(shù)據(jù)為中心的組織體系和運行模式。當前，我國數(shù)字化轉型還處于起步階段，數(shù)據(jù)資產相關法律還未明確，資產地位沒有確立，權屬確權沒有形成共識，流通交易也缺少規(guī)則，利益分配相應機制不夠充分。此外，還要面對安全隱私帶來的系列問題。沒有數(shù)據(jù)就不可能有智能，就像燃料和火箭的關系一樣。
華中科技大學人工智能與自動化學院副院長、IEEE Fellow伍冬睿表示，腦機接口行業(yè)正處在技術突破與規(guī)范構建并行的關鍵階段。作為人機交互革命性方向，該領域已上升為國家戰(zhàn)略級賽道。腦電解碼算法方面的重要考慮包括，通過遷移學習、深度學習、大模型等實現(xiàn)精準解碼，與對抗訓練等結合實現(xiàn)準確度與安全性的動態(tài)平衡，運用差分隱私技術破解腦電數(shù)據(jù)共享的合規(guī)難題，以及建立覆蓋信號采集、算法倫理的標準化體系。
大會集中發(fā)布了“中國數(shù)谷”在數(shù)據(jù)要素市場化配置改革、關鍵技術創(chuàng)新攻關、產業(yè)生態(tài)培育以及行業(yè)深度應用等方面取得的一系列標志性成果，彰顯了杭州高新區(qū)（濱江）在數(shù)字經濟領域的引領力與創(chuàng)新力。
隨著人工智能技術在政務、金融、工業(yè)等關鍵領域的深度賦能，安全智能體已成為構筑數(shù)字時代網絡安全防御體系的核心要素。會上發(fā)布了《安全智能體魔方：成熟度模型評價研究報告》，該報告創(chuàng)新性地構建了安全智能體的多維度成熟度評估框架，通過剖析高價值場景案例，前瞻性研判安全大模型及智能體的發(fā)展趨勢與挑戰(zhàn)，推動AI應用向“可信可控”升級，為數(shù)字經濟發(fā)展筑牢智能化安全根基。
浙江移動數(shù)智科技有限公司、中國電信浙江分公司、杭州安恒信息技術股份有限公司等十余家機構聯(lián)合發(fā)布了“三數(shù)一鏈”國家數(shù)據(jù)基礎設施杭州試點任務的階段性成果，標志著“中國數(shù)谷”在推進數(shù)據(jù)要素市場化配置改革方面取得了又一里程碑式的進展。
編輯：遲明緒
京公網安備 11010502000576號