建立AI大模型安全治理體系——網絡安全宣傳周熱議數字人纔培養與安全防護創新

掃碼閱讀手機版

來源: 天津日報 作者: 編輯:焦若玉 2025-09-22 07:57:00

內容提要:當前,我國正步入『人工智能+』的嶄新時代。AI給人們工作生活帶來便捷高效的同時,也讓網絡安全遭遇前所未有的衝擊,一場AI攻防博弈正悄然昇級。2025年國家網絡安全宣傳周期間,我市多家企業圍繞AI賦能下的安全防護與人纔培養展開探討,為問題解決提供了全新的思路與方案。

當前,我國正步入“人工智能+”的嶄新時代。AI給人們工作生活帶來便捷高效的同時,也讓網絡安全遭遇前所未有的衝擊,一場AI攻防博弈正悄然昇級。2025年國家網絡安全宣傳周期間,我市多家企業圍繞AI賦能下的安全防護與人纔培養展開探討,為問題解決提供了全新的思路與方案。

在網絡安全宣傳周河東區活動中,天津安恆數據安全有限公司技術總監盧強以“AI時代下安全風險”為主題進行了主旨演講。從AI發展史講起,揭示海量湧現的AI大模型、AI智能體、AI工具的發展周期,以及其中存在的安全風險。

“數據泄露與隱私侵犯、模型偏見與決策誤導、內容安全與惡意濫用、應用與系統漏洞風險、合規與法律風險,是五大核心風險。”盧強說,使用AI工具時,應遵守敏感數據零上傳、內容生成驗證、工具使用合規三重准則,同時建立AI大模型安全治理體系,從模型訓練、模型部署、模型應用、辦公使用的全生命周期進行安全防護。

在網絡安全宣傳周津南區活動中,天津電子信息職業技術學院與天津綠盟安全科技有限公司簽約,攜手打造“產學研培創服”一體化平臺。該公司技術總監曹靖傑介紹,“產學研培創服”一體化平臺采用“一中心四模塊”架構,通過虛擬化、虛實結合、安全編排、行為及流量仿真、效果評估、智慧安全知識圖譜等技術構建各類應用場景,並對場景中生成的用戶行為和攻防行為進行評估分析。

曹靖傑進一步詳解道,該平臺具體可服務於網絡安全學科實踐教學體系,支橕綜合性“復合型”安全人纔培養;服務於人工智能助力網絡安全攻防對抗演練及競賽場景,支橕“精英型”攻防人纔培養;服務於人工智能結合網絡安全攻防技術研究,支橕“創新型”安全高端人纔培養;服務於人工智能助力網絡安全教研工作,支橕網絡安全學科建設工作迭代更新;服務於人工智能產業,支橕網絡安全領域應用、測試、安全評估、安全培訓服務等;服務於網絡安全知識宣傳普及工作,支橕攻防演示、交流研討、參觀體驗,支橕學校橫縱向課題申報等。

人工智能作為戰略性和長期性技術,人纔培養並非一域之事,而是關乎國家競爭力的系統工程。網絡安全宣傳周期間,中科銳眼(天津)科技有限公司展示了其AI驅動的數字人纔培養與安全防護創新實踐。該公司以智能數字職業技能培養認定平臺為核心,構建了“五階金字塔”式人纔培養體系,將網絡安全教育深度融入數字技術課程,系統化培養“安全+”復合型人纔。目前,平臺已上線涵蓋計算機技術、人工智能、網絡安全、數據安全等領域的豐富課程體系,並通過多輪AI模型訓練,驗證了“AI+產教融合”模式的可行性。(記者 孟若冰)

下載津雲客戶端關注更多精彩

推薦新聞

關於北方網 | 廣告服務 | 誠聘英纔 | 聯系我們 | 網站律師 | 設為首頁 | 關於小狼 | 違法和不良信息舉報電話:022-23602087 | 舉報郵箱:jubao@staff.enorth.cn | 舉報平臺

Copyright (C) 2000-2024 Enorth.com.cn, Tianjin ENORTH NETNEWS Co.,LTD.All rights reserved
本網站由天津北方網版權所有
增值電信業務經營許可證編號:津B2-20000001  信息網絡傳播視聽節目許可證號:0205099  互聯網新聞信息服務許可證編號:12120170001津公網安備 12010002000001號