政務(wù)大模型是專注在政務(wù)領(lǐng)域的行業(yè)大模型，政務(wù)大模型在通用大模型基礎(chǔ)上，通過檢索增強(qiáng)生成或者模型微調(diào)等技術(shù)手段，使模型更加貼合政務(wù)的特點(diǎn)和需求。
基于政務(wù)大模型的應(yīng)用，為政府決策、公共服務(wù)、帶來了全新的變革。政務(wù)大模型應(yīng)用也伴隨著各種潛在的風(fēng)險。政務(wù)大模型安全風(fēng)險主要包括七個主要類型，即數(shù)據(jù)安全風(fēng)險、訓(xùn)練語料安全風(fēng)險、模型安全風(fēng)險、應(yīng)用安全風(fēng)險、軟件供應(yīng)鏈安全風(fēng)險、生成內(nèi)容風(fēng)險、大模型自身風(fēng)險。
政務(wù)大模型的安全治理框架是保障其安全、合規(guī)運(yùn)行的基礎(chǔ)。全面的安全治理框架，需要滿足合規(guī)要求、建立完善安全機(jī)制、提供安全技術(shù)保障。其中，合規(guī)是安全治理首要原則，涉及多項(xiàng)法律法規(guī)、規(guī)章制度的遵循。安全技術(shù)保障是政務(wù)大模型安全治理框架的核心，涵蓋從基礎(chǔ)安全措施、數(shù)據(jù)安全、大模型開發(fā)安全到運(yùn)行安全等方面。
政務(wù)大模型的安全治理上，需要政府、企業(yè)、研究機(jī)構(gòu)、監(jiān)管機(jī)構(gòu)等各方協(xié)作，形成良性互動生態(tài)體系，構(gòu)建安全、可靠、有序的環(huán)境，充分發(fā)揮政務(wù)大模型在提升政府服務(wù)效能、推動社會進(jìn)步方面的積極作用。
附件：政務(wù)大模型安全治理框架：安全風(fēng)險主要包括七個主要類型,大模型開發(fā)安全到運(yùn)行安全等方面
某公司開發(fā)的“駕培平臺”未履行數(shù)據(jù)安全保護(hù)義務(wù)依法處以警告并處罰款人民幣5萬元的行政處罰;未建立完善的絡(luò)數(shù)據(jù)安全管理制度被罰款10萬元
涉及數(shù)據(jù)安全的事件27起、涉及個人信息安全事件14起、一案雙查事件 18起，涉及個人及黑產(chǎn)團(tuán)伙犯罪事件10起，涉及內(nèi)鬼作案或內(nèi)部人員違規(guī)事件 5起
大模型有潛力成為安全防護(hù)的核心,從而改變安全的工作模式,從依賴安全人員調(diào)度和使用安全工具，轉(zhuǎn)變?yōu)橐源竽Ｐ蜑楹诵恼{(diào)度并智能化使用安全工具
圍繞組織架構(gòu)的搭建,管理制度的完善,技術(shù)保障體系的建立以及運(yùn)營流程的規(guī)劃等方面設(shè)計(jì)了一套全方位,立體的網(wǎng)絡(luò)安全保障方案,為用戶在重大活動網(wǎng)絡(luò)安全保障時提供全面有效的實(shí)戰(zhàn)型指導(dǎo)
利用最頻繁且對企業(yè)危害較高的漏洞，包含了詳細(xì)的漏洞基礎(chǔ)信息、檢測規(guī)則和修復(fù)方案，企業(yè)可根據(jù)自身資產(chǎn)信息進(jìn)行針對性的排查、配置封堵策略和漏洞修復(fù)相關(guān)工作
從人工智能隱私保護(hù)的內(nèi)涵出發(fā),從人工智能全生命周期系統(tǒng)梳理人工智能通用隱私風(fēng)險和生成式人工智能隱私風(fēng)險,分析了人工智能隱私保護(hù)技術(shù)和平臺
安全平行切面的核心思想是將編程語言環(huán)境下的Aspect-oriented Programming推廣應(yīng)用到安全架構(gòu)建設(shè)中，構(gòu)建與業(yè)務(wù)正交融合的安全橫切面
通過梳理銀行業(yè)數(shù)字化轉(zhuǎn)型下面臨的業(yè)務(wù)安全核心問題,幫助銀行業(yè)機(jī)構(gòu)深入了解當(dāng)前行業(yè)的業(yè)務(wù)安全挑戰(zhàn)和趨勢,加強(qiáng)安全管理和風(fēng)險防范能力,保護(hù)業(yè)務(wù)的安全平穩(wěn)運(yùn)行
企業(yè)可以從API的上線運(yùn)行階段入手,基于IPDRR安全模型實(shí)現(xiàn)API安全閉環(huán)管理,結(jié)合自身的業(yè)務(wù)情況有序開展API安全實(shí)踐,全面保護(hù)API的安全性和可靠性
針對復(fù)雜多樣的企業(yè)網(wǎng)絡(luò)環(huán)境,對典型零信任架構(gòu)的關(guān)鍵技術(shù)能力進(jìn)行分析,重點(diǎn)討論了每種架構(gòu)的技術(shù)特點(diǎn)和應(yīng)用場景,為全面建設(shè)零信任的實(shí)施方案提供參考
以云原生安全管理的變革為主線對中國云原生安全市場現(xiàn)狀進(jìn)行了年度洞察,以期為中國云原生安全的發(fā)展和企業(yè)云原生安全建設(shè)提供借鑒和參考
以路特斯機(jī)器人的信息安全保護(hù)實(shí)踐作為藍(lán)本進(jìn)行介紹，拋磚引玉，希望將路特斯機(jī)器 人在智能駕駛方面的信息安全建設(shè)的思考和實(shí)踐經(jīng)驗(yàn)分享給行業(yè)各位
