3月28日,國家安全部公眾號發(fā)文提醒,“服務(wù)外包在帶來便利的同時,也暗藏著失泄密隱患。機(jī)關(guān)、單位務(wù)必保持高度警惕,采取有效措施加以防范?!?/p>
國家安全部列舉了若干外包引發(fā)數(shù)據(jù)泄密的案例。例如某公司不具備涉密檔案數(shù)字化資質(zhì),騙取多個機(jī)關(guān)單位檔案管理部門信任后,承包檔案資料數(shù)字化業(yè)務(wù)。該公司員工蔣某利用工作便利,先后竊取、復(fù)制檔案資料中幾十份涉密文件并帶回家中,為謀取私利,又將其中幾份放在互聯(lián)網(wǎng)上出售,致使國家秘密泄露。此外還有外包保潔員主動投靠境外情報機(jī)關(guān),造成重大失泄密的案例。
無獨(dú)有偶,就在3月27日的2025BCS政企數(shù)字化轉(zhuǎn)型及數(shù)據(jù)安全專題研討會上,奇安信集團(tuán)董事長齊向東表示,在大模型時代,數(shù)據(jù)安全不是“選擇題”,而是“必答題”,企業(yè)需要更加關(guān)注小數(shù)據(jù)安全、更加關(guān)注內(nèi)鬼防范,更加關(guān)注外包管理。“外包人員雖然游離于政企單位的直接管控體系之外,但出于業(yè)務(wù)需要,其數(shù)據(jù)接觸權(quán)限也很大。由于監(jiān)管難度高且更容易受到利益誘惑,外包人員有可能利用工作便利做出危害數(shù)據(jù)安全的行為?!?/span>
01 大模型催生海量外包需求,數(shù)據(jù)安全風(fēng)險激增
國家安全部指出,隨著經(jīng)濟(jì)社會的快速發(fā)展,服務(wù)外包成為眾多單位優(yōu)化資源配置、提升運(yùn)營效率的重要手段。尤其今年以來,在DeepSeek、通義千問的開源和免費(fèi)商用浪潮下,大模型應(yīng)用正在政務(wù)、金融、運(yùn)營商、醫(yī)療、教育等各個行業(yè)加速落地。與此同時,業(yè)界對大模型數(shù)據(jù)標(biāo)注等崗位的人力需求正在攀升。
奇安信人工智能專家指出,數(shù)據(jù)標(biāo)注是大模型在垂直場景落地應(yīng)用中不可或缺的一環(huán),主要是對圖片、語音、文本、視頻等數(shù)據(jù)進(jìn)行處理,標(biāo)記對象的特征,生成滿足機(jī)器學(xué)習(xí)訓(xùn)練要求的可讀數(shù)據(jù)編碼。然而數(shù)據(jù)標(biāo)注工作量大、繁瑣且高負(fù)荷,外包人員成為很多企業(yè)的首選。
然而,外包人員的廣泛使用,給企業(yè)如火如荼的大模型應(yīng)用落地浪潮帶來了數(shù)據(jù)泄密隱患。例如某大型金融公司在部署了DeepSeek通用大模型之后,需要利用公司積累的海量金融信貸風(fēng)控數(shù)據(jù)和專業(yè)知識庫,進(jìn)行數(shù)據(jù)標(biāo)注、運(yùn)維管理、預(yù)訓(xùn)練微調(diào)等操作,其中很多環(huán)節(jié)需要外包人員來完成,這就意味著公司大量內(nèi)部敏感數(shù)據(jù)直接暴露給外包人員,而相關(guān)的數(shù)據(jù)安全保護(hù)措施卻沒有與之匹配,一旦泄密,將對企業(yè)經(jīng)營造成致命打擊。
02 零信任架構(gòu)+安全空間,多管齊下封堵外包數(shù)據(jù)泄密
“大模型等新興技術(shù)的應(yīng)用往往伴隨著新的風(fēng)險和挑戰(zhàn)。特別是在數(shù)據(jù)處理和管理方面,任何疏忽都可能導(dǎo)致嚴(yán)重的后果?!饼R向東表示,大模型在訓(xùn)練和應(yīng)用過程中會引入更加復(fù)雜的人員角色,其中包括大量外包人員,這就要求政企單位需要加快推動零信任架構(gòu)的普及和安全空間的落地。
奇安信推出的零信任網(wǎng)絡(luò)訪問系統(tǒng)(ZTNA),可以和天擎形成深度融合,進(jìn)一步增強(qiáng)內(nèi)網(wǎng)終端對大模型核心各組件的管控、訪問能力,能夠在登錄階段、訪問階段獲取到終端安全評分(木馬病毒、漏洞檢測等),避免不安全終端接入零信任系統(tǒng),防止對業(yè)務(wù)應(yīng)用訪問,緩解惡意終端訪問和數(shù)據(jù)泄露等安全風(fēng)險。
動態(tài)訪問控制是零信任網(wǎng)絡(luò)訪問系統(tǒng)的核心能力,它通過用戶屬性,環(huán)境屬性,行為屬性,終端屬性,應(yīng)用屬性多維度屬性組合成準(zhǔn)入策略和訪問策略,根據(jù)采集到的最新屬性信息與策略規(guī)則進(jìn)行匹配,如果當(dāng)前屬性與控制策略規(guī)則相匹配,則根據(jù)控制策略對用戶準(zhǔn)入和訪問實(shí)施動態(tài)訪問控制。
為了對外包人員對企業(yè)內(nèi)部數(shù)據(jù)訪問進(jìn)行更加精細(xì)化的管控,奇安信創(chuàng)新提出了安全空間的設(shè)計理念。安全空間對企業(yè)內(nèi)部系統(tǒng)進(jìn)行環(huán)境隔離,為模型開發(fā)、數(shù)據(jù)標(biāo)注等終端內(nèi)提供內(nèi)存、磁盤數(shù)據(jù)加密、數(shù)據(jù)隔離、流轉(zhuǎn)合規(guī)等數(shù)據(jù)安全保護(hù),能夠在人員不可信、終端不可信的前提下,允許核心數(shù)據(jù)被可信查看、加工和處理,但不能向外流轉(zhuǎn)和傳輸,從而有效避免數(shù)據(jù)被竊取風(fēng)險。
通過零信任架構(gòu)+安全空間的組合使用,奇安信可以為大模型客戶提供端、網(wǎng)、業(yè)務(wù)、文件、數(shù)據(jù)全周期訪問控制閉環(huán),解決大模型訪問過程中的模型代碼、模型數(shù)據(jù)落地等問題,保障大模型數(shù)據(jù)安全。
數(shù)據(jù)是人工智能的核心,數(shù)據(jù)安全是人工智能大模型應(yīng)用的核心關(guān)切,而外包人員造成的數(shù)據(jù)泄密隱患僅僅是大模型安全風(fēng)險的冰山一角??梢灶A(yù)見的是,垂直大模型在激活數(shù)據(jù)價值的同時,也打開了潘多拉魔盒,因高價值數(shù)據(jù)泄露導(dǎo)致“一失萬無”的情況將成為企業(yè)的頭號挑戰(zhàn)。企業(yè)要在AI時代行穩(wěn)致遠(yuǎn),數(shù)據(jù)安全無疑是底線和基石。
特別聲明:智慧醫(yī)療網(wǎng)轉(zhuǎn)載其他網(wǎng)站內(nèi)容,出于傳遞更多信息而非盈利之目的,同時并不代表贊成其觀點(diǎn)或證實(shí)其描述,內(nèi)容僅供參考。版權(quán)歸原作者所有,若有侵權(quán),請聯(lián)系我們刪除。
凡來源注明智慧醫(yī)療網(wǎng)的內(nèi)容為智慧醫(yī)療網(wǎng)原創(chuàng),轉(zhuǎn)載需獲授權(quán)。
智慧醫(yī)療網(wǎng) ? 2022 版權(quán)所有 ICP備案號:滬ICP備17004559號-5