華爲雲盤古安全護欄獲信通院滿級評分，全鏈路築牢企業大模型可信
發(fā)布時間：2024-03-21
近日，在中國(guó)人工智能(néng)産業發(fā)展聯盟（AIIA）第十一次全運會(huì)上，中國(guó)信通院發(fā)布大模型标準符合性驗證結果，華爲雲盤古憑借大模型安全解決方案——盤古安全護欄完成(chéng)軟硬件、數據、模型、應用等可信模塊測試，成(chéng)爲業界首個在大模型可信領域獲得卓越級（5級）評分的大模型産品。
全新盤古安全護欄，信通院可信滿級認證
近年來，我國(guó)人工智能(néng)産業在《“十四五”數字經(jīng)濟發(fā)展規劃》《“十四五”國(guó)家信息化規劃》等政策引導下蓬勃發(fā)展。大規模預訓練模型作爲人工智能(néng)新基建的關鍵技術，在自然語言處理、計算機視覺等領域取得顯著突破。然而，随著(zhe)技術應用深入發(fā)展而來的數據投毒、不當應用等風險也逐漸凸顯。
自2021年起(qǐ)，中國(guó)信通院開(kāi)始研究大規模預訓練模型标準，與多方共同建立技術和應用标準體系，推動人工智能(néng)發(fā)展。
在本次大模型标準符合性驗證中，華爲雲大模型安全解決方案覆蓋了基礎設施、訓練數據、生成(chéng)内容的端到端安全合規全場景，有效應對(duì)大模型數據治理、模型可信、内容合規等三大維度風險，并以文本審核、Prompt攻擊檢測、AIGC鑒僞、個人隐私脫敏等新型可信能(néng)力，确保應用中的可信可靠。
此外，在軟硬件和數據方面(miàn)，盤古安全護欄保證了基礎軟硬件的安全性、可靠性和兼容性，以采集、預處理和使用控制實現數據可信性，并從多角度構築數據可信能(néng)力，打造穩健、可控、合規且符合價值觀的應用服務。
爲引導産業發(fā)展和規範行業自律，華爲雲還(hái)與中國(guó)信息通信研究院聯合其他相關單位共同開(kāi)展編制《大規模預訓練模型技術和應用評估方法 第5部分：可信要求》，爲國(guó)家人工智能(néng)産業的健康發(fā)展貢獻力量。
全新盤古安全護欄，築牢大模型新防線
大模型逐漸深入行業核心系統，成(chéng)爲推動數字化轉型的關鍵力量，伴随而來的還(hái)有端到端的可信挑戰。盤古安全護欄，進(jìn)一步強化了大模型的全鏈路保障，基于華爲雲在盤古大模型實踐中積累的豐富經(jīng)驗和技術優勢，開(kāi)放兼容，能(néng)夠服務于多樣(yàng)化的模型形态，助力企業實現大模型全鏈路合規。
華爲雲盤古安全護欄憑借四道(dào)防線，全面(miàn)覆蓋大模型使用的全生命周期，兼容開(kāi)源、三方大模型，爲企業用戶提供最佳的大模型安全解決方案。
1.數據防護防線
通過(guò)數據脫敏、數據血緣、數據防毒等技術手段，從預訓練模型的數據集，直至數據治理階段，全方位保障企業構建高質量、安全合規的數據集，确保數據多樣(yàng)性和公平性。
2.模型防護防線
針對(duì)模型訓練階段可能(néng)遭遇的數據投毒風險，以及推理階段訓練數據、用戶隐私信息洩露等風險，采用模型混淆、模型加密等先進(jìn)技術，軟硬件結合，加密模型，有效保障企業大模型資産安全。
3.内容防護防線
通過(guò)Prompt攻擊檢測等新型防禦能(néng)力，實現對(duì)多種(zhǒng)直接與間接攻擊手段的有效檢測，并通過(guò)對(duì)模型輸入輸出内容嚴格審核，嚴防生成(chéng)有害或不當信息，有效應對(duì)新型安全風險。
4.應用防護防線
保護大模型在應用插件場景下的安全可靠性，确保大模型在各類應用場景中都(dōu)能(néng)穩定、高效地發(fā)揮作用。
據悉，盤古安全護欄四道(dào)防線的綜合攔截率超過(guò)90%，能(néng)夠爲企業大模型提供堅實的保障。