建站
咨詢
售后
建站咨詢
新聞中心
如同一些出生免疫力即有缺陷的人一樣，AI天生也存在免疫力缺陷。例如，車輛的輔助駕駛和自動駕駛系統(tǒng)會因算法技術(shù)缺陷喪失識別交通指示牌的能力，成為“沒有視覺系統(tǒng)”的汽車，從而給出錯誤的決策，遇到大型障礙物時“看不到”停車標(biāo)志，一頭撞上去。
AI模型對微小擾動很敏感，一些細(xì)微不可見的改動就可以引起算法上的巨大誤差，往往帶來可怕的安全威脅。基于從源頭打造安全免疫力的新一代安全架構(gòu)理念，最近，阿里安全發(fā)布了一項核心技術(shù)“AI安全診斷大師”，可對AI模型全面體檢，“看診開方”，讓AI模型出生就自帶增強(qiáng)型免疫力，抵御安全威脅。
“AI安全診斷大師”包括一款對AI模型安全性進(jìn)行評測和防御的工具箱，對多個云上算法接口進(jìn)行安全性測試后，還沉淀出一套在實(shí)際生產(chǎn)中能對惡意攻擊進(jìn)行過濾，降低安全風(fēng)險的AI防火墻系統(tǒng)。
據(jù)阿里安全圖靈實(shí)驗室高級算法專家華棠介紹，“AI安全診斷大師”提供了全方位的體檢與診斷開方服務(wù)，對AI模型進(jìn)行體檢后，通過診斷算法可能出錯的特殊情形，給模型防御增強(qiáng)提供細(xì)化“健康”指導(dǎo)。
值得注意的是，這種“安全診斷”看得見?！癆I安全診斷大師”提供了一個可視化界面，以模型的損失曲面分析圖呈現(xiàn)被評估AI模型的輸入擾動及響應(yīng)表現(xiàn)，可以直觀地看出AI模型的總體安全性能，曲面越平緩，AI遭遇攻擊時，抵御攻擊的能力更強(qiáng)。
“AI安全診斷大師”的可視化診斷結(jié)果界面
除了提供總體安全性能評估的“體檢報告”，“AI安全診斷大師”可通過指定評測數(shù)據(jù)集生成針對某幾種特定攻擊的性能報告，提供不同攻擊算法下更細(xì)化的安全性指標(biāo)。它可以提供即插即用的安全能力，對于那些不方便“面診”的“患者”，比如只能提供API接口的AI服務(wù)，“AI安全診斷大師”提供“云體檢”服務(wù)，只需調(diào)用接口即可評測AI的安全性。
“AI安全診斷大師”給多個算法API出具的遭遇攻擊的體檢報告
“AI安全診斷大師”檢測到算法服務(wù)的潛在安全風(fēng)險后，還有針對惡意攻擊的防火墻功能，定制化提供防御升級的建議。
“將多種攻擊檢測和對抗防御方法作為附加模塊，可為AI模型部署前置服務(wù)，在不修改原模型的基礎(chǔ)上，提升模型對于對抗樣本攻擊的防御性能，降低用戶使用成本和風(fēng)險。經(jīng)過在色情、暴恐、敏感圖像識別等多種內(nèi)容安全服務(wù)上的測試，‘AI安全診斷大師’可將模型對外部攻擊的有效防御能力整體提升40%以上?！比A棠說。
不久前，阿里安全曾發(fā)布了一個高效打造AI深度模型的“AI訓(xùn)練師助手”，讓AI訓(xùn)練模型面對新場景時不用從頭學(xué)習(xí)，直接從已經(jīng)存在的模型上遷移，迅速獲得別人的知識、能力，成為全新的AI模型，將模型打造周期從一個月縮短為一天。在阿里新一代安全架構(gòu)的指導(dǎo)下，阿里安全圖靈實(shí)驗室不斷致力于磨礪出提升AI效率，保障AI安全的技術(shù)和產(chǎn)品，推動AI安全的相關(guān)技術(shù)更好地應(yīng)用于實(shí)際場景中。
中國科學(xué)院計算技術(shù)研究所副研究員王樹徽評價：“阿里安全從整體層面考慮了人工智能安全的架構(gòu)性漏洞，提出了‘安全基建’的構(gòu)想和技術(shù)系統(tǒng)。在關(guān)鍵技術(shù)層面，集成了最新的AI攻防技術(shù)，充分考慮了人工智能安全攻防兩端的應(yīng)用需求，分析結(jié)果可解釋性強(qiáng)，易于理解并指導(dǎo)實(shí)踐。在實(shí)用層面，提供了一套切實(shí)可行、即插即用的解決方案，定制化提出防御升級方案，幫助廣大人工智能技術(shù)實(shí)踐者有效提高其算法系統(tǒng)的免疫力和安全水平。此外，阿里安全的新一代安全架構(gòu)的應(yīng)用成果也有望促進(jìn)人工智能技術(shù)的發(fā)展和進(jìn)步，為新一代人工智能的理論方法研究提供了支持?！?/p>
目前阿里安全正與相關(guān)部門、企業(yè)、高校一起參與人工智能安全標(biāo)準(zhǔn)的制定，“AI安全診斷大師”的落地成果也作為優(yōu)秀應(yīng)用案例，被收錄于全國信息標(biāo)準(zhǔn)化技術(shù)委員會打造的《人工智能安全標(biāo)準(zhǔn)化白皮書(2019版)》。
名稱欄目：阿里發(fā)布新一代安全架構(gòu)核心技術(shù)“AI安全診斷大師”
URL標(biāo)題：http://www.dlmjj.cn/article/dpgsigp.html
