新浪科技訊 8月26日晚間消息,360公司表示,AI關(guān)鍵基礎(chǔ)設(shè)施正面臨三重風(fēng)險(xiǎn),包括某些人臉識(shí)別設(shè)備能讓任意人通過(guò),不僅AI算法存在漏洞,其所依賴的關(guān)鍵基礎(chǔ)設(shè)施也同樣會(huì)被攻擊。
360 AI安全研究院表示,目前AI的三重風(fēng)險(xiǎn)包括:學(xué)習(xí)框架風(fēng)險(xiǎn)、硬件風(fēng)險(xiǎn)及云平臺(tái)風(fēng)險(xiǎn)。
第一,針對(duì)深度學(xué)習(xí)框架安全風(fēng)險(xiǎn)。深度學(xué)習(xí)框架主要可以劃分為云端學(xué)習(xí)框架和終端學(xué)習(xí)框架。云端框架安全風(fēng)險(xiǎn)主要來(lái)自于自身代碼的實(shí)現(xiàn)以及第三方的依賴庫(kù)問(wèn)題;終端框架安全風(fēng)險(xiǎn)主要存在于模型網(wǎng)絡(luò)參數(shù)、模型網(wǎng)絡(luò)結(jié)構(gòu),以及模型轉(zhuǎn)換過(guò)程。
第二,針對(duì)硬件相關(guān)的安全風(fēng)險(xiǎn)。據(jù)英偉達(dá)官網(wǎng)統(tǒng)計(jì),截至今年7月,關(guān)于GPU驅(qū)動(dòng)漏洞的數(shù)目達(dá)到數(shù)百個(gè);芯片漏洞以幽靈、熔斷為例,幽靈漏洞可以造成泄露敏感數(shù)據(jù)、執(zhí)行特定代碼,熔斷漏洞導(dǎo)致用戶態(tài)獲取特權(quán)內(nèi)存的數(shù)據(jù),這些漏洞影響了Intel、部分ARM的處理器。
第三,針對(duì)云平臺(tái)的安全風(fēng)險(xiǎn)。用于深度學(xué)習(xí)任務(wù)的節(jié)點(diǎn)性能強(qiáng)大,因此總會(huì)有一些攻擊者想要非法使用這些資源進(jìn)行挖礦。比如,今年6月,微軟通報(bào)部分Kubeflow存在未授權(quán)訪問(wèn)的問(wèn)題,導(dǎo)致大量設(shè)備被非法挖礦。
“只有在確保AI系統(tǒng)的安全,才有可能放心享受AI的便利,那么保證系統(tǒng)中AI關(guān)鍵基礎(chǔ)設(shè)施的安全至關(guān)重要”,360 AI安全研究院表示,AI關(guān)鍵基礎(chǔ)設(shè)施的安全問(wèn)題可以通過(guò)權(quán)限控制、訪問(wèn)隔離、參數(shù)過(guò)濾等措施進(jìn)行緩解,針對(duì)AI關(guān)鍵基礎(chǔ)設(shè)施的安全問(wèn)題,需要建立多維度、一體化風(fēng)險(xiǎn)評(píng)估方法以及對(duì)應(yīng)防御措施。(大鵬)
網(wǎng)頁(yè)名稱:360:AI關(guān)鍵基礎(chǔ)設(shè)施正面臨三重風(fēng)險(xiǎn)人臉識(shí)別有漏洞
標(biāo)題鏈接:http://sd-ha.com/article10/cjscgo.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供外貿(mào)網(wǎng)站建設(shè)、Google、網(wǎng)站設(shè)計(jì)公司、軟件開(kāi)發(fā)、定制開(kāi)發(fā)、品牌網(wǎng)站制作
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)