在近期舉辦的世界人工智能大會(huì)上，《數(shù)據(jù)安全法》引起熱議。“比起石油或者黃金來(lái)說(shuō)，數(shù)據(jù)更像全球數(shù)字時(shí)代的血液，數(shù)據(jù)安全重要性不言而喻。”360集團(tuán)副總裁、首席安全官杜躍進(jìn)作了題為“數(shù)據(jù)與人工智能安全”的演講。他表示，未來(lái)數(shù)字世界的三大基礎(chǔ)是數(shù)據(jù)、智能(軟件、計(jì)算)與網(wǎng)絡(luò)，三者缺一不可構(gòu)成數(shù)字時(shí)代，而數(shù)字時(shí)代則對(duì)安全提出了更大挑戰(zhàn)，其中，數(shù)據(jù)安全和AI安全，是兩個(gè)新的、相互關(guān)聯(lián)的基礎(chǔ)性安全領(lǐng)域，需要廣泛協(xié)作與開放創(chuàng)新來(lái)解決其中的安全問(wèn)題。

　　作為國(guó)內(nèi)網(wǎng)安龍頭，三六零(下稱“360”)還攜智能汽車、人臉識(shí)別、觸控一體機(jī)、IoT等人工智能和網(wǎng)絡(luò)安全前沿產(chǎn)品，集體亮相此次世界人工智能大會(huì)。

　　玩偶能通過(guò)人臉識(shí)別設(shè)備？AI安全面臨“七宗罪”挑戰(zhàn)

　　杜躍進(jìn)指出，AI安全可以用“七宗罪”來(lái)形容，包括硬件、軟件、協(xié)議、算法、數(shù)據(jù)、應(yīng)用與社會(huì)。具體來(lái)說(shuō)，硬件層面，人工智能元器件在物理層面缺乏安全設(shè)計(jì)；軟件層面，任何軟件都有漏洞；協(xié)議層面，很多專用通信協(xié)議設(shè)計(jì)缺乏安全考慮；算法層面，算法本身可以被欺騙、誤導(dǎo)；數(shù)據(jù)層面，數(shù)據(jù)有可能被污染，被“投毒”；應(yīng)用層面，人工智能技術(shù)可能被用于危害人類利益；社會(huì)層面，人工智能技術(shù)簡(jiǎn)單化地應(yīng)用于解決社會(huì)問(wèn)題，可能導(dǎo)致事與愿違。

　　以應(yīng)用越來(lái)越廣泛的人臉識(shí)別設(shè)備為例，“我們的AI安全研究團(tuán)隊(duì)總共分析了7個(gè)廠商的7款人臉識(shí)別設(shè)備，發(fā)現(xiàn)每臺(tái)設(shè)備都有問(wèn)題，包括存在后門、流量重放實(shí)現(xiàn)登錄，DLL劫持、APK組件泄露隱私信息、低權(quán)限實(shí)現(xiàn)開門控制，模型文件泄露、服務(wù)端口開放、未授權(quán)訪問(wèn)等等。” 杜躍進(jìn)舉例說(shuō)，360曾做過(guò)一次實(shí)驗(yàn)，可利用一臺(tái)人臉識(shí)別設(shè)備的漏洞攻擊算法模型，令其將小熊玩偶識(shí)別為人臉，并通過(guò)驗(yàn)證。

　　為此，360 AI安全實(shí)驗(yàn)室長(zhǎng)期致力于研究人工智能基礎(chǔ)設(shè)施領(lǐng)域的安全問(wèn)題，目前共發(fā)現(xiàn)了150多個(gè)機(jī)器學(xué)習(xí)框架及供應(yīng)鏈漏洞，涉及被廣泛使用的Tensorflow，Caffe，PyTorch等主流深度學(xué)習(xí)開源框架，這些漏洞可造成任意代碼執(zhí)行、拒絕服務(wù)攻擊、信息泄露等危害。

　　此外，風(fēng)口上的智能汽車中也存在安全漏洞。“研究發(fā)現(xiàn)一些車輛可以通過(guò)互聯(lián)網(wǎng)直接控制，比如突然開啟車門、遠(yuǎn)程發(fā)動(dòng)。”杜躍進(jìn)表示。據(jù)悉，360 Sky-Go團(tuán)隊(duì)發(fā)現(xiàn)梅賽德斯-奔馳19個(gè)安全漏洞，利用漏洞可以構(gòu)造攻擊鏈，可以實(shí)現(xiàn)對(duì)多個(gè)系列200余萬(wàn)輛奔馳汽車的電力、動(dòng)力系統(tǒng)的遠(yuǎn)程無(wú)接觸控制，其控制場(chǎng)景包括對(duì)前后車門、車窗、車前燈、雨刷器的開啟關(guān)閉。

　　大數(shù)據(jù)殺熟？數(shù)據(jù)安全面臨被竊取、濫用和誤用問(wèn)題

　　? 今年6月，我國(guó)首部關(guān)于數(shù)據(jù)安全的法律《中華人民共和國(guó)數(shù)據(jù)安全法》獲審議通過(guò)，并將于9月1日正式施行。

　　“數(shù)據(jù)安全，是當(dāng)前最恐慌、最混亂的新問(wèn)題。”在杜躍進(jìn)看來(lái)，數(shù)據(jù)安全不僅是傳統(tǒng)的數(shù)據(jù)文件保密、數(shù)字版權(quán)保護(hù)、數(shù)據(jù)庫(kù)安全，也不僅是大數(shù)據(jù)平臺(tái)的安全，而是大數(shù)據(jù)和智能化時(shí)代下，從不同視角關(guān)注的數(shù)據(jù)防竊取/破壞、防濫用、防誤用三大問(wèn)題。

　　具體來(lái)說(shuō)，數(shù)據(jù)破壞，即黑客潛入其他主體的電腦，對(duì)文件加密、竊取或者刪除；數(shù)據(jù)濫用，即用戶的個(gè)人隱私和信息在別人手里，對(duì)方未經(jīng)許可訪問(wèn)這些敏感信息；數(shù)據(jù)誤用，即擁有大數(shù)據(jù)的主體對(duì)大數(shù)據(jù)的使用方法不當(dāng)，導(dǎo)致用戶權(quán)益受損。

　　不同角色視角下，數(shù)據(jù)安全面臨不同的問(wèn)題。杜躍進(jìn)表示，對(duì)于個(gè)人來(lái)說(shuō)，數(shù)據(jù)安全涉及隱私問(wèn)題、不公正問(wèn)題等，其中最典型的例子是大數(shù)據(jù)殺熟；對(duì)于企業(yè)和機(jī)構(gòu)來(lái)說(shuō)，數(shù)據(jù)安全則涉及資產(chǎn)損失、知識(shí)產(chǎn)權(quán)、利益分配、跨組織流動(dòng)時(shí)的風(fēng)險(xiǎn)控制與合規(guī)要求；對(duì)于國(guó)家來(lái)說(shuō)，數(shù)據(jù)安全則涉及國(guó)家安全問(wèn)題。

　　開放創(chuàng)新，護(hù)航數(shù)據(jù)與AI安全

　　對(duì)于如何解決數(shù)據(jù)與人工智能安全問(wèn)題，杜躍進(jìn)表示，“沒有成熟方案，只有最佳方法，即廣泛協(xié)作、開放創(chuàng)新。” 因此，具體技術(shù)還需要迭代創(chuàng)新，而且在基本方法上要以數(shù)據(jù)為中心，以組織為單位，以能力成熟度為抓手；要從傳統(tǒng)的管理體系轉(zhuǎn)向社會(huì)化治理體系來(lái)應(yīng)對(duì)解決；要建立復(fù)合機(jī)制，從只有處罰，轉(zhuǎn)變?yōu)樘幜P、幫助、獎(jiǎng)勵(lì)并舉。

　　杜躍進(jìn)介紹道，為應(yīng)對(duì)人工智能與安全面臨的挑戰(zhàn)，360發(fā)揮龍頭企業(yè)優(yōu)勢(shì)，踐行社會(huì)責(zé)任，承擔(dān)了國(guó)家級(jí)開放創(chuàng)新平臺(tái)的建設(shè)任務(wù)。一是建設(shè)“安全大腦國(guó)家新一代人工智能開放創(chuàng)新平臺(tái)”，該平臺(tái)致力于解決人工智能自身存在的安全風(fēng)險(xiǎn)、人工智能創(chuàng)新環(huán)境匱乏及在網(wǎng)絡(luò)安全領(lǐng)域創(chuàng)新成果落地難等問(wèn)題。同時(shí)，平臺(tái)還將賦能中小初創(chuàng)安全企業(yè)、垂直行業(yè)、人工智能產(chǎn)業(yè)，提升國(guó)家人工智能安全整體防御能力，打造人工智能的“安全底座”。據(jù)悉，該平臺(tái)是科技部批復(fù)的由企業(yè)牽頭建設(shè)的15家“國(guó)家新一代人工智能開放創(chuàng)新平臺(tái)”中唯一聚焦人工智能與安全的平臺(tái)。

　　另一個(gè)是牽頭構(gòu)建大數(shù)據(jù)安全協(xié)同技術(shù)國(guó)家工程實(shí)驗(yàn)室。據(jù)悉，大數(shù)據(jù)協(xié)同安全技術(shù)國(guó)家工程實(shí)驗(yàn)室，是針對(duì)我國(guó)大數(shù)據(jù)環(huán)境下數(shù)據(jù)安全和系統(tǒng)安全監(jiān)測(cè)、預(yù)警和控制處置能力不足等問(wèn)題，圍繞提升大數(shù)據(jù)安全分析能力和保障大數(shù)據(jù)系統(tǒng)自身安全的需求，建設(shè)大數(shù)據(jù)協(xié)同安全技術(shù)應(yīng)用研究平臺(tái)。

　　最后，杜躍進(jìn)表示，數(shù)字經(jīng)濟(jì)還在快速發(fā)展變化中，因此，解決數(shù)據(jù)安全問(wèn)題不能閉門造車，一定要從產(chǎn)業(yè)中來(lái)，到產(chǎn)業(yè)中去，在產(chǎn)業(yè)實(shí)踐中找問(wèn)題，找方法，并不斷迭代和完善。