QQ在線
企業(yè)微信
資訊
1607月27日，在微博、新浪新聞主辦的人工智能領(lǐng)域行業(yè)峰會(huì)——2022新智者大會(huì)上，360公司創(chuàng)始人周鴻祎分享了題為《筑牢AI安全基座 護(hù)航智能新時(shí)代》的演講，從數(shù)字安全的角度，帶給我們關(guān)于網(wǎng)絡(luò)安全的全新視角和定義。
2022新智者大會(huì)-360公司創(chuàng)始人周鴻祎-主題演講
以下是周鴻祎分享實(shí)錄，內(nèi)容經(jīng)編輯略有刪減：
尊敬的各位領(lǐng)導(dǎo)、各位同仁、各位來(lái)賓，感謝大會(huì)組委會(huì)的邀請(qǐng)，非常高興參加“2022年新智者大會(huì)”。
我叫周鴻祎，雖然說(shuō)可能很多人都認(rèn)識(shí)我，但是很多人都問(wèn)我一個(gè)問(wèn)題，為什么你老喜歡穿紅衣服？那是因?yàn)槲业拿掷媳唤谐芍茗櫋皞ァ保晕掖┮粋€(gè)紅衣服，就是給大家提示一下，我是鴻祎（yi），不是鴻偉（Wei）。
本次會(huì)議的主題是“融合生態(tài)，價(jià)值共創(chuàng)”。當(dāng)前發(fā)展數(shù)字經(jīng)濟(jì)，以人工智能為代表的數(shù)字技術(shù)賦能產(chǎn)業(yè)變革，推動(dòng)整個(gè)社會(huì)經(jīng)濟(jì)進(jìn)入智能化的新階段。
我是絕對(duì)支持?jǐn)?shù)字經(jīng)濟(jì)，支持新技術(shù)人工智能的。但是，我們做安全的人，稍微有點(diǎn)變態(tài)，天天都在琢磨這個(gè)技術(shù)有啥風(fēng)險(xiǎn)，這個(gè)技術(shù)有什么不安全的地方。
那么，我們今天談數(shù)字經(jīng)濟(jì)、人工智能里不安全的問(wèn)題，也是為了保證讓我們建設(shè)數(shù)字中國(guó)，促進(jìn)數(shù)字經(jīng)濟(jì)能走得更穩(wěn)、更遠(yuǎn)。
簡(jiǎn)單來(lái)總結(jié)，當(dāng)前一個(gè)大的趨勢(shì)是數(shù)字化發(fā)展，數(shù)字化已經(jīng)成為國(guó)家戰(zhàn)略。這里邊包括我覺(jué)得最重要的大家應(yīng)該關(guān)注的是產(chǎn)業(yè)數(shù)字化，是紅海中的藍(lán)海。為什么這么講呢？未來(lái)所有的傳統(tǒng)行業(yè)，都值得用數(shù)字化重塑一遍它的產(chǎn)業(yè)鏈、供應(yīng)鏈、價(jià)值鏈，甚至是商業(yè)模式。
數(shù)字經(jīng)濟(jì)已經(jīng)成為當(dāng)代的主旋律。很多人老誤以為數(shù)字經(jīng)濟(jì)=虛擬經(jīng)濟(jì)，其實(shí)所有用數(shù)字化技術(shù)打造的經(jīng)濟(jì)成果，都是數(shù)字經(jīng)濟(jì)。中國(guó)在這方面已經(jīng)遙遙領(lǐng)先，我們數(shù)字經(jīng)濟(jì)占GDP的比重已經(jīng)超過(guò)30%。
所以，未來(lái)5-10年，所有的企業(yè)都將轉(zhuǎn)型升級(jí)成數(shù)字化企業(yè)。
如果沒(méi)有數(shù)字化的企業(yè)，可能就消失或者被淘汰了。
我們經(jīng)常講互聯(lián)網(wǎng)的上半場(chǎng)，我的理解互聯(lián)網(wǎng)的上半場(chǎng)是消費(fèi)互聯(lián)網(wǎng)的數(shù)字化。也就是這個(gè)互聯(lián)網(wǎng)公司，把中國(guó)老百姓的吃喝玩樂(lè)、衣食住行，各種生活方式充分實(shí)現(xiàn)了數(shù)字化。所以，這些傳統(tǒng)互聯(lián)網(wǎng)公司，當(dāng)仁不讓成了主角。
但是，未來(lái)10年，我覺(jué)得是互聯(lián)網(wǎng)的下半場(chǎng)，主角就不再是互聯(lián)網(wǎng)公司，而是各種傳統(tǒng)企業(yè)，各級(jí)政府，他們才會(huì)變成大數(shù)據(jù)、數(shù)字化真正的玩家，把各種產(chǎn)業(yè)場(chǎng)景用數(shù)字化再重新塑造一遍。
簡(jiǎn)單講，數(shù)字化發(fā)展的幾個(gè)核心技術(shù)。為了讓大家記，我編了一個(gè)字母歌，叫I、M、A、B、C、D、E。
I，IoT，物聯(lián)網(wǎng)技術(shù)，主要是未來(lái)用來(lái)把這個(gè)世界，把所有的商業(yè)流程，所有數(shù)字化，主要是依靠物聯(lián)網(wǎng)設(shè)備。
M，移動(dòng)通信，5G，實(shí)際上是為數(shù)字時(shí)代準(zhǔn)備的，并不是說(shuō)僅僅方便我們個(gè)人為了看視頻，能夠快速，實(shí)際上為了通過(guò)5G，把各種現(xiàn)實(shí)世界數(shù)字化的數(shù)據(jù)傳到云端。
C是Cloud computing，云計(jì)算；A是人工智能；B是區(qū)塊鏈；D是大數(shù)據(jù)；E是邊緣計(jì)算。
所以，這里邊的邏輯，我覺(jué)得最重要是以AI為核心，AI是一個(gè)大數(shù)據(jù)的基礎(chǔ)，才有了深度學(xué)習(xí)，所以AI也是數(shù)據(jù)基礎(chǔ)。
數(shù)據(jù)又來(lái)源于哪兒呢，來(lái)源于IoT，大量對(duì)這個(gè)世界的數(shù)字化，通過(guò)5G，傳到云端。通過(guò)大數(shù)據(jù)系統(tǒng)管理起來(lái)。
所以，未來(lái)我們談數(shù)字經(jīng)濟(jì)，我們談數(shù)字化戰(zhàn)略，都脫離不開這幾個(gè)技術(shù)。當(dāng)然，還有一個(gè)是我們今天要說(shuō)到的，有一個(gè)技術(shù)跟它們都不能并列，是“安全”。因?yàn)橹挥小鞍踩?，給它們提供了堅(jiān)實(shí)的基礎(chǔ)，這些技術(shù)才能夠充分發(fā)揮作用，而不至于成為風(fēng)險(xiǎn)的來(lái)源。
我可以舉一個(gè)簡(jiǎn)單的例子。
最近的“俄烏沖突”相當(dāng)于是一場(chǎng)開卷考試，是新的時(shí)代下數(shù)字世界對(duì)抗沖突的真實(shí)預(yù)演，有幾個(gè)特點(diǎn)，我給大家總結(jié)一下。
第一，網(wǎng)絡(luò)戰(zhàn)和傳統(tǒng)戰(zhàn)爭(zhēng)相結(jié)合，已經(jīng)演變成一場(chǎng)數(shù)字化戰(zhàn)爭(zhēng)。
在戰(zhàn)前，網(wǎng)絡(luò)戰(zhàn)已經(jīng)不是傳說(shuō)中的幻想小說(shuō)。實(shí)際上在傳統(tǒng)作戰(zhàn)發(fā)生之前，網(wǎng)絡(luò)戰(zhàn)已經(jīng)開打。俄烏雙方的政府部門，還有銀行、電信、電力等關(guān)鍵基礎(chǔ)設(shè)施，均遭到了網(wǎng)絡(luò)打擊。那除了網(wǎng)絡(luò)攻擊之外，星鏈、衛(wèi)星、互聯(lián)網(wǎng)、人工智能、無(wú)人機(jī)，人工智能技術(shù)，傳統(tǒng)武器、傳統(tǒng)攻擊方法融為一體，打了一場(chǎng)新型的數(shù)字戰(zhàn)爭(zhēng)。烏克蘭獲得了北約和美國(guó)的支持。在數(shù)字化技術(shù)方面，彌補(bǔ)了弱勢(shì)，而俄方由于在數(shù)字化方面落后，所以不免有擴(kuò)大的損失。
第二，網(wǎng)絡(luò)攻擊的手段無(wú)所不用其極。
此次，雙方除了使用包括原來(lái)常規(guī)的基于漏洞的APT攻擊，還把DDoS拒絕服務(wù)攻擊，特別是數(shù)據(jù)查處攻擊、供應(yīng)鏈攻擊各種網(wǎng)站攻擊，各種傳統(tǒng)手段，包括新的手段結(jié)合起來(lái)，所以這一次戰(zhàn)爭(zhēng)（后面我會(huì)講）還有一個(gè)特點(diǎn)，不僅是數(shù)字化戰(zhàn)爭(zhēng)，還是第一次人工智能參戰(zhàn)的數(shù)字戰(zhàn)爭(zhēng)。
第三，這一次是一場(chǎng)數(shù)字時(shí)代的人民戰(zhàn)爭(zhēng)。
正因?yàn)殡p方都大量使用了數(shù)字化技術(shù)，而數(shù)字化的技術(shù)，真正的高手在民間。所以，很多高科技公司走向攻防的前沿，民間的黑客成為主力軍。
比如美國(guó)有很多高科技的公司，哪怕是民間公司，實(shí)際上都參與了戰(zhàn)斗。包括IBM、微軟、谷歌，他們對(duì)俄羅斯禁運(yùn)芯片，或者終止服務(wù)，包括埃隆馬斯克，提供星鏈、衛(wèi)星、互聯(lián)網(wǎng)等技術(shù)。
然后，民間的網(wǎng)安公司也紛紛參戰(zhàn)。也就是包括俄羅斯的卡巴斯基，還有歐洲的很多傳統(tǒng)殺毒軟件公司都紛紛參加，成為網(wǎng)絡(luò)攻擊攻防的重要力量。
本來(lái)俄羅斯在烏克蘭的系統(tǒng)里，預(yù)埋了一些后門和漏洞。但是，美國(guó)的網(wǎng)絡(luò)戰(zhàn)部隊(duì)和美國(guó)的一些安全公司出手。幫助烏克蘭做了漏洞和預(yù)埋后門的清理，使得俄羅斯原來(lái)預(yù)設(shè)的網(wǎng)絡(luò)打擊效果大打折扣。
烏克蘭還組織了30萬(wàn)國(guó)際黑客，又叫“IT志愿軍”，這30萬(wàn)黑客沖到俄羅斯的網(wǎng)絡(luò)空間里，大打出手，導(dǎo)致俄羅斯的網(wǎng)軍精力難以兼顧，處處被動(dòng)。
所以，我們可以從俄烏的例子來(lái)看，這是人類歷史上第一次數(shù)字化戰(zhàn)爭(zhēng)，也是第一次AI戰(zhàn)爭(zhēng)。體現(xiàn)了雙方誰(shuí)的數(shù)字化技術(shù)落后，誰(shuí)就要挨打這個(gè)機(jī)制。
過(guò)去我們有句老話講“落后就要挨打”。通過(guò)俄烏戰(zhàn)爭(zhēng)，我們可以把這句話改成，今天在數(shù)字化的時(shí)代里，誰(shuí)在數(shù)字化體系上落后，誰(shuí)就要挨打。
我們可以看到，這次俄烏戰(zhàn)爭(zhēng)表面上是兩個(gè)國(guó)家的武力沖突。但實(shí)際上背后是俄羅斯和西方兩大數(shù)字體系的碰撞。結(jié)果不言而喻，西方強(qiáng)大的數(shù)字體系，不再區(qū)分軍工、民用，也不再區(qū)分國(guó)企、民企，也不再區(qū)分企業(yè)、個(gè)人，把整個(gè)的數(shù)字化力量綜合在一起，在這方面俄羅斯就應(yīng)該說(shuō)處于下風(fēng)吧。
為什么我又講這是人類歷史上第一次AI戰(zhàn)爭(zhēng)呢？因?yàn)樵谲娛聸_突過(guò)程中，你會(huì)發(fā)現(xiàn)這一次AI（人工智能）活躍于戰(zhàn)場(chǎng)的各個(gè)領(lǐng)域，扮演著非常重要的角色。甚至包括AI的武器，直接參與了戰(zhàn)場(chǎng)的攻擊，參與了戰(zhàn)場(chǎng)的情報(bào)支持，輔助戰(zhàn)場(chǎng)決策，被用于心理戰(zhàn)的這種虛假宣傳，下面呢我講一一詳細(xì)來(lái)給大家做一些例子的說(shuō)明。
第一個(gè)，AI的武器直接參與戰(zhàn)場(chǎng)攻擊。
我記得當(dāng)年阿西·莫夫在講“機(jī)器人三原則”的時(shí)候，有一個(gè)重要的原則，就是機(jī)器人不能傷害人。實(shí)際上今天各種無(wú)人戰(zhàn)車、無(wú)人飛機(jī)，已經(jīng)應(yīng)用在戰(zhàn)場(chǎng)上。這里面舉一個(gè)例子，烏克蘭軍隊(duì)使用美國(guó)的彈簧刀無(wú)人機(jī)，具備監(jiān)視、偵察和打擊功能。既是無(wú)人機(jī)，又是一個(gè)自殺式導(dǎo)彈，在人工智能的加持下，單兵就能熟練掌握，有效打擊俄軍的機(jī)動(dòng)目標(biāo)，成為戰(zhàn)場(chǎng)規(guī)則的改變者。
那今天彈簧刀無(wú)人機(jī)可能還是在被遙控，最后打擊的瞬間可能還是由人來(lái)下指令。但是，從人下指令，到它自動(dòng)識(shí)別、自動(dòng)判斷、自主發(fā)起攻擊，我覺(jué)得這就是一層薄薄的窗戶紙。
第二個(gè)，AI參與戰(zhàn)場(chǎng)情報(bào)支持。
烏克蘭國(guó)防部使用Clearview AI面部識(shí)別技術(shù)，通過(guò)人工智能來(lái)識(shí)別俘虜和尸體。該公司擁有一個(gè)包括來(lái)自網(wǎng)絡(luò)的100億張面孔的數(shù)據(jù)庫(kù)。其中，僅來(lái)自俄羅斯社交媒體的圖像就高達(dá)20億張。這種技術(shù)通過(guò)戰(zhàn)場(chǎng)上傳來(lái)的俄羅斯戰(zhàn)俘或者尸體的面部照片，可以對(duì)死者的身份進(jìn)行匹配。
第三個(gè)，AI輔助戰(zhàn)場(chǎng)決策。
這次我們都知道說(shuō)烏克蘭派出很多小分隊(duì)，對(duì)俄羅斯的運(yùn)輸線進(jìn)行各種靈活的打擊，打完了就跑。這個(gè)前提是要有完全，應(yīng)該說(shuō)盡在掌握之中的戰(zhàn)場(chǎng)態(tài)勢(shì)感知。
這一次呢，Seekr和Semantic AI的增強(qiáng)智能平臺(tái)相結(jié)合，應(yīng)用深度分析技術(shù)，來(lái)發(fā)現(xiàn)人員地點(diǎn)，事件之間的隱蔽連接，自動(dòng)生成報(bào)告和動(dòng)態(tài)儀表盤，從而幫助指揮者做出更明確的選擇。所以，這一次整個(gè)戰(zhàn)場(chǎng)態(tài)勢(shì)感知，大數(shù)據(jù)分析應(yīng)該說(shuō)AI功不可沒(méi)。
第四個(gè)，打仗既是認(rèn)知戰(zhàn)，也是心理戰(zhàn)，也是宣傳戰(zhàn)。
所以，前面網(wǎng)上流傳了一個(gè)叫Deepfake的視頻，所謂Deepfake就是利用AI做的深度偽造，內(nèi)容是澤連斯基宣布他投降，這個(gè)視頻害的澤連斯基不得不公開辟謠。但還是有大量的AI水軍機(jī)器人在網(wǎng)上狂炒，制造輿論。
所以，在這個(gè)過(guò)程中，AI發(fā)揮了巨大的作用。
第五個(gè)，AI基礎(chǔ)算力設(shè)施的服務(wù)斷供。
我們講運(yùn)行AI需要算力，算力需要大數(shù)據(jù)等基礎(chǔ)設(shè)施。但如果數(shù)據(jù)中心，云服務(wù)都被終止，那么各種無(wú)人機(jī)，自動(dòng)駕駛坦克各種大腦就失去了重要的能源。
在本次俄烏沖突中，西方對(duì)俄羅斯采取了“六斷”（斷網(wǎng)、斷供、斷服務(wù)、斷證書、斷域名、斷輿論），包括說(shuō)微軟、IBM和甲骨文這些公司對(duì)俄停止SSL證書，停止域名解析，停止互聯(lián)網(wǎng)接口，中斷國(guó)際傳輸網(wǎng)絡(luò)，停止了各種軟件跟服務(wù)，芯片和硬件供應(yīng)商，比如英特爾對(duì)俄斷供，甚至包括臉書、推特等就徹底把俄羅斯的很多帳號(hào)給禁掉，徹底將俄孤立。再試圖把俄羅斯在數(shù)字化的世界里徹底抹去。
而俄羅斯由于缺乏市場(chǎng)化的數(shù)字產(chǎn)業(yè)支撐，完全被動(dòng)挨打，這個(gè)都讓俄羅斯算力、產(chǎn)品和服務(wù)的基礎(chǔ)被掣肘。
所以，大家想一想當(dāng)未來(lái)發(fā)生沖突的時(shí)候，實(shí)際上就成了數(shù)字體系的對(duì)抗。這個(gè)數(shù)字體系的強(qiáng)壯與否，已經(jīng)不完全取決于軍隊(duì)或者僅僅是軍工企業(yè)，可能跟每一家數(shù)字化的公司，每一家研究數(shù)字技術(shù)的科技人員，都有密切的關(guān)系。
所以，我們可以得出一個(gè)結(jié)論，安全是數(shù)字化的基座，在一切皆可編程，萬(wàn)物均要互聯(lián)，大數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)、軟件重新世界的趨勢(shì)下，整個(gè)全世界的安全環(huán)境也更加的脆弱，這其中AI也不例外。
一切皆可編程，我剛才講過(guò)了，就意味著所有的東西都是軟件。比如說(shuō)汽車也是軟件，無(wú)人機(jī)也是軟件，所以漏洞無(wú)處不在。有漏洞，就有可能被人利用，被人利用就可能被人攻擊。
我稍微解釋一下漏洞的原理，過(guò)去大家只要覺(jué)得說(shuō)自己的電腦口令不丟失，帳號(hào)不泄漏，就沒(méi)有安全的問(wèn)題。實(shí)際上“漏洞”的出現(xiàn)改變了這一切，漏洞改變了整個(gè)網(wǎng)絡(luò)攻防的游戲規(guī)則。基于一個(gè)我知道，而你不知道的漏洞，可能別人就能以一種完全意想不到的方法來(lái)控制你的系統(tǒng)。
舉一個(gè)例子，比如說(shuō)利用一個(gè)常見(jiàn)的瀏覽器漏洞，可能你在瀏覽一張美女圖片的時(shí)候，你在享受看圖片的時(shí)候，可能在這個(gè)圖片里面編碼的一個(gè)代碼，就神不知鬼不覺(jué)在你的電腦上開始運(yùn)轉(zhuǎn)起來(lái)。
前兩天，有一個(gè)WannaCry勒索病毒利用了一個(gè)漏洞，更是匪夷所思。一臺(tái)電腦向另外一臺(tái)電腦的網(wǎng)卡發(fā)送了一個(gè)數(shù)據(jù)包，兩臺(tái)電腦毫無(wú)感覺(jué)，這個(gè)數(shù)據(jù)包就能夠在接收機(jī)器的電腦上運(yùn)行，從而控制這臺(tái)電腦，所以應(yīng)該講，漏洞現(xiàn)在是無(wú)孔不入。
關(guān)于漏洞最典型的例子，是去年年底阿帕奇基金開源項(xiàng)目的Log4j2的組件，被發(fā)現(xiàn)存在著遠(yuǎn)程代碼執(zhí)行漏洞。這個(gè)軟件被大量應(yīng)用于關(guān)鍵業(yè)務(wù)系統(tǒng)底層開發(fā)，這個(gè)漏洞就意味著我們很多重要的系統(tǒng)，被漏洞的利用者能夠洞開。
萬(wàn)物均要互聯(lián)，萬(wàn)物互聯(lián)帶來(lái)的好處就不講了。所以，今天的車聯(lián)網(wǎng)、智慧城市、工業(yè)互聯(lián)網(wǎng)都是萬(wàn)物互聯(lián)的典型例子。但是，這也意味著在虛擬世界里的攻擊，往往會(huì)變成物理世界的傷害。在過(guò)去，大家中了病毒，只是說(shuō)文件丟失，大不了電腦不用了，郵件不收了，網(wǎng)不上了。但是，今天虛擬世界里的傷害，都可以轉(zhuǎn)成對(duì)物理世界的攻擊。
所以，我們可以看到，導(dǎo)致工廠停工，大面積停電，社會(huì)停擺。
我舉兩個(gè)例子，今年2月-3月，三家豐田的供應(yīng)商遭到黑客攻擊，豐田不得不停止其14家日本工廠的運(yùn)營(yíng)，導(dǎo)致每月的生產(chǎn)能力下降了5%。
前幾年，在委內(nèi)瑞拉、烏克蘭都出現(xiàn)了利用網(wǎng)絡(luò)攻擊，攻擊變電站設(shè)備，遠(yuǎn)程拉閘，導(dǎo)致大面積停電，所以這里就不是美國(guó)科幻電影里的幻想。
再舉一個(gè)真實(shí)的例子，我們現(xiàn)在大家都會(huì)買智能網(wǎng)聯(lián)車或者新能源車，但是說(shuō)句不好聽(tīng)的話，你買了車，你不要以為這車就是你的了，實(shí)際上是聽(tīng)車廠的。
我們的車每時(shí)每刻都需要跟車廠保持聯(lián)系，不斷的從車廠各種更新的指令、更新軟件，也不斷把各種數(shù)據(jù)傳回車廠。
一旦黑客破解了這個(gè)車廠的協(xié)議，或者破解了車廠的云端服務(wù)器，就可以遠(yuǎn)端對(duì)你的車進(jìn)行遙控，那么可能就會(huì)出現(xiàn)更大的風(fēng)險(xiǎn)。在2017年，我們?cè)?jīng)幫助某全球知名的一個(gè)知名車企，發(fā)現(xiàn)了大概19個(gè)漏洞。通過(guò)這些漏洞，這個(gè)車廠在2017年以后出的全球600多萬(wàn)輛車，都可以遠(yuǎn)程啟動(dòng)、遠(yuǎn)程熄火、遠(yuǎn)程開門、遠(yuǎn)程開天窗，一旦這些漏洞被黑客掌握，后果不堪設(shè)想。
大數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)，我們現(xiàn)在對(duì)大數(shù)據(jù)都非常重視。數(shù)據(jù)變成重要的戰(zhàn)略資產(chǎn)，數(shù)據(jù)變成整個(gè)信息化社會(huì)的重要的像石油一樣的基礎(chǔ)血液。但是，反過(guò)來(lái)說(shuō)，數(shù)據(jù)一旦遭到了攻擊，可能就意味著業(yè)務(wù)停轉(zhuǎn)，數(shù)據(jù)安全直接影響業(yè)務(wù)安全。
那2022年1月，我們國(guó)家臺(tái)灣地區(qū)的臺(tái)達(dá)電遭到勒索軟件攻擊，有1500臺(tái)服務(wù)器，12000臺(tái)電腦在本次攻擊中數(shù)據(jù)被加密，被勒索1500萬(wàn)美金。
還有一個(gè)去年5月份，美國(guó)東海岸一家輸油管道公司受到了攻擊，當(dāng)時(shí)這個(gè)事情很出名，美國(guó)東海岸很多加油站都供不上油了，害了美國(guó)總統(tǒng)都為之出來(lái)做了一些講話。美國(guó)交通部甚至都要宣布，在美國(guó)東部要進(jìn)入緊急狀態(tài)。當(dāng)時(shí)我們也覺(jué)得這是一件很詭異的工業(yè)互聯(lián)網(wǎng)攻擊。
后來(lái)調(diào)查下來(lái)發(fā)現(xiàn)，其實(shí)比我們想得要簡(jiǎn)單。因?yàn)閬?lái)自俄羅斯的黑客，直接把這家美國(guó)油管公司的財(cái)務(wù)數(shù)據(jù)給加密了，導(dǎo)致整個(gè)財(cái)務(wù)數(shù)據(jù)系統(tǒng)崩潰之后，就沒(méi)有辦法向客戶提供油料了。所以，整個(gè)的業(yè)務(wù)就中止了。
這幾年我們?cè)趪?guó)內(nèi)也接到不少公司的報(bào)案，他們受到勒索攻擊的這種侵犯。實(shí)際上一旦核心數(shù)據(jù)被加密，整個(gè)業(yè)務(wù)系統(tǒng)立刻停擺。
所以，這里邊我也講一下勒索軟件或者勒索攻擊，已經(jīng)變成現(xiàn)在成長(zhǎng)速度最快，獲利最高的一種新的黑產(chǎn)的商業(yè)模式。
過(guò)去我們很多人很迷信，我的數(shù)據(jù)很加密，別人也拿不走，但是勒索攻擊者腦洞很清奇，他們不拿走你的數(shù)據(jù)，把你的數(shù)據(jù)再加密一點(diǎn)，就像我說(shuō)的，我們家有一個(gè)保險(xiǎn)柜，你來(lái)了之后不用打開它，再帶一個(gè)更大的保險(xiǎn)柜，把我的保險(xiǎn)柜鎖在你的保險(xiǎn)柜里，這樣我只能乖乖地找你去要保險(xiǎn)柜的鑰匙，所以這就是勒索攻擊的核心秘密。
所以，我們可以看到數(shù)字化技術(shù)，固然一方面給我們創(chuàng)造了自動(dòng)化，非常美好的科技的這種未來(lái)，美好的生活，更高的生產(chǎn)力、更高的效率。但是它同時(shí)也有安全上的隱患。
當(dāng)然了，前面講人工智能技術(shù)本質(zhì)也是軟件，本質(zhì)也是基于數(shù)據(jù)，也有很多破綻。所以，總結(jié)起來(lái)，我覺(jué)得人工智能安全有七大安全挑戰(zhàn)：硬件、軟件、通信協(xié)議、算法、數(shù)據(jù)、應(yīng)用和社會(huì)倫理。
下面我將給大家逐個(gè)解釋一下。
第一個(gè)，硬件，可能會(huì)出錯(cuò)。因?yàn)槲覄偛胖v，今天的數(shù)字化世界，我們很多數(shù)據(jù)是來(lái)自于物聯(lián)網(wǎng)設(shè)備及各種傳感器。如果這個(gè)傳感器數(shù)據(jù)出錯(cuò)，傳給系統(tǒng)的數(shù)據(jù)本身信號(hào)就是錯(cuò)的，那么系統(tǒng)當(dāng)然就會(huì)做出錯(cuò)誤的判斷。
比如說(shuō)美國(guó)波音公司的737Max前幾年出了幾次空難，實(shí)際上是自動(dòng)壓機(jī)頭和自動(dòng)提升的軟件出了錯(cuò)誤。因?yàn)闄C(jī)頭升降仰角讀取的傳感器讀出了錯(cuò)誤，以至于AI發(fā)生了錯(cuò)誤判斷。
包括今天我們比較看好的無(wú)人駕駛車，都會(huì)裝有激光雷達(dá)，用激光雷達(dá)來(lái)對(duì)前方的路障進(jìn)行識(shí)別。但是，如果我用類似的激光筆或者對(duì)激光雷達(dá)進(jìn)行干擾，可能無(wú)人駕駛車，就會(huì)發(fā)生錯(cuò)誤的判斷。所以，硬件是整個(gè)AI數(shù)字化很重要的基礎(chǔ)，硬件有可能會(huì)帶來(lái)錯(cuò)誤的數(shù)據(jù)。
第二個(gè)，軟件存在漏洞。特別是我們今天的AI訓(xùn)練，很多都是基于開源框架，這些開源框架本身軟件都有很多的漏洞。在過(guò)去的時(shí)間里面，我們360已經(jīng)挖取了不少的漏洞。
比如說(shuō)最近有一個(gè)AI編程神器的軟件，自動(dòng)生成代碼中有40%存在漏洞，這個(gè)漏洞比一個(gè)優(yōu)秀的人工工程師的漏洞還要多出10倍以上。
第三個(gè)，通信協(xié)議可能會(huì)被劫持。你比如說(shuō)，剛才我們講了無(wú)人駕駛汽車，跟車廠之間是有特殊的協(xié)議，來(lái)進(jìn)行軟件的更新和遠(yuǎn)程控制。如果這個(gè)協(xié)議被破獲之后，無(wú)人駕駛車就可能會(huì)失控。
那么，伊朗曾經(jīng)通過(guò)GPS信號(hào)的欺騙，把美國(guó)的一架無(wú)人機(jī)迫降到伊朗的機(jī)場(chǎng)，這種GPS的信號(hào)欺騙也是一種通信協(xié)議的劫持。
第四個(gè)，算法可以被欺騙、被誤導(dǎo)。谷歌曾經(jīng)有一個(gè)AI算法，把黑人識(shí)別成猩猩，惹出了很大的風(fēng)波。現(xiàn)在我們有一些人工智能漏洞挖掘團(tuán)隊(duì)，發(fā)現(xiàn)當(dāng)你走在街上，面對(duì)滿大街人工智能的基于人臉識(shí)別的攝像頭，你如果不想被他認(rèn)出來(lái)你是一個(gè)人，你穿上特殊條紋或者特殊圖案的T恤，攝像頭就會(huì)不認(rèn)為你是一個(gè)人，它就對(duì)你不會(huì)做面部識(shí)別，這就說(shuō)明了算法是可以通過(guò)一種特殊的組合數(shù)據(jù)來(lái)進(jìn)行欺騙和誤導(dǎo)的。
更重要的數(shù)據(jù)可以被污染，或者我們稱之為數(shù)據(jù)投毒。因?yàn)閿?shù)據(jù)是寶貴的數(shù)字資產(chǎn)，AI的深度學(xué)習(xí)是要基于大量的數(shù)據(jù)訓(xùn)練。但是，如果我們?cè)谟?xùn)練過(guò)程中，我們給的數(shù)據(jù)是有誤的，有可能訓(xùn)練出一個(gè)完全不一樣的AI的結(jié)果。
比如說(shuō)，如果我們?cè)谟?xùn)練如何識(shí)別貓的這樣一個(gè)訓(xùn)練集的時(shí)候，我們給了很多狗的圖片，那將來(lái)這個(gè)AI可能就會(huì)把狗誤認(rèn)為是貓。
AI比較獨(dú)有的兩個(gè)特點(diǎn)，我們也在這兒提一下。就是應(yīng)用上可能會(huì)危害人類的根本利益，這里面的案例有兩個(gè)，主要是涉及到社會(huì)倫理的問(wèn)題。
第一，AI在5G上戰(zhàn)場(chǎng)直接攻擊人類。原來(lái)阿西·莫夫就希望說(shuō)，只要有AI能力的，把這些機(jī)器都稱之為叫機(jī)器人，機(jī)器人永遠(yuǎn)不要傷害人類。但是現(xiàn)在看來(lái)這個(gè)原則已經(jīng)被打破。所以，我們可能有一個(gè)建議說(shuō)，因?yàn)楝F(xiàn)在各國(guó)都在AI跟武器結(jié)合方面，世界各國(guó)都在展開軍備競(jìng)賽，這也是未來(lái)大國(guó)角力的焦點(diǎn)。
所以，AI武器應(yīng)該把最后的決定權(quán)，應(yīng)該讓人來(lái)做最后的控制，而不是完全讓AI做自動(dòng)的判斷、自動(dòng)的決策。包括深度偽造技術(shù)，前面已經(jīng)講了，這個(gè)技術(shù)也涉及到對(duì)人的利益的傷害。不僅可以用于網(wǎng)絡(luò)詐騙，制造色情視頻，甚至偽造新聞，誤導(dǎo)輿論。
你比如說(shuō)，最近有人用馬斯克的視頻，深度偽造。偽造了一個(gè)他鼓動(dòng)粉絲購(gòu)買特定的虛擬貨幣的事件，害得馬斯克不得不出來(lái)辟謠，說(shuō)這個(gè)視頻是別人用Deepfake來(lái)偽造的。
AI最大的一個(gè)問(wèn)題，也是現(xiàn)在我們國(guó)家很多學(xué)者都在討論的，AI在社會(huì)倫理上，有可能超出現(xiàn)有的社會(huì)法律和道德的規(guī)范。
比如說(shuō)，有一個(gè)電車難題，如何認(rèn)定無(wú)人駕駛車出事以后的責(zé)任。比如說(shuō)在高速行駛之中，自動(dòng)駕駛汽車，如果避讓行人，可能會(huì)撞上旁邊的障礙物，導(dǎo)致車主人身傷亡；如果不避讓，就會(huì)導(dǎo)致行人傷亡。在這種情況下，就有兩個(gè)問(wèn)題，AI的程序應(yīng)該如何來(lái)做出判斷。第二個(gè)，如果出了車禍，到底這個(gè)責(zé)任應(yīng)該算是AI的，算是車廠的，還算是駕駛員的，所以這些問(wèn)題應(yīng)該說(shuō)都還沒(méi)有一個(gè)明確的答案。
前面我們講了數(shù)字化技術(shù)帶來(lái)了諸多挑戰(zhàn)，但是今天也有很多人，對(duì)安全的認(rèn)識(shí)還停留在計(jì)算機(jī)安全和網(wǎng)絡(luò)安全的時(shí)代，以為安全就是殺殺病毒，防防木馬，用防火墻隔離等傳統(tǒng)手段。
面對(duì)大數(shù)據(jù)、人工智能各種復(fù)雜的安全挑戰(zhàn)，我覺(jué)得網(wǎng)絡(luò)安全還應(yīng)該重新被定義，要將計(jì)算機(jī)安全、網(wǎng)絡(luò)安全升級(jí)到數(shù)字安全，才能跟得上整個(gè)行業(yè)的發(fā)展要求，才能跟得上國(guó)家的產(chǎn)業(yè)數(shù)字化的發(fā)展要求，才能保障我們進(jìn)入數(shù)字文明時(shí)代。
當(dāng)前一個(gè)重要的變化是，人工智能安全已經(jīng)上升為國(guó)家安全的重要組成部分，《國(guó)家安全戰(zhàn)略（2021年-2025年）》明確提出加快提升網(wǎng)絡(luò)安全、數(shù)據(jù)安全、人工智能安全等領(lǐng)域的治理能力，這也是國(guó)家戰(zhàn)略層面首次提出來(lái)，人工智能安全的概念，說(shuō)明人工智能安全是數(shù)字安全的一部分，也是平常我們所說(shuō)的“非傳統(tǒng)安全”。
反過(guò)來(lái)，說(shuō)了半天AI的問(wèn)題，我們講數(shù)字化技術(shù)也是一把雙刃劍。人工智能技術(shù)高速發(fā)展，帶來(lái)安全挑戰(zhàn)的同時(shí)，也為解決網(wǎng)絡(luò)安全、數(shù)字安全的風(fēng)險(xiǎn)提供了新的技術(shù)手段。
現(xiàn)在AI技術(shù)已經(jīng)廣泛利用于大數(shù)據(jù)的分析、威脅情報(bào)的處理、智能防御等領(lǐng)域，特別是在惡意代碼的樣本檢測(cè)、惡意代碼流量分析、漏洞挖掘、僵尸網(wǎng)絡(luò)檢測(cè)、網(wǎng)絡(luò)黑灰產(chǎn)檢測(cè)等方面發(fā)揮了巨大的作用。360這幾年連續(xù)幫助國(guó)家發(fā)現(xiàn)了50個(gè)境外的國(guó)家級(jí)黑客組織，與我們對(duì)AI的使用都是分不開的。
在AI數(shù)據(jù)分析方面，人工智能在海量數(shù)據(jù)分析方面，發(fā)揮了積極重要的作用。因?yàn)榇髷?shù)據(jù)的數(shù)量浩如煙海，依靠人工去做發(fā)現(xiàn)是基本不可能的。必須借助人工智能，去對(duì)多維度海量、鮮活的安全大數(shù)據(jù)進(jìn)行實(shí)時(shí)的分析，用算力來(lái)代替人力，然后再?gòu)闹型诰虺霭踩木€索，再由安全專家來(lái)進(jìn)行跟進(jìn)。
在AI情報(bào)處理方面，人工智能可以參與漏洞的挖掘，篩選惡意的樣本、惡意的網(wǎng)址，對(duì)APT的攻擊行為進(jìn)行自動(dòng)化的分析跟學(xué)習(xí)，實(shí)現(xiàn)針對(duì)威脅攻擊的智能化檢測(cè)、監(jiān)測(cè)、預(yù)警和響應(yīng)。
未來(lái)在AI智能防御方面，人工智能可以發(fā)現(xiàn)未知的病毒木馬，對(duì)DDoS攻擊進(jìn)行監(jiān)測(cè)和預(yù)警，并對(duì)APT的攻擊溯源進(jìn)行定位，有效提高安全運(yùn)營(yíng)的效率，大幅度提高我國(guó)的安全防御能力。
作為中國(guó)數(shù)字安全的領(lǐng)軍企業(yè)，360一直高度重視人工智能安全，率先在行業(yè)里進(jìn)行布局，積極構(gòu)建人工智能安全能力體系。我們確立了“數(shù)據(jù)制勝”為核心的新戰(zhàn)法，核心就是無(wú)論任何的攻擊，首先要強(qiáng)調(diào)能夠想辦法利用大數(shù)據(jù)分析，能夠看見(jiàn)攻擊。看見(jiàn)攻擊，那么隨后對(duì)它進(jìn)行阻斷，進(jìn)行溯源，進(jìn)行封堵，進(jìn)行清理，就變得比較簡(jiǎn)單。如果看不見(jiàn)，那什么都是抓瞎。
所以，如何利用人工智能技術(shù)，從全網(wǎng)大數(shù)據(jù)中進(jìn)行分析，建立全局視角，并且從中構(gòu)建起看見(jiàn)的這種能力。
在新的戰(zhàn)法指導(dǎo)下，360應(yīng)用人工智能數(shù)據(jù)分析技術(shù)，對(duì)自身積累的全球最大規(guī)模的安全大數(shù)據(jù)進(jìn)行實(shí)時(shí)分析，形成360全網(wǎng)安全大腦的原型，為行業(yè)或者企業(yè)提供強(qiáng)大的數(shù)據(jù)和情報(bào)支撐，實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)威脅進(jìn)行有效的分析、預(yù)警、發(fā)現(xiàn)和阻斷。
面對(duì)人工智能自身的安全挑戰(zhàn)，360也積極參與人工智能漏洞挖掘。我們一共發(fā)現(xiàn)了150多個(gè)機(jī)器學(xué)習(xí)框架和供應(yīng)鏈的漏洞，涉及到Tensorflow、Caffe、PyTorch等主流深度學(xué)習(xí)AI開源框架。我們發(fā)現(xiàn)了多款人臉識(shí)別設(shè)備的安全漏洞，利用漏洞可以實(shí)現(xiàn)遠(yuǎn)程控制、隱私的竊取、模型文件的竊取。360的AI安全實(shí)驗(yàn)室發(fā)現(xiàn)了多款移動(dòng)APP、人臉識(shí)別功能方面存在的數(shù)字泄漏的安全風(fēng)險(xiǎn)。
所以，未來(lái)利用AI解決安全，也大有可為。
360將AI安全作為公司業(yè)務(wù)發(fā)展的重點(diǎn)方向，愿意與行業(yè)、產(chǎn)業(yè)一起開放協(xié)同創(chuàng)新。我們積極承擔(dān)安全大腦，國(guó)家新一代人工智能開放創(chuàng)新平臺(tái)的建設(shè)，目前360安全大腦開放平臺(tái)的能力，已經(jīng)落地于工業(yè)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、智能網(wǎng)聯(lián)車、智慧城市、數(shù)字政府等多個(gè)場(chǎng)景，并且賦能教育、運(yùn)營(yíng)商、信創(chuàng)等諸多行業(yè)。
360還牽頭研發(fā)了人工智能安全評(píng)測(cè)與風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警平臺(tái)，入選工信部的人工智能產(chǎn)業(yè)創(chuàng)新任務(wù)揭榜單位名單。
作為中國(guó)數(shù)字安全的領(lǐng)軍企業(yè)，360愿意開放自身的安全大數(shù)據(jù)，將產(chǎn)業(yè)力量聯(lián)合起來(lái)，共建AI安全生態(tài)，集中推動(dòng)數(shù)字安全的創(chuàng)新，其成果也將最終沉淀于安全大腦人工智能創(chuàng)新開放平臺(tái)的建設(shè)。
360還將在安全大腦人工智能開放創(chuàng)新平臺(tái)建設(shè)的基礎(chǔ)之上，倡導(dǎo)建立人工智能與開放創(chuàng)新體系，建立平臺(tái)化機(jī)制，實(shí)現(xiàn)核心研究成果的對(duì)接與轉(zhuǎn)換，賦能人工智能與安全相關(guān)的中小微企業(yè)、高校、科研院所，賦能中小微初創(chuàng)的安全企業(yè)，全球行業(yè)、AI產(chǎn)業(yè)，共享技術(shù)成果，推動(dòng)產(chǎn)業(yè)健康快速發(fā)展，提升國(guó)家人工智能安全整體的防御能力。
在過(guò)去的20年里面，360核心做的就一件事，就是“安全”。希望在未來(lái)越來(lái)越富有挑戰(zhàn)的安全環(huán)境里面，我們做到真正能看見(jiàn)攻擊，發(fā)現(xiàn)威脅，抵御威脅。
未來(lái)360將攜手合作伙伴，共同夯實(shí)AI安全能力，把服務(wù)于國(guó)家和社會(huì)的數(shù)字安全能力復(fù)制到各個(gè)行業(yè)里，為數(shù)字中國(guó)的建設(shè)，各個(gè)行業(yè)的數(shù)字化轉(zhuǎn)型貢獻(xiàn)力量。
謝謝大家！
