人工智能已經(jīng)到了大規(guī)模落地應(yīng)用的階段，近日剛剛結(jié)束的第三屆世界人工智能大會(huì)上，《中國(guó)新一代人工智能科技產(chǎn)業(yè)發(fā)展報(bào)告(2019)》公布的一組數(shù)據(jù)揭示了這一現(xiàn)狀：745家中國(guó)人工智能企業(yè)中，應(yīng)用層企業(yè)占比高達(dá)75.2%，包括智能制造、科技金融、新零售和智能安防等18個(gè)應(yīng)用領(lǐng)域。

“阿里在新零售安全領(lǐng)域應(yīng)用進(jìn)行了很多探索，比如電商治理中營(yíng)商環(huán)境的安全，我們還把防火以及食品安全也納入到這個(gè)范疇中來，讓安全有了新的定義，”阿里安全圖靈實(shí)驗(yàn)室奧創(chuàng)在大會(huì)上指出，隨著人工智能技術(shù)的不斷應(yīng)用，安全問題也不斷浮現(xiàn)，“既懂安全又懂AI的人才，在未來無疑是最寶貴的。”

圖說：阿里安全圖靈實(shí)驗(yàn)室奧創(chuàng)在第三屆世界智能大會(huì)上談安全AI及人才培養(yǎng)問題

放眼全球，人工智能近年來發(fā)展勢(shì)頭迅猛。5月16日，兩場(chǎng)以人工智能為主題的國(guó)際盛會(huì)，在天津、北京開幕，中國(guó)國(guó)家主席習(xí)近平也向兩場(chǎng)國(guó)際盛會(huì)發(fā)出賀信：推動(dòng)新一代人工智能健康發(fā)展，更好造福世界各國(guó)人民。

奧創(chuàng)參與的世界智能大會(huì)專門開設(shè)了人工智能與安全的分論壇，來自政府、高校、企業(yè)等多方角色共同探討人工能智能帶來的安全風(fēng)險(xiǎn)以及解決之道。“計(jì)算機(jī)的優(yōu)勢(shì)就在于速度和影響規(guī)模上，擁有比人類更強(qiáng)大的能力，伴隨著人工智能的發(fā)展，這一優(yōu)勢(shì)會(huì)被進(jìn)一步放大，有可能會(huì)出現(xiàn)令人無法察覺或無法防范的攻擊，”奧創(chuàng)在討論中指出，不過，人工智能在輔助安全方面對(duì)防御的提升，也會(huì)大于對(duì)攻擊的提升，最終將攻防拉到同一水位上，甚至可能會(huì)扭轉(zhuǎn)防守方一直以來的劣勢(shì)。

近期，“AI換臉”頻頻登上熱搜，引發(fā)外界關(guān)于技術(shù)倫理的爭(zhēng)論。“很多技術(shù)的出發(fā)點(diǎn)是好的，但很多人較少關(guān)注技術(shù)被濫用的可能性，”奧創(chuàng)表示，對(duì)于政府來說，完善法律法規(guī)和加強(qiáng)道德規(guī)范的建設(shè)，而工程師對(duì)于技術(shù)開發(fā)和開放的態(tài)度一定程度上需要改變，“對(duì)于學(xué)界來說，要加強(qiáng)在AI防御的研究，不僅是生成，也包括鑒偽，也要增加在AI交叉學(xué)科的投入，比如法學(xué)、心理學(xué)、道德倫理學(xué)等。”

據(jù)悉，阿里于今年年初提出安全AI概念，即安全場(chǎng)景中進(jìn)化出的AI，擁有更強(qiáng)、更多元化的能力，目前阿里安全圖靈實(shí)驗(yàn)室的安全AI技術(shù)應(yīng)用于知識(shí)產(chǎn)權(quán)保護(hù)、內(nèi)容安全、新零售安全、智能核身等多個(gè)領(lǐng)域，僅人臉識(shí)別技術(shù)已應(yīng)用在100多個(gè)場(chǎng)景，實(shí)現(xiàn)刷臉就醫(yī)、刷臉進(jìn)景區(qū)、大型活動(dòng)刷臉入場(chǎng)、配送員認(rèn)證、刷臉取快遞等。

“在安全AI的應(yīng)用中我們發(fā)現(xiàn)，感知類的問題比如圖像識(shí)別、語音識(shí)別等，可以通過信息驅(qū)動(dòng)，但一些認(rèn)知類的任務(wù)，比如電商風(fēng)險(xiǎn)問題中就很依賴于知識(shí)圖譜等技術(shù)，”奧創(chuàng)表示，網(wǎng)絡(luò)安全的發(fā)展歷史悠久，大量的專業(yè)知識(shí)沉淀在少數(shù)專家腦海中，所以安全人才的缺口是個(gè)大問題，“尤其AI帶來更多的安全問題，無論是AI輔助解決安全問題，還是其他方式，既懂安全又懂AI的人才無疑是最寶貴的。”

附發(fā)言全文：

我是來自阿里巴巴安全部的薛暉（花名：奧創(chuàng)），也是阿里安全圖靈實(shí)驗(yàn)室的負(fù)責(zé)人。該實(shí)驗(yàn)室主要負(fù)責(zé)圖像視頻、自然語言處理以及語音等技術(shù)在安全場(chǎng)景的應(yīng)用，也包括一部分AI技術(shù)自身的安全性研究。

第一個(gè)問題是，人工智能發(fā)展下是否有可能發(fā)生白帽子無法察覺或無法防范的攻擊？

我認(rèn)為存在這樣的可能。我們知道，原本計(jì)算機(jī)的優(yōu)勢(shì)就在于速度和影響規(guī)模上，擁有比人類更強(qiáng)大的能力；伴隨著人工智能的發(fā)展，計(jì)算機(jī)與人類在創(chuàng)造性和認(rèn)知理解能力上的差距被進(jìn)一步縮小，而原本就占優(yōu)的速度和影響規(guī)模優(yōu)勢(shì)被進(jìn)一步放大，是有可能會(huì)出現(xiàn)令人無法察覺或無法防范的攻擊的。

但不要忘了，人工智能不僅可以放大攻擊方的能力，防守方也同樣可以借助人工智能技術(shù)來加固自己的堡壘。當(dāng)前網(wǎng)絡(luò)攻擊實(shí)際是攻防不對(duì)等的；相對(duì)于攻擊方來說，防守方所需要覆蓋的面要大得多，受限于人力的因素其實(shí)是很吃虧的；比如現(xiàn)在我們有機(jī)會(huì)能從海量的日志中去發(fā)現(xiàn)蛛絲馬跡，這在過去靠人力的時(shí)代是基本不用想的。我認(rèn)為人工智能在輔助安全方面，對(duì)防御的提升會(huì)大于對(duì)攻擊的提升，最終將攻防拉到同一水位上，甚至可能會(huì)讓扭轉(zhuǎn)防守方一直以來的劣勢(shì)。

第二個(gè)問題，很多人在問，學(xué)術(shù)界和工業(yè)界研發(fā)的差異是什么？

之前顏教授有過總結(jié)，我覺得很精辟：學(xué)術(shù)界是追求極限，工業(yè)界則是在商言商。

如果從今天深度學(xué)習(xí)的幾個(gè)要素，數(shù)據(jù)、算力、算法來細(xì)說，還是有一些值得討論的，比如從信息角度，這可能是今天企業(yè)最大的優(yōu)勢(shì)之一。但有點(diǎn)是肯定的，天下沒有免費(fèi)的午餐。現(xiàn)在很多信息的合規(guī)和隱私問題越來越重要，很難能夠持續(xù)保證收集到足夠高質(zhì)量的信息，更不要說今天的深度學(xué)習(xí)模型還可能會(huì)遭遇到數(shù)據(jù)污染等攻擊；從另一方面來說，今天數(shù)據(jù)的重要性其實(shí)更多證明了人工智能的不成熟：我們的模型沒有能夠做到足夠好的遷移性，或者像人類一樣基于小樣本學(xué)習(xí)；但我們?cè)絹碓揭蕾囆畔⒘浚?dāng)信息成為我們的核心競(jìng)爭(zhēng)力之后，我們也越來越不愿意分享自己的信息，這可能是對(duì)整體發(fā)展不利的。在學(xué)術(shù)界其實(shí)只需要關(guān)注固定的開源數(shù)據(jù)集，沒有這樣的煩惱。

從算力角度來說，這也算是大公司的優(yōu)勢(shì)吧，特別是像阿里這樣做云計(jì)算的公司。今天我們的確可以在實(shí)驗(yàn)環(huán)境中調(diào)用大量的計(jì)算資源來訓(xùn)練模型；但是在實(shí)際運(yùn)用時(shí)，我們必須保證模型能夠在用戶的手機(jī)或設(shè)備上流暢運(yùn)轉(zhuǎn)，要考慮前一代甚至前幾代機(jī)型的兼容性，這是一件非常繁瑣的事情。相比來說，在學(xué)術(shù)界，我們往往較少考慮時(shí)間性能等因素（雖然最近一些比賽也設(shè)置了這一條件），比如可以為了提升極限采用多模型融合的方式。

從算法角度看，學(xué)術(shù)界擁有更靈活和開放的思路，能夠帶給工業(yè)界持續(xù)的驚喜，高校相比企業(yè)擁有更大的試錯(cuò)空間，因?yàn)榧词鬼?xiàng)目失敗了，至少也把人培養(yǎng)起來了，這才是高校最核心的任務(wù)。

還有很多人問，是否需要安全領(lǐng)域的專門AI研究的人才?

我的答案是需要。廣義的安全包含的領(lǐng)域很多，包括系統(tǒng)安全、金融風(fēng)控、公共安全，電商治理也有營(yíng)商環(huán)境的安全；這兩年阿里也一直在推進(jìn)新零售安全，新零售時(shí)代下的安全有了新的定義，比如我們會(huì)把防盜、防火以及食品衛(wèi)生安全也納入到這個(gè)范疇進(jìn)來。

我們?cè)谧龊芏喔兄悊栴}，比如圖像識(shí)別、語音識(shí)別時(shí)，往往采用數(shù)據(jù)驅(qū)動(dòng)的方式；因?yàn)檫@類任務(wù)的樣本很多，不斷被產(chǎn)生；即使某個(gè)特定領(lǐng)域沒有現(xiàn)成的標(biāo)記樣本，因?yàn)檫@類任務(wù)對(duì)于人來說很簡(jiǎn)單，不需要專業(yè)知識(shí)，所以標(biāo)記的成本也不高。

但對(duì)于一些認(rèn)知類的任務(wù)，比如系統(tǒng)安全或者金融風(fēng)控來說，由于專業(yè)知識(shí)的門檻以及實(shí)時(shí)的對(duì)抗變異和博弈，穩(wěn)定和長(zhǎng)期的數(shù)據(jù)難以獲得，直接使用深度學(xué)習(xí)會(huì)遇到天花板；譬如今天我們?cè)诮鉀Q電商風(fēng)險(xiǎn)問題大量依賴于知識(shí)圖譜等技術(shù)。網(wǎng)絡(luò)安全的發(fā)展已經(jīng)經(jīng)歷了相當(dāng)長(zhǎng)一段的時(shí)間了，大量的專業(yè)知識(shí)沉淀在少數(shù)專家的腦海里，但安全人才的缺口仍然是一個(gè)大問題。無論是AI輔助人工去解決安全問題、或是采用基于知識(shí)工程的方式，既懂安全又懂AI的人才無疑是最寶貴的。

最后，對(duì)于GAN所引起的真實(shí)性問題，學(xué)界和政府如何應(yīng)對(duì)的問題，我認(rèn)為，AI 研究員經(jīng)常會(huì)想如何去挑戰(zhàn)一個(gè)難題，但他們很少考慮“我們應(yīng)該這樣做嗎？”很多技術(shù)出發(fā)點(diǎn)是好的，但他們較少關(guān)注技術(shù)被濫用的潛在可能性。對(duì)于政府來說，完善法律法規(guī)和加強(qiáng)道德規(guī)范的建設(shè)。鑒于技術(shù)未來可能會(huì)引發(fā)不可預(yù)計(jì)的社會(huì)問題，可能過去工程師對(duì)于技術(shù)開發(fā)和開放的態(tài)度需要得到一定程度的改變。對(duì)于學(xué)界來說，加強(qiáng)在這一領(lǐng)域防御的研究，不僅是生成，也包括鑒偽。另外也同樣重要的是，在AI交叉學(xué)科的增加投入，比如法學(xué)、心理學(xué)、道德倫理學(xué)等。

【來源：通信世界全媒體】