人工智能已經(jīng)到了大規(guī)模落地應用的階段，近日剛剛結(jié)束的第三屆世界人工智能大會上，《中國新一代人工智能科技產(chǎn)業(yè)發(fā)展報告(2019)》公布的一組數(shù)據(jù)揭示了這一現(xiàn)狀：745家中國人工智能企業(yè)中，應用層企業(yè)占比高達75.2%，包括智能制造、科技金融、新零售和智能安防等18個應用領域。

“阿里在新零售安全領域應用進行了很多探索，比如電商治理中營商環(huán)境的安全，我們還把防火以及食品安全也納入到這個范疇中來，讓安全有了新的定義，”阿里安全圖靈實驗室奧創(chuàng)在大會上指出，隨著人工智能技術(shù)的不斷應用，安全問題也不斷浮現(xiàn)，“既懂安全又懂AI的人才，在未來無疑是最寶貴的。”

圖說：阿里安全圖靈實驗室奧創(chuàng)在第三屆世界智能大會上談安全AI及人才培養(yǎng)問題

放眼全球，人工智能近年來發(fā)展勢頭迅猛。5月16日，兩場以人工智能為主題的國際盛會，在天津、北京開幕，中國國家主席習近平也向兩場國際盛會發(fā)出賀信：推動新一代人工智能健康發(fā)展，更好造福世界各國人民。

奧創(chuàng)參與的世界智能大會專門開設了人工智能與安全的分論壇，來自政府、高校、企業(yè)等多方角色共同探討人工能智能帶來的安全風險以及解決之道。“計算機的優(yōu)勢就在于速度和影響規(guī)模上，擁有比人類更強大的能力，伴隨著人工智能的發(fā)展，這一優(yōu)勢會被進一步放大，有可能會出現(xiàn)令人無法察覺或無法防范的攻擊，”奧創(chuàng)在討論中指出，不過，人工智能在輔助安全方面對防御的提升，也會大于對攻擊的提升，最終將攻防拉到同一水位上，甚至可能會扭轉(zhuǎn)防守方一直以來的劣勢。

近期，“AI換臉”頻頻登上熱搜，引發(fā)外界關于技術(shù)倫理的爭論。“很多技術(shù)的出發(fā)點是好的，但很多人較少關注技術(shù)被濫用的可能性，”奧創(chuàng)表示，對于政府來說，完善法律法規(guī)和加強道德規(guī)范的建設，而工程師對于技術(shù)開發(fā)和開放的態(tài)度一定程度上需要改變，“對于學界來說，要加強在AI防御的研究，不僅是生成，也包括鑒偽，也要增加在AI交叉學科的投入，比如法學、心理學、道德倫理學等。”

據(jù)悉，阿里于今年年初提出安全AI概念，即安全場景中進化出的AI，擁有更強、更多元化的能力，目前阿里安全圖靈實驗室的安全AI技術(shù)應用于知識產(chǎn)權(quán)保護、內(nèi)容安全、新零售安全、智能核身等多個領域，僅人臉識別技術(shù)已應用在100多個場景，實現(xiàn)刷臉就醫(yī)、刷臉進景區(qū)、大型活動刷臉入場、配送員認證、刷臉取快遞等。

“在安全AI的應用中我們發(fā)現(xiàn)，感知類的問題比如圖像識別、語音識別等，可以通過信息驅(qū)動，但一些認知類的任務，比如電商風險問題中就很依賴于知識圖譜等技術(shù)，”奧創(chuàng)表示，網(wǎng)絡安全的發(fā)展歷史悠久，大量的專業(yè)知識沉淀在少數(shù)專家腦海中，所以安全人才的缺口是個大問題，“尤其AI帶來更多的安全問題，無論是AI輔助解決安全問題，還是其他方式，既懂安全又懂AI的人才無疑是最寶貴的。”

附發(fā)言全文：

我是來自阿里巴巴安全部的薛暉（花名：奧創(chuàng)），也是阿里安全圖靈實驗室的負責人。該實驗室主要負責圖像視頻、自然語言處理以及語音等技術(shù)在安全場景的應用，也包括一部分AI技術(shù)自身的安全性研究。

第一個問題是，人工智能發(fā)展下是否有可能發(fā)生白帽子無法察覺或無法防范的攻擊？

我認為存在這樣的可能。我們知道，原本計算機的優(yōu)勢就在于速度和影響規(guī)模上，擁有比人類更強大的能力；伴隨著人工智能的發(fā)展，計算機與人類在創(chuàng)造性和認知理解能力上的差距被進一步縮小，而原本就占優(yōu)的速度和影響規(guī)模優(yōu)勢被進一步放大，是有可能會出現(xiàn)令人無法察覺或無法防范的攻擊的。

但不要忘了，人工智能不僅可以放大攻擊方的能力，防守方也同樣可以借助人工智能技術(shù)來加固自己的堡壘。當前網(wǎng)絡攻擊實際是攻防不對等的；相對于攻擊方來說，防守方所需要覆蓋的面要大得多，受限于人力的因素其實是很吃虧的；比如現(xiàn)在我們有機會能從海量的日志中去發(fā)現(xiàn)蛛絲馬跡，這在過去靠人力的時代是基本不用想的。我認為人工智能在輔助安全方面，對防御的提升會大于對攻擊的提升，最終將攻防拉到同一水位上，甚至可能會讓扭轉(zhuǎn)防守方一直以來的劣勢。

第二個問題，很多人在問，學術(shù)界和工業(yè)界研發(fā)的差異是什么？

之前顏教授有過總結(jié)，我覺得很精辟：學術(shù)界是追求極限，工業(yè)界則是在商言商。

如果從今天深度學習的幾個要素，數(shù)據(jù)、算力、算法來細說，還是有一些值得討論的，比如從信息角度，這可能是今天企業(yè)最大的優(yōu)勢之一。但有點是肯定的，天下沒有免費的午餐。現(xiàn)在很多信息的合規(guī)和隱私問題越來越重要，很難能夠持續(xù)保證收集到足夠高質(zhì)量的信息，更不要說今天的深度學習模型還可能會遭遇到數(shù)據(jù)污染等攻擊；從另一方面來說，今天數(shù)據(jù)的重要性其實更多證明了人工智能的不成熟：我們的模型沒有能夠做到足夠好的遷移性，或者像人類一樣基于小樣本學習；但我們越來越依賴信息量，當信息成為我們的核心競爭力之后，我們也越來越不愿意分享自己的信息，這可能是對整體發(fā)展不利的。在學術(shù)界其實只需要關注固定的開源數(shù)據(jù)集，沒有這樣的煩惱。

從算力角度來說，這也算是大公司的優(yōu)勢吧，特別是像阿里這樣做云計算的公司。今天我們的確可以在實驗環(huán)境中調(diào)用大量的計算資源來訓練模型；但是在實際運用時，我們必須保證模型能夠在用戶的手機或設備上流暢運轉(zhuǎn)，要考慮前一代甚至前幾代機型的兼容性，這是一件非常繁瑣的事情。相比來說，在學術(shù)界，我們往往較少考慮時間性能等因素（雖然最近一些比賽也設置了這一條件），比如可以為了提升極限采用多模型融合的方式。

從算法角度看，學術(shù)界擁有更靈活和開放的思路，能夠帶給工業(yè)界持續(xù)的驚喜，高校相比企業(yè)擁有更大的試錯空間，因為即使項目失敗了，至少也把人培養(yǎng)起來了，這才是高校最核心的任務。

還有很多人問，是否需要安全領域的專門AI研究的人才?

我的答案是需要。廣義的安全包含的領域很多，包括系統(tǒng)安全、金融風控、公共安全，電商治理也有營商環(huán)境的安全；這兩年阿里也一直在推進新零售安全，新零售時代下的安全有了新的定義，比如我們會把防盜、防火以及食品衛(wèi)生安全也納入到這個范疇進來。

我們在做很多感知類問題，比如圖像識別、語音識別時，往往采用數(shù)據(jù)驅(qū)動的方式；因為這類任務的樣本很多，不斷被產(chǎn)生；即使某個特定領域沒有現(xiàn)成的標記樣本，因為這類任務對于人來說很簡單，不需要專業(yè)知識，所以標記的成本也不高。

但對于一些認知類的任務，比如系統(tǒng)安全或者金融風控來說，由于專業(yè)知識的門檻以及實時的對抗變異和博弈，穩(wěn)定和長期的數(shù)據(jù)難以獲得，直接使用深度學習會遇到天花板；譬如今天我們在解決電商風險問題大量依賴于知識圖譜等技術(shù)。網(wǎng)絡安全的發(fā)展已經(jīng)經(jīng)歷了相當長一段的時間了，大量的專業(yè)知識沉淀在少數(shù)專家的腦海里，但安全人才的缺口仍然是一個大問題。無論是AI輔助人工去解決安全問題、或是采用基于知識工程的方式，既懂安全又懂AI的人才無疑是最寶貴的。

最后，對于GAN所引起的真實性問題，學界和政府如何應對的問題，我認為，AI 研究員經(jīng)常會想如何去挑戰(zhàn)一個難題，但他們很少考慮“我們應該這樣做嗎？”很多技術(shù)出發(fā)點是好的，但他們較少關注技術(shù)被濫用的潛在可能性。對于政府來說，完善法律法規(guī)和加強道德規(guī)范的建設。鑒于技術(shù)未來可能會引發(fā)不可預計的社會問題，可能過去工程師對于技術(shù)開發(fā)和開放的態(tài)度需要得到一定程度的改變。對于學界來說，加強在這一領域防御的研究，不僅是生成，也包括鑒偽。另外也同樣重要的是，在AI交叉學科的增加投入，比如法學、心理學、道德倫理學等。

【來源：通信世界全媒體】