谷歌等巨頭承諾AI研發透明化：黑暗前的黎明？專欄
砍柴網作者：劉志剛
近日，幾家最具影響力的美國高科技企業已經承諾，要令人工智能(AI)技術的開發更加可控和透明，試圖借此遏制人們對該技術日益增加的擔憂。實施這一計劃的公司包括谷歌(Google)、微軟(Microsoft)和Facebook等擁有最強人工智能研究機構的所有美國高科技企業（除了蘋果(Apple)）。不過，多名代表表示目前正在就蘋果加入該合作組織開展磋商。
AI技術問世以來，尤其是近兩年如火如荼的發展浪潮，在各行業都引起了軒然大波，各種AI威脅論甚囂塵上，這一計劃等于是一個行業首次聯合起來，約束一種廣泛影響人類未來的技術。對于持AI威脅論的擁躉者們，AI水平的提升無疑是人類史上的暗黑時代，承諾AI研發透明化，稱得上是黑暗前的黎明嗎？
十字架與圣水：行業規則的制定者與AI倫理研究所
「在所有故事里，似乎總有拿著十字架和圣水的家伙，就像他確保自己能控制惡魔一樣。有越來越多的聰明人，已經提前準備好十字架和圣水，謹慎提防可能出現的不可控的惡魔了。」 這次的美國科技公司聯名承諾AI研發透明化像極了十字架與圣水。 這些聯名的企業還包括了亞馬遜(Amazon)和IBM。它們宣布成立一個名為人工智能造福人類和社會合作組織(Partnership on Artificial Intelligence to Benefit People and Society)的非盈利機構，以開展這項工作。該組織將對有關人工智能具體如何影響社會的倫理問題開展研究，并找到提高這種新技術透明度、降低其理解難度的辦法。
該倡議背后的最大動機，源于公眾和政府對這種威力巨大的技術將如何影響生活方方面面越來越擔心。微軟人工智能研究人員埃里克•霍維茨(Eric Horvitz)表示，該技術是個“轉折點”，相關挑戰正浮出水面。 這些挑戰包括：程序中的“隱形偏見”，即用特定數據集“訓練”后，程序會帶上隱含假定前提；一些系統往往會以其開發人員也不能理解的邏輯做出決策，這些系統的安全性和可信任程度問題；如何設計人工智能系統中嵌入的倫理判斷，這些倫理判斷會在特定場合影響系統與人類的互動。
無獨有偶，早在幾個月前，英國劍橋大學新建了一個研究中心，致力于研究人工智能在發展的過程中帶給人類的機遇與挑戰，并旨在影響其道德倫理發展，從而防止人工智能在 21 世紀會控制世界。一家名為 Leverhulme 的信托公司將為其提供十年約 1000 萬英鎊的資助。 雖然人工智能目前還只處在人類 3、4 歲的智力水平，但有研究認為，在 2099 年之前，人工智能將能達到人類智力的水平，甚至是超越。重要的是，人工智能是不斷地學習提高的。 因此劍橋大學聚齊了一些科學家、哲學家、社會科學家，從技術上、實用性上以及道德觀念上出發，一起來為人工智能做風險評估。
AI威脅論下，持謹慎態度并采取相關措施的不僅僅限于組織行業協會間，同樣擔心的還有特斯拉創始人 Elon Musk，他認為人工智能是人類生存的最大威脅，可能比核武器更危險。事實上，Musk 還投資了一家人工智能公司 Vicarious，為了「監測」人工智能的發展。
AI研發透明化：杞人憂天還是技術所驅？
不論是此次的AI研發技術透明化還是劍橋大學的AI倫理研究院，都是對當前AI技術發展的一種輿論反射，但有時卻過于悲觀，同時又高估了人工智能的發展速度。 其實，這類人群大抵分為三類：有些人是因為對人工智能的原理不理解而導致恐懼，有些人是為了個人名望而宣揚人工智能威脅論，有些人則是為了商業的利益推動人工智能威脅論。
對于人工智能，我們不應恐懼，但要有意識地關注其可控性。和其他機遇與風險并存的技術一樣，只要確保相關研究不會走上歧途，就不至于產生大的惡果。人類智慧造就人工智能，最終人工智能還是要為人類所用。在應用層面，當“智能+”應用趨向成熟時，比如無人車、智能家電等成為主流，就要做好安全保障措施。 人們對可控性的擔憂其實有點科幻，短期做不到超出控制的水平的……畢竟目前的人工智能還處于“有多少人工就有多少智能”的階段。
人工智能要想達到突破，絕非一日之功，我更相信的是，科學發展是有爆發期和穩定期的。一個技術突破會帶來難以想象的繁榮，之后的科學發展都比之前的更快，但不會天天都是技術突破。 比如，二十世紀上半頁的物理學十分輝煌，相對論和量子力學的建立引發了一系列技術革命。但從那以后物理學一直很平穩。楊振寧就說過他趕上了物理學的好時候，讓他現在做學術，可能就不會選物理學了。 要是科幻作家站在1950年前后，用指數發展估計物理學的發展，那到今天我們早就弄出大統一理論搞定核聚變發電了。又比如人均壽命從先秦時的二十幾歲發展到現在的80歲，如果用指數擬合，那過幾十年是不是要活幾百歲了？
大家覺得機器無所不能，但其實目前它只是在局部領域解決一些前人有經驗的事情，也可以做得比人更好，但對于更廣泛的領域，仍然缺乏能力。和擔心人工智能相比，我們更應該去擁抱人工智能，AI技術方興未艾之際，過分擔憂不免顯得杞人憂天。
AI公關大于實際意義，圈地運動前夕的告慰
谷歌攜旗下公司DeepMind，聯合微軟、亞馬遜、Facebook以及 IBM 共同宣布：各方已正式締結AI（人工智能）合作伙伴關系，并已成立名為Partnership on AI的組（PAI），以共同摸索AI技術的安全研發之路，并促進公眾對AI的正確理解，令人工智能(AI)技術的開發更加可控和透明，說白了就是AI的一場公關秀，真實意義效果不大。
在志剛看來，該組織更像是圈地運動前夕的告慰。 話說當年英國資本主義萌芽，新生代資本家為了攫取更多利潤，將勞動力從第一產業農業向第二產業工業做縱向轉移，將土地囤積，用來做畜牧業，客觀上淘汰了落后的生產關系結構，促進第一次工業革命的產生，圈地運動本質上是一種資源最大化，從生產力角度客觀來講是一種社會進步。但是這種代價卻使上萬個農民階級破產，一將功成萬骨枯的最露骨寫生。
1516年英國著名空想社會主義者莫爾在其著作《烏托邦》中說：“羊是溫順的動物，在英國這個奇異的國度里，羊能吃人。” 如果說工業革命占領著藍領的多項工作機會，而這次圍繞著AI所展開的【羊吃人】運動則是對白領群體的一次洗劫。人工智能革命對于白領工作的威脅正如機械化革命對于藍領工作。 馬云曾說：‘’三十年之后，最優秀的CEO可能是一個機器人。如果馬云的預言是真的，那么筆者自行可以腦補下，三十年后，百度的CEO是擎天柱，阿里的CEO是威震天，騰訊的CEO是大黃蜂，千萬不要以為他們三個人聚在一起是在拍變形金剛，他們是在開企業家峰會。
當然這只是個段子，不過現實卻在段子里上演，通過機器人代替人工，富士康已經嘗到了降低勞動力成本的甜頭，將會使越來越多的企業會進行效仿，意味著將會有更多的工作被機器所奪走。雖然隨著人工智能、機器學習和機器人等創新技術的發展，將加速全球經濟形態變革，將有大量工作崗位隨著變革而消失，當然也會涌現出大量新的工作機會。 短期而言，機器是不會一下子取代大多數人的。有一些機械的、長時間集中精神的、固定套路的工作，比如產線工、司機、配藥師的，機器比人還擅長，你就別做了。這些是一不留神就取代掉了你的。
很多工作需要人搭配機器做才最高效，這些工作是主流的新工作。不過在你和機器協作的過程中，機器一定會不斷學習優化的，在單一專業的工作內容中，機器逐漸又會把人趕出去的。業務溝通事務還是人跟人的，人跟人之間做比較好的事還是人比較擅長。審美是模糊的、社會性的，這個還是人比較擅長。
作為一個社會人，應該正視這個趨勢：熟悉使用人工智能輔助的人，能占得技術進步、生產方式變更的紅利，并從中分得一杯羹。而悲觀抵觸的人，等待他們的，只有被時代的車輪無情地碾過。 AI威脅人類不僅有很遠的路要走，甚至只是人類意淫的結果，而AI引發的【羊吃人】卻是不爭的事實，比起虛無縹緲的威脅論，【羊吃人】所引發的行業交替更應成為當下思索的主題，前段時間比較火爆的文藝片《百鳥朝鳳》中嗩吶匠的悲劇或許就是你所在的行業。
1.砍柴網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；2.砍柴網的原創文章，請轉載時務必注明文章作者和"來源：砍柴網"，不尊重原創的行為砍柴網或將追究責任；3.作者投稿可能會經砍柴網編輯修改或補充。
