為防人工智能背叛人類，google微軟等巨頭拉起小手

寂靜天花板

從《2001：太空漫游》到《黑客帝國》，電影和科幻作家一直都在提醒我們要警惕人工智能，因為它們隨時都有可能背叛人類甚至毀滅人類。隨著人類在人工智能領(lǐng)域不斷取得突破，這種擔憂正在越來越多地被人們提及。
  l- z: K3 X: K: u; |
現(xiàn)在，Google母公司Alphabet、Facebook、微軟、IBM和亞馬遜這5家在人工智能領(lǐng)域積極布局的科技巨頭也意識到了這個問題，他們正打算為人工智能制定一套成熟的道德標準。
根據(jù)《紐約時報》的報道，這5家公司近期舉行了一場會談，在人工智能對勞動市場、交通和戰(zhàn)爭等方面的道德倫理標準展開了討論。他們還打算成立一個相關(guān)的行業(yè)協(xié)會，這個協(xié)會的目的是確保人工智能有利于人類而不是傷害人類，但參會者還沒有確定具體的協(xié)會名稱。
雖然科技巨頭們都在積極研究人工智能，但警惕人工智能統(tǒng)治人類的呼聲也不絕于科技界。例如在今年6月份舉辦的Code Conference上，特斯拉和Space X的創(chuàng)始人伊隆·馬斯克就曾說過，按照人工智能的發(fā)展，未來人類在智力上將被遠遠拋在后面，并淪落為人工智能的寵物。
去年7月，馬斯克還資助了未來生命研究所（Future of Life Institute）1000萬美元，該機構(gòu)主要評估和分析人工智能帶來的風險。
隨后史蒂芬·霍金也在一場電視節(jié)目里聲稱硅谷某處的一些實驗室正在醞釀一個邪惡的計劃，而人工智能將會以比人類更快的速度進化，它們的目標是人類無法預測的。
$ R) U' k. P6 n! w. ?- w“一旦機器達到了一種可以自我進化的關(guān)鍵階段，我們就無法預測它們的使命是否和人類一樣了�！被艚鹫f。
對此，谷歌董事長Eric Schmidt回應稱，人工智能將會以人類的福祉為發(fā)展方向，而且將會有一個系統(tǒng)來阻止人工智能向不對的方向發(fā)展�！拔覀兌伎催^那些科幻電影�！彼�說，“但是在現(xiàn)實世界中，人類肯定知道如何在人工智能變得危險的時候關(guān)閉掉它的系統(tǒng)�！�
不僅是科技公司和民間組織想要讓人工智能在道德和法律上走向正規(guī)化，政府機構(gòu)也參與到了這場討論中。今年5月，美國政府在西雅圖舉辦了第一次關(guān)于AI法律法規(guī)的白宮探討會。
本次探討會的主題是“政府應不應該對人工智能進行管理”，但會議并沒有就此議題得出結(jié)論，更不用說出臺具體的監(jiān)管措施了。
因此，在政府沒有做出具體的動作之前，科技公司們已經(jīng)開始行動了——他們決定自己制定框架，讓人工智能研究能夠進行下去，并確保它不會傷害人類。
參與本次行業(yè)討論的微軟研究人員Eric Horvitz曾在斯坦福大學創(chuàng)辦過一個叫“人工智能百年研究”的協(xié)會，該協(xié)會最近發(fā)表了其2016年的研究報告。
在這份名為《2030年的人工智能與生活》的報告中，作者認為人工智能“很可能受到監(jiān)管�！眻蟾娣Q：“研究組達成的共識是，試圖監(jiān)管人工智能的努力常常受到誤導，因為我們沒有對人工智能這一概念的明確定義，因此在不同領(lǐng)域，我們需要考慮不同的風險�！�
, V" }* W  J7 p這份報告還建議政府機構(gòu)提升對人工智能的專業(yè)認識，并加強在人工智能領(lǐng)域的公共和私人投資。
一份關(guān)于本次會議的備忘錄顯示，這5家公司將于9月中旬宣布建立監(jiān)管人工智能的行業(yè)組織。有知情人士表示，Alphabet的子公司Google DeepMind要求以獨立的身份參與此行業(yè)協(xié)會。
, G. B. M6 ^3 x9 c6 e+ k! h該協(xié)會將以全球網(wǎng)絡倡議（Global Network Initiative）等人權(quán)組織的模式組建，但更加關(guān)注言論自由和隱私權(quán)問題。

1175912249

感覺現(xiàn)在有點杞人憂天，真正的智能化只是在童話故事和電影中存在

ralphtyler

是有點必要性，人類真跟智能機比起來。毫無優(yōu)勢

amone

現(xiàn)在的AI還依賴于人類的輸入，一旦給機器開放自我意識，機器的進化速度將

左手的幸福

如果人工智能開啟自學習模式，人類對齊控制將不可控，上演科幻電影情節(jié)也不是沒有可能。

左手的幸福

如果人工智能開啟自學習模式，人類對其控制將不可控，上演科幻電影情節(jié)也不是沒有可能。