今年1月份,微軟收購深度學習初創(chuàng)公司Maluuba時,Maluuba公司德高望重的顧問、深度學習先驅Yoshua Bengio也接手了微軟的人工智能研究顧問工作。最近,Bengio以蒙特利爾學習算法研究所負責人的身份訪問了微軟位于華盛頓州雷德蒙的園區(qū),并與員工們舉行了座談。本文是此次座談內(nèi)容的實錄:
● 讓我們從最基礎的問題開始:什么是深度學習?
Bengio:深度學習是機器學習方法之一,而機器學習則是讓計算機從有關我們周圍世界或其中某個特定方面的范例中學習,從而讓計算機變得更加智能的一種方式。在所有的機器學習方法中,深度學習是最獨特的,因為它的靈感源自我們對人腦探索與研究。深度學習試圖讓計算機學會很多不同層次的抽象和表達,這可能是使此類系統(tǒng)如此成功的原因。
●能否給我們舉個例子,說明人們是如何運用深度學習的?
Bengio:深度學習最常見的運用方法被稱為“監(jiān)督學習”,我們向計算機提供在多種不同情境下應該如何行事的范例。例如,我們向計算機提供數(shù)百萬個真人朗讀句子的語音數(shù)據(jù),當然也包括這每一個句子背后的聲音數(shù)據(jù)對應的文本數(shù)據(jù),我們希望計算機能夠從這些對應的數(shù)據(jù)中學會將聲音轉換成文字。計算機像人類一樣獲得了在現(xiàn)實世界中的信息輸入,它將通過對眾多樣本數(shù)據(jù)處理方法的學習來模擬人類完成任務的過程。
●深度學習出現(xiàn)迄今已有數(shù)十年。您能否談談深度學習是如何從早期的起步階段努力發(fā)展到如今廣泛滲透進生活里的各類應用中的?
Bengio:這一切都發(fā)端于20世紀50年代末,當時人們真正開始思考人工智能,并且意識到:“嘿,我們應該研究大腦是怎么運轉的,并從中獲取一些線索,用來打造一些更加智能的機器?!钡S后深度學習研究一度沉寂,之后又于20世紀80年代初卷土重來并持續(xù)到90年代初,爾后再次淡出——因為它的成效并不能滿足當時人們過高的期望。時至今日,深度學習研究已迎來第三波浪潮。大約五年前,深度學習技術開始在各類應用中取得驚人突破:諸如語音識別、圖像識別以及近期的機器翻譯等自然語言相關的應用。
●作為深度學習的大咖,您認為目前最令人興奮的研究工作是什么?
Bengio:現(xiàn)在我對所謂“無監(jiān)督學習”領域中所取得的進步感到非常興奮。在這一領域內(nèi),目前最尖端的機器學習和深度學習系統(tǒng)的表現(xiàn)仍遠遠遜色于人類。一個兩歲的幼童都可以通過觀察世界并與之互動來學習新知。例如,她不必專門通過上課,而可以通過玩耍和觀察來了解重力和壓力等物理學知識。這就是無監(jiān)督學習。我們(的機器)現(xiàn)在還遠遠不具備這種強大的能力,但好消息是我們已經(jīng)在這一方面取得了令人驚嘆的進步。這非常重要,因為如果要讓機器超越它們目前擅長但有限的解決特定問題的能力,我們一定要掌握無監(jiān)督學習。
●在微軟, 我們討論的更多的是將人工智能視作是幫助人類完成任務、增強人們體驗與能力的手段。您 認為在人工智能輔助人類上最有潛力的方面都有哪些?
Bengio:談到我們在人工智能領域,特別是自然語言領域取得進步的第一個重要應用,那就是讓計算機能夠以更自然的方式與人類交流。眼下,我們與計算機打交道時常常會感到很懊惱,因為我們不知道如何更高效地與計算機進行溝通從而獲取我們想要的信息。自然語言處理能力將讓很多并非程序員出身的普通人能夠更加便利地使用計算機。除此之外,計算機切實理解用戶的需要和問題,不僅搜尋信息還可能找出原因,并幫助用戶完成工作,這樣的創(chuàng)想都是非常有前景的。
●我想回到您前面談過的話題:深度學習通常被認為是從人腦的運轉方式中獲得了靈感。為什么說深層神經(jīng)網(wǎng)絡受到了我們對大腦工作方式理解的啟發(fā),這又如何影響其研究潛力呢?
Bengio:從神經(jīng)網(wǎng)絡研究的早期開始,人們就有一個想法,大腦中運行的計算可否這樣加以抽象化:大腦中的每個神經(jīng)元都在進行一種非常簡單的數(shù)學運算。神經(jīng)網(wǎng)絡所做的就是將所有這些小運算組合在一起,但由神經(jīng)元所執(zhí)行的每項計算都是可以變化和調(diào)整的。這對應于我們大腦中神經(jīng)元突觸的變化——這就是我們?nèi)祟悓W習的方式。事實證明,計算機學會如何將許多元素結合在一起,這種機器學習方式是非常強大的。
●我們目前對大腦工作方式的了解程度如何?
Bengio:大腦至今仍然是一個很大的謎。你不妨把它想象成一個大拼圖。我們已經(jīng)手握拼圖的所有組件,世界各地成千上萬的神經(jīng)科學家正在研究其中許多不同的組件,但我們卻忽略了全局。我和其他一些人相信并且希望的是,我們在深度學習中所取得的進步也將有助于我們發(fā)現(xiàn)這一全局。當然,我們不確信,但眼下科學界還有很多令人興奮的想法,將更多的從機器學習和深度學習中獲得的數(shù)學理念與神經(jīng)科學相結合,以便更好地了解大腦。當然,我們也希望反過來也一樣有效,因為目前深度學習還根本不能與人類智慧相提并論。人類和人類大腦能夠做到機器不能做的事情,所以也許我們也能夠通過對大腦工作原理的了解來啟發(fā)和影響未來的深度學習系統(tǒng)。
●我們常常聽到很多對人工智能可以做什么的猜測。您能否給我們大致描述一下,我們距離創(chuàng)造能夠實際模仿人類思維和行為的人造智能或深度學習技術還有多遠?
Bengio:有很多人向我提出過這個問題,而我的回答總是“我不知道”,而且我相信,沒有一個嚴肅的科學家能給你一個直接的答案,因為還有太多未知數(shù)。我的意思是說,從字面上看,我們之所以從事這個領域的研究,就是因為我們不知道如何解決某些問題。但我們知道的是我們正在取得進展。我們也可以猜測,事情正朝著正確的方向發(fā)展。但是,比如說,還需要多長時間才能切實地解決一些更難的問題、更復雜的抽象問題?這是不可能有答案的。究竟是5年,15年,還是50年嗎?現(xiàn)在我們面臨一些障礙,但我們認為自己可以克服。但是,也可能一山更比一山高。
●你能否談談深度學習在人們運用人工智能的各種工具中所處的地位?
Bengio:深度學習正在改變過去幾十年間人們對于人工智能的觀念,將一些理念從相對傳統(tǒng)的方式轉向人工智能并實現(xiàn)兩者的整合,并對其中一些好的想法兼收并蓄。其中最著名的例子就是深度學習與強化學習的融合。因此,強化學習也是機器學習的一種,其中計算機并不會了解人類在特定情形下會怎么做。學習者這一方只能在一系列行動的實踐之后看到行為的結果是好還是壞。在這方面研究的許多最新進展都體現(xiàn)在游戲等方面,但強化學習對于自動駕駛汽車等應用而言仍將是非常重要的。
2025-02-05 11:16
2025-02-04 11:13
2025-02-03 11:11
2025-02-02 13:51
2025-02-02 11:07
2025-01-31 10:37
2025-01-30 10:29
2025-01-29 13:38
2025-01-28 10:06
2025-01-26 13:51