友快網

導航選單

2016年機器學習或者人工智慧的主要進展是什麼?

該問題目前共有四人作答。

Xavier Amatriain,曾經是研究員,現在帶領ML和工程團隊

更新於週一。我曾經帶領Quora工程師團隊研究ML / NLP問題,而Nikhil Dandekar曾在微軟、Foursquare和Quora從事機器學習的相關工作。

2016年可以說是“機器學習炒作”的一年。幾乎每個人都在研究機器學習,要麼就正打算收購研究機器學習的創業公司。

目前來看,“炒作”的原因有很多。你能相信自Google宣佈開放採購Tensor Flow才只有一年?TF已經成為一個非常成熟的專案,應用於多個領域,從藥物發現到音樂製作都有所涉及。Google並不是唯一一家將自己的ML軟體開源的公司。微軟開源了CNTK,百度推出了PaddlePaddle,亞馬遜剛剛宣佈他們將在新的AWS ML平臺上推出MXNet。Facebook同時在維護兩個深度學習的框架:Torch和Caffe。另一方面,Google也支援非常成功的Keras。

除了“炒作”,很多公司也開始支援機器學習開源專案,2016年還出現了機器學習的大量應用,這在幾個月前是難以想象的。讓我印象特別深刻的是Wavenet生成的音訊的質量。因為過去我也曾經研究過類似的問題,所以我對如此高的音訊質量會感到驚異。當然還有唇語閱讀的最新進展,影片識別的偉大應用,這些應用在不久的將來可能是非常有用的(但也可能是可怕的)。還有Google在機器翻譯方面取得的巨大進步。

事實上,在過去一年中,機器翻譯並不是機器學習語言技術中唯一有趣的進步。最近,一些結合深層順序網路和邊資訊以產生更豐富語言模型的方法也很有意思。在“神經知識語言模型”中,Bengio的團隊將知識圖與RNN結合,在《大規模NLP任務的上下文LSTM模型》中,DeepMind開始轉向研究LSTM模型。在建模語言模型的注意力和記憶方面也有許多有趣的成果,比如說在今年ICML中出現的《向我問任何事:NLP的動態記憶體網路》。

此外,我應該提及一下 2016年在巴塞羅那的NIPS。但很遺憾,我錯過了在我家鄉舉辦的會議。據我所知,會議上兩個最熱門的話題可能是生成式對抗網路(包括Ian Goodfellow非常受歡迎的教程)和機率模型與深度學習的組合。

我還想說一下我的專業領域的一些進步:推薦系統。當然,深度學習也影響了這一領域。雖然我仍然不建議將DL作為推薦系統的預設方法,但研究推薦系統是如何大規模地在實際中應用,甚至應用在Youtube這樣的產品上還是非常有趣的。也就是說,在該領域有一些有趣的研究與深度學習無關。今年,ACM Recsys的最佳論文獎授予《用於Top-N推薦的本地專案模型》,這是使用初始無監督聚類步驟對稀疏線性方法(即SLIM)的有趣擴充套件。此外,《用於CTR預測的現場感知因子分解機器》描述了Criteo CTR預測Kaggle挑戰的獲勝方法,在ML工具包中,分解機器仍然是一個很好的工具。

關於機器學習在過去12個月裡的影響和進步的例子,我還能列舉幾個段落。請注意,我甚至還沒有列出任何關於影象識別或深加強學習領域的相關突破,或具體的應用,如自動駕駛汽車、聊天機器人或遊戲,這些都是在2016年取得的巨大進步。更不要說關於機器學習是否可能對社會有負面影響的爭論,以及關於演算法偏差和公平性的討論等。

更新:

我還應該說明,大多數這些進展可能在幾年前由Schmidhuber出版。但是,至少在今年才刊登在《紐約時報》上!

Tapabrata Ghosh,深度學習不是炒作。

我知道…

寫於上週六

我能想到的有:AlphaGo、基於RL的神經弓搜尋、learning to play in a day、wavenet、pixelCNN / RNN、即插即用生成網路、StackGAN。我覺得我說得不全,希望其他人能幫我補充一下。

Corrin Lakeland,在Loyalty工作

寫於週一

深度信念網路在2016年發展飛速。之前它很難在實踐中應用,但現在多個免費圖書館和教程使得它的應用變得非常容易。

例如,TensorFlow技術是2015年下半年釋出的,但在整個2016年,公司對該技術進行了完善。還有,OpenAI最近釋出了平臺“Universe”。

Andy Kamath,我喜歡機器學習

寫於週二

雖然我要說的這個進展不是在2016年,而是在2015年(11月),但我認為它同樣重要。

Tensorflow開源了。TF是一個機器學習系統,它負責大部分(如果不是全部)Google的ML系統。它在2015年11月5日開源,數百萬資料科學家因此獲得了一個強大的深度學習工具。

我認為這個進展是最重要的,因為儲存庫現在是Github上排名前20的最有名的儲存庫,擁有超過4萬顆星和18700個請求。事實上,這樣驚人的實用程式是人工智慧和機器學習的世界性標誌之一,現在它能公開可用是一個相當大的進步。

上一篇:大廚總說“豬肉忌花椒,羊肉忌大料”,原來有這層學問,長知識了
下一篇:女兒最愛這道菜,粉糯可口,好吃又下飯,一盆不夠吃,天天吃不厭