List

It’s interesting to see that the number of attendees grow sharply in the past few years — especially those from the industries. It might be due to the reason that the advanced technologies might be in the tipping point that will impact the products now and soon. There have been numerous cornerstone works published in the topic conferences. For example, AlexNet (NIPS’12), ZFNet (ECCV’14), NIN (ICLR’14), VGG (ICLR’15), GoogleNet (CVPR’15), ResNet (CVPR’16), RCNN (CVPR’14), DQN (NIPS’13), GAN (NIPS’14), Memory Network (ICLR’15), Word2Vec (ICML’14), Seq2Seq (NIPS’14), etc.

今天早上Facebook的研究員Laurens van der Maaten 到 IBM Watson 研究中心,分享他們如何設計低錯誤率(宣稱完勝ResNet)以及有效率的深度卷積網路,用來自動標註FB上的大量照片。相當有趣的研究工作,技術細節:Densely Connected Convolutional Networks ,也將發表在夏威夷舉行的 CVPR 2017,電腦視覺領域的頂尖國際會議(top conference)。

我觀察。這幾年,越有競爭力的IT企業,越在乎某些EECS領域的top conference (有機會再詳述)。甚至發表、贊助、或是派員參加。 國內的MediaTek、HTC也算是這些領域的常客。

這幾年Top Conference也成為產業界獵才、showcase、探察核心技術的重要地點。例如,過去一年NVIDIA在全球贊助了18個AI Lab,首度召開的跨研究中心會議,也選擇在今年七月的CVPR召開。很榮幸台大的NVIDIA AI Lab也貢獻了兩篇CVPR論文,有五位研究人員將參加這個另人期待的跨AI Lab聚會。

有次在跟NVIDIA黃董開會時,他提到自己也會follow這些top conference,想掌握前瞻技術的走向。

發表Top conference論文跟產業脫節?

多元的角度,讓我們更有機會不錯失下個機會。

2007年回台大時,受惠於前瞻思維的資深教授們(e.g., Ja-Ling Wu),我蠻驚訝EECS學院內竟然也有配套的多元指標,只要論文發表在top conference,能有全額的差旅補助(包括學生),升等的評鑑也是。

這也是為什麼台大CS這幾年在國際學術界中, 某些領域中還具有話語權的原因。部分領域我較熟悉的包括:machine learning, HCI, multimedia, data mining, speech, IR, computer vision, 等。其他領域也有相當耀眼的表現。

這幾年有幾位年輕的CS研究人員詢問top conferene跟期刊之間的取捨。我的建議是前者。因為這是CS領域的國際指標之一。 EECS的工作是跨國界的,讓自己的生涯有更寬廣的影響力、話語權、以及更多選擇的機會,是最好的投資。

這也是泛資料、機器學習領域的慣例,在評估學生(入學、就業)或是研究人員時,時常會參考Top Conference 的著作、Google Citation,產業經驗、或是新興的github紀錄。

也就是如此,時常有許多關於Top Conference的會外會,像是前些日子微軟研究院也在內地召開了CVPR 2017分享會。台北也有類似的小型活動,值得關注參與。

  Posts

1 2 3
July 18th, 2017

Drone-View Object Localization/Counting and Public Vehicle Dataset (CARPK)

July 2nd, 2017

Publications vs. Industry Needs (發表學術論文跟產業脫節?)

June 9th, 2017

Team management, productivity, and appreciation

June 1st, 2017

Practical advises for embracing AI-savvy products (Hosting AI Forum in InnoVEX 2017)

May 24th, 2017

Image to Poetry — 看圖造新詩

May 15th, 2017

島內AI的隱形驅動力

前陣子協助 天下雜誌 副總編輯 Yi-Shan Chen 完成AI專輯 [AI全面啟動Ⅰ:科技島國的翻身契機]。 我在紐約,這段時間,Yi-Shan透過FB的訪談跟資料詢問,我感受到她的焦慮,急著摸清楚這個浪潮的來龍去脈,以及我們該做的、或是已經做到的。 初稿完成,正如Yi-Shan所說的,她不那麼悲觀了。或是說我們也沒有悲觀的權利。 我的觀察。 2016年初開始,國內幾家領先企業也開始注意到AI(深度學習)浪潮可能對公司的影響。已經開始研究如何在既有的核心業務上善用這些前瞻技術。 這不是將開源的類神經網路拿來使用就好、或是付費API可以全然解決。首先產品需要的偵測/辨識的項目跟benchmark資料完全不同、產品大部分是multi-label的問題而不是大家常討論的multi-class、訓練資料的取得跟缺乏、應用場域資料型態差異、學習model的參數過大、耗電、運算時間、或是在使用者端自動調適學習等。產品佈建跟論文討論的範疇有著相當大的差異。 領導者(執行長、董事長)的決心是最關鍵的問題。因為引進新的機器學習paradigm之後,牽涉到資源配置、薪資結構、產品pipeline(如使用者資料收集、AI引擎的更新)、新產品的定位等,需要很大的決心。 缺乏深度學習技術的研究人員是第二個問題。在協助幾個團隊之後發現,台灣的數理教育品質相對優良,理工科碩士論文要求對於前瞻的研究是很有幫助的。 在組織具有某些特質的工程師之後,透過適當的做中學、學中做的過程,還有我們十幾年在影像/視訊上成功跟失敗的經驗,是可以逐漸訓練出內部深度學習基本研發團隊、也能適性地將技術調整到適合的產品線上。 目前已經看到這樣的技術成果用在解決監控系統上常見的誤判的問題、照片標註、辨識、自動分類、edge端的精簡深度學習模型、或是利用各種感測器、攝影機進行未來事件預測等。甚至有些已經上線進行A/B test,交付給客戶的PoC、或是取代原本沒效率的人工分類等。 在這次的訪問當中,也將這幾個領先企業介紹給天下雜誌,但是因為公司內部的marketing跟財務時程,還不能公開披露目前的結果。 我們不選擇悲觀、抱怨、譏笑。許多團隊,也早就捲起袖子為企業帶來更具有競爭力的AI(深度學習)能力,開啟新的產品思維,如同全球企業忙著乘著巨浪向前。也感謝 天下雜誌 […]

May 10th, 2017

Quick and incomplete observations from GTC 2017

May 9th, 2017

2017 Microsoft Research Asia Collaborative Research Project Granted

April 25th, 2017

NVIDIA AI Lab 及 台灣大學通訊與多媒體實驗室(CMLab)徵博士後/專職研究助理 (深度學習相關研究)

April 17th, 2017

How to invent the nXet great thing? 創意如何延伸發想?