プロクラシスト

みんなのProcrastination(先延ばし、回り道)を少しでも有意義に。

MENU

【機械学習】ICLR・ICMLのタイトルをワードクラウドにすると傾向が見えた

こんにちは!ほけきよです٩( ᐛ )و

今回は、ICLRとICMLのタイトルを集めてきて、最近の機械学習界隈の流行を見てみよう!という企画です\(^o^)/ あとは、自分の興味のある強化学習にすこしフォーカスしてみます。

ICLRとは

  • International Conference on Learning Representations
  • 次が4回目
  • 表現学習、生成モデルなどが多く、はやりのGANやVAEなどをよく扱っている
  • 2017年 4月24~26、フランスで開催
  • ICLR HP

最近論文が公開されました。 ICLRでは、投稿された論文をすべて見ることができますlink

今回はICLRについては

  • 全体での最新の流行
  • 強化学習内の流行

が見えるかどうかやってみることに

ICMLとは

  • International Conference on Machine Learning
  • 2016年で33回目
  • 純粋な理論の論文は少なく,実験は重視される傾向にあり(一方で、NIPSは理論が重視される)
  • 次回は8月シドニー
  • ICML HP

ICMLについては

  • 3年間の流行の変遷

が見えるかどうかをやってみることに。

え?何で時期でもないのにICMLかって?他のサイト*1よりスクレイピングが簡単だったからだ言わせるな恥ずかしい!

手順

なので、どういう論文が投稿されているかをまとめてワードクラウドにしちゃおう!

というわけです。

ワードクラウドとは??

ワードクラウドとは何かは、見ればすぐにわかると思います。

ワードクラウドとはテキスト*2を入れるだけで、いい感じに流行りの言葉を可視化してくれる凄いやつです。

githubに使い方と使用例が載っています。英語がほんのちょっと読めればそんな難しくないです。

github.com

結果 ICLR編

全体の流行

Deep強し。といったところですが、

  • Generative
  • Adversarial
  • Network

とくれば、GANですし

  • Variational
  • AutoEncoder

とくればVAEですね。さすがは表現学習系の国際学会。深い生成モデルが多そうという印象。*3

f:id:imslotter:20161109000242p:plain

強化学習の流行

うーん、なんともこれだけでは難しいなぁ。。。

f:id:imslotter:20161109000425p:plain

強化学習の流行その2

ReinforcementとLearningは除外してwordcloudに。

  • Hierarchical
  • Actor Critic
  • Agent とかはちょっと興味あるかも。

あとは個人的にsampleとか気になる。効率的にサンプリングする方法とかかな?

f:id:imslotter:20161109000449p:plain

結果 ICML編

3年分の変遷を観てみましょう(LearningとModelは消したら良かったかな?)

  • 2015年は変分推論(variational inference)が流行ったっぽい?素人なのでよくわからないが存在感を放っている
  • 2016年になってsparseという文字が現れる。sparse modelingとかそのあたりっぽい
  • NetworkとDeepが年を追うごとに存在感を増してきていて面白い。

2014年

f:id:imslotter:20161109000315p:plain

2015年

f:id:imslotter:20161109000338p:plain

2016年

f:id:imslotter:20161109000356p:plain

まとめ

ワードクラウド、こうやって集めて眺めているだけでもいろいろ発見があったりして面白い。 ホントは各論文の概要のあたりまで持ってこれればよかったんだけど。。もっと技術力つけます。

生成モデルは今後流行るとおもうので、ICLRはチェックしておいてもいいかなとおもいます。

あと、GANとかVAEのこととか書いてある本ってないですよね?あればだれか教えてください~~

ではでは٩( ᐛ )و

*1:NIPSとか

*2:英文。日本分は品詞分解とか面倒な処理がいる

*3:GANについては、ちょっと近日中にまとめる予定です。