こんにちは！ほけきよです٩( ᐛ )و
今回は、ICLRとICMLのタイトルを集めてきて、最近の機械学習界隈の流行を見てみよう！という企画です＼(^o^)／ あとは、自分の興味のある強化学習にすこしフォーカスしてみます。
ICLRとは
- International Conference on Learning Representations
- 次が4回目
- 表現学習、生成モデルなどが多く、はやりのGANやVAEなどをよく扱っている
- 2017年 4月24～26、フランスで開催
- ICLR HP
最近論文が公開されました。 ICLRでは、投稿された論文をすべて見ることができますlink
今回はICLRについては
- 全体での最新の流行
- 強化学習内の流行
が見えるかどうかやってみることに
ICMLとは
- International Conference on Machine Learning
- 2016年で33回目
- 純粋な理論の論文は少なく，実験は重視される傾向にあり(一方で、NIPSは理論が重視される)
- 次回は8月シドニーで
- ICML HP
ICMLについては
- 3年間の流行の変遷
が見えるかどうかをやってみることに。
え？何で時期でもないのにICMLかって？他のサイト*1よりスクレイピングが簡単だったからだ言わせるな恥ずかしい！
手順
- 論文が保管されているページのリンクをゲットする
- スクレイピングを走らせてアブストだけ貯める
- HPに行き、
ctrl+Uで要素検証 - beautifulsoupでタイトルを抜き出す
- HPに行き、
- ワードクラウドにぶちこんでみる
- そのままwordcloudモジュールにぶち込む。
- テキストさえ用意すればさっきのgithubのexample )がほとんど使える
なので、どういう論文が投稿されているかをまとめてワードクラウドにしちゃおう！
というわけです。
ワードクラウドとは？？
ワードクラウドとはテキスト*2を入れるだけで、いい感じに流行りの言葉を可視化してくれる凄いやつです。
githubに使い方と使用例が載っています。英語がほんのちょっと読めればそんな難しくないです。
結果 ICLR編
全体の流行
Deep強し。といったところですが、
- Generative
- Adversarial
- Network
とくれば、GANですし
- Variational
- AutoEncoder
とくればVAEですね。さすがは表現学習系の国際学会。深い生成モデルが多そうという印象。*3
強化学習の流行
うーん、なんともこれだけでは難しいなぁ。。。
強化学習の流行その2
ReinforcementとLearningは除外してwordcloudに。
- Hierarchical
- Actor Critic
- Agent とかはちょっと興味あるかも。
あとは個人的にsampleとか気になる。効率的にサンプリングする方法とかかな？
結果 ICML編
3年分の変遷を観てみましょう(LearningとModelは消したら良かったかな？)
- 2015年は変分推論(variational inference)が流行ったっぽい？素人なのでよくわからないが存在感を放っている
- 2016年になってsparseという文字が現れる。sparse modelingとかそのあたりっぽい
- NetworkとDeepが年を追うごとに存在感を増してきていて面白い。
2014年
2015年
2016年
まとめ
ワードクラウド、こうやって集めて眺めているだけでもいろいろ発見があったりして面白い。 ホントは各論文の概要のあたりまで持ってこれればよかったんだけど。。もっと技術力つけます。
生成モデルは今後流行るとおもうので、ICLRはチェックしておいてもいいかなとおもいます。
あと、GANとかVAEのこととか書いてある本ってないですよね？あればだれか教えてください～～
ではでは٩( ᐛ )و
