NIPS 2012 （3日目）

NIPSの本会議も3日目。けっこう疲れてきました。
周りの参加者を見ても、自分の興味あるトピック以外は適当に休憩にとりながら、他研究者との交流を大事にしているようでした。

これまで見てきた感じだと、一口に機械学習といってもかなり領域が細分化されており、自分の専門の発表以外はプロの研究者にとっても理解するのはなかなか辛いものがあるようです。ただ、どんなことが行われているか概観をつかむ分には楽しいです。

Challenges for Machine Learning in Computational Sustainability
T. Dietterich (invited talk)
地球環境のエコシステムを維持するために機械学習を利用する話。地球規模でのセンサーの設置や膨大かつ多様なデータの解釈が難しい。絶滅危惧種の鳥のモニタリングなどで実験。

Augmented-SVM: Automatic space partitioning for combining multiple non-linear dynamics
A. Shukla, A. Billard
Dynamical systemのアトラクタを複数置く時に状態空間をどう分けるか。普通のSVMだと軌道の安定性が考慮されないので微分値を観測変数に加え、安定性を最適化の目的関数に加える。ロボットアームの物体把持実験がimpressiveでした。

Confusion-Based Online Learning and a Passive-Aggressive Scheme
Liva Ralaivola
マルチクラス識別器のオンライン学習で、confusionの数を最小化するように最適化を行う。分かりやすくて面白かったが、実データではまだ実験していないようで残念。

Privacy Aware Learning
J. Duchi, M. Jordan, M. Wainwright
機械学習で使うデータのプライバシーを考慮し、学習結果とのトレードオフを扱った研究。
プライバシーを扱った研究は他にもけっこうありましたが、手法的にどうこうすべき問題なのか、バックグラウンドの部分がよく分からず。

No voodoo here! Learning discrete graphical models via inverse covariance estimation
P. Loh, M. Wainwright
今回のもう一つのbest student paper。GMRFでは観測変数の共分散がグラフのパラメータに一致することがよく知られているが、これを非ガウシアンの分布の場合へ拡張。

Co-Regularized Hashing for Multimodal Data
Y. Zhen, D. Yeung
マルチモーダルなデータのハッシング手法。DCとboostingの組み合わせで効率の良いハッシュ関数を学習。

Large Scale Distributed Deep Networks
J. Dean, G. Corrado, R. Monga, K. Chen, M. Devin, Q. Le, M. Mao, M. Ranzato, A. Senior, P. Tucker, K. Yang, A. Ng
Googleの発表。著者の数がすごい(笑)。大規模クラスタ上でSGDやL-BFGSを用いてdeep networkを学習するアルゴリズムを改良。

Variational Inference for Crowdsourcing
Q. Liu, J. Peng, A. Ihler
クラウドソーシングにおいて、信頼できないワーカーの影響を排除する。グラフの推定の問題に落とし込み、変分法を適用。
今日は他にも変分法の話が多かったです。

Visual Recognition using Embedded Feature Selection for Curvature Self-Similarity
A. Eigenstetter, B. Ommer
Co-occurrenceやself similarityなど2次の統計量は特徴として強力であるが、次元数が大きくなるのが問題。本手法では、次元を落としつつ精度を出す工夫をする。