ディープラーニングセミナー2015(名古屋)に行ってきた。


セミナー資料は後ほど公開されるそうだ。(追記、資料が公開された。後述)

覚え書きまとめ。
・CPUに比べてGPUの演算性能の進化が著しい。
・NVIDIAのGPUはゲーム用に作ってきたが、ディープラーニング需要が増えてきたので、ディープラーニング向けにハードやソフトを開発している。
・ディープラーニングにはGeForceのTITAN Xとか売れている。次のPascal世代のGPUはディープラーニング向けに単精度計算などの機能が拡張される。
・車載や組み込み用にはTESLAというチップを搭載したキットを用意している。信頼性確保のためにメモリのECCを使っている。今後はGPU内部のレジスタや一時メモリにもECCを使って、信頼性を上げていく。
・ディープラーニングの処理で重たいのは入力の畳み込み計算と、全ニューロン素子を通した演算をする部分。これらの処理は行列演算で処理できる。(DSPで積和演算というのを思い出した)
・行列演算をCUDAで行うための高速なライブラリを公開している。ディープラーニングの学習とか他の様々な処理に特化した高速なライブラリも公開している。
・ディープラーニング用のソフトのCaffeやChainerなどのソフトは上記のライブラリを使って開発されている。ChainerとかはPython用。データエンジニアリングにはPythonがいいらしい。
・用途としては画像の認識で自動運転用の歩行者判定などがいけてるらしい。他にも音声認識やいろいろな分野で使われている。

昔、大学生の時に同じ研究室の同級生がニューロの研究を卒業研究でやっていて、発表とかを聞いたのを思い出した。
そのころはニューロは出力が大丈夫だという保証がない不安定なものだから普及はしないだろうと言われていた気がする。最近の事情を聞くと、実戦で実力が証明されていて理論的に絶対に安全かどうかは誰も気にして無さそうだ。
画像認識で写真等で動物の種類の判定などをすると人間の手作業の認識率が95%程度で、ディープラーニングだと今ではそれを上回る性能が出ているのだとか。

—
追記

今回のセミナーの資料が公開された。
・NVIDIAセミナー　ディープラーニングによる画像認識と応用事例
・エヌビディア GPU が加速するディープラーニング
・車載組み込み用ディープラーニング・エンジン NVIDIA DRIVE PX
・ディープラーニングフレームワークChainerの紹介と分散深層強化学習によるロボット制御
・なぜGPUはディープラーニングに向いているか