未分類

PRML

お久しぶりです.

毎日数アクセスあってコンテンツのなさに呆れて帰っている様子が目に浮かんで心が傷んでいますww

学校が夏休みに入ったのでひたすらいわゆるPRML,「パターン認識と機械学習」という機械学習におけるバイブルを読んでいます.

Bengio先生のWeb教材で学んでも能力はつくと思うのですが,執筆途中ということもあり読み終わったと思った章に加筆されたりと,若干使いづらくなってきたのでPRMLに移りました.

現在は上巻を読み終わって下巻の6章,「カーネル法」に入っています.

上巻にはニューラルネットワークの章があり,Deep learningへの足がかりはつかめたと思っていますが,一応下巻まで読み通そうと思っています.

というのは先日たまたまDeep learningの研究をされている院生の人とお話する機会があって,「Deep learningだけ理解できます,と他の研究者に言ったら流行りものばかり追うミーハーと思われる」と言われたためです.

僕は研究者レベルまで行こうとは(行けるとは)思っていませんが,視野を広げるためにも必要と納得しています.

PRMLは理論的なお話がメインで一切実用的なコードは出てきません.

しかし,理論が理解できればコードに落としこむのは些細な事柄を除いて(演算に伴う誤差をどう減らすかとか,コードを走らせるマシンのOSは何にするかとか,GPU計算の特殊性とか)問題は発生し得ないので十分かと思います.

数式は線形代数と解析が学部教養レベルあれば付録と合わせて読み進められるレベルになっています.

序盤(1~2章)はかなり式展開が丁寧で,演習なんかはほとんど答えと思えるヒントが書いてあるので簡単についていけます.

それ以降は序盤ほど手取り足取りではありませんが,省略が少なく,あっても演習に回されていたりと教科書にありがちな「これは読者への課題とする」という文章は出てきません.

解答はwwwマークがついている問題は筆者のページで用意されていて,ついていない問題でも頑張ってググればオフィシャルの解答を発見することが出来ます.

僕の読み方としては,基本的には非自明な式は自分で導出しながら本文を読み進めていって,演習に当たればそれを解く,といった感じです.

演習は今は時間があるので全部取り組んでいます.

2章の計算なんかはかなりハードでした(まだ下巻にも難関が待っているらしいですね).

難しい問題になると1時間ほど考えてダメだった場合はWebの解答を見ています.

学期が始まったらおそらく簡単な問題以外はすぐに解答を見ることになると思っています.

よりよい方法があるならぜひ教えて下さい.

今は機械学習を使ったアイデアだけ浮かんできて早く実装したくて仕方ないのですが,しばらく辛抱していこうと思います.

広告

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト / 変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト / 変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト / 変更 )

Google+ フォト

Google+ アカウントを使ってコメントしています。 ログアウト / 変更 )

%s と連携中