この記事はKCSアドベントカレンダー第15日目の記事です！

おはござー！おはござー！おはござー！

ぼく(リンク先:Twitter)自身の記事としてはおよそ1.5年ぶりとなります．12月も中程に差し掛かり学部3年ということもあって研究室選定で右往左往しております．

何かしら技術系の記事を書こうと思っておりましたが，そのネタはコミケ95での部誌に回すとしてここでは自分の1年間の自分語りにしようかと思います．オタク，自分語りしがち．

KCSはいくつかの班に分かれて活動しているのですが，ぼくはAI班とBlender班で主な活動を続けておりました．AI班自体の発足は結構前からあるようですが，ぼく自体がAI班に入ったのは今年度に入ってからですので，おおよそ9ヶ月程度の機械学習を学び始めてから経つことになります．

9ヶ月前までは二進も三進もわからなかった状態から，どのように機械学習の勉強を続けていったのか，その過程を共有することで，同様の立場にいるような人(いるのか？)の助けになれば幸いです．

機械学習関連以外のことは灰色で示しました．

勿体ぶる必要もないので時系列順にやったこととその感想とかを紹介します．

3-4月 Python機械学習プログラミング

Amazon

まず第一に，技術書を買った際に自分の手ですべて実装することを目標にしました．何かしらの言語を学ぶ際に，何に応用できるのか，これを覚えて何になるかといった視野を持つことにしています．C++を学ぶ際，クラスやオブジェクト指向，C++11のshared_ptrといったとっつきにくい概念から，どのように実活用されるかなどが全く把握できず仕舞でせっかくのプログラミングに対してやる気が全く出ずに，そのうち習慣が自然消滅してしまうといったことが多々あります．ぼくの場合には「機械学習」を学び「Webアプリケーション」を作りたい．スキルを活かせる「バイト」をしたい等，の目標を定めました．

この本では，機械学習で使われるSVMだとかK-meansだとかのアルゴリズムをある程度網羅的に，なおかつコード量も豊富に記載されており，Pythonと統計学，機械学習を万遍無く学べる良い本でした．無から有を生み出せそうな良書です．

また，TwitterのFF内間で日報/日記を付けるムーブメントが流行っているように見えたことから便乗して，ぼく自身もこの時期から日記/ブログをつけ始めることにしました．

進捗だめです

他人に見せるという体で学んだことをまとめ上げるという行為は，

• 知識を言語化することで学習の反芻を行え，知識の定着が向上する
• 他人に見せるための文章を書くことで，自己完結しない知識の表現方法を行える
• 他人からも「○○ちゃんのブログは為になるなぁ！」とかレスポンスが貰えて習慣化が期待できる

といった役に立つことが盛り沢山だとおもいます．なのでこれを見ている皆さんも日記を付けてください．付けなさい！付けろ！！！

3-5月 Coursera

皆さんはCourseraというサイトを御存知でしょうか．

 

…では，AIdemyという動画教材による学習サービスサイトは聞いたことはありますでしょうか．

 

…

おそらくAidemyなら聞いたことがあるという方が多いのではないのでしょうか．

国内では個人的にはあまり聞かないの(僕主観ではの話を国家レベルに拡大するな)ですが，動画で学習ができて，なおかつ，時たま出されるプログラミング課題に回答して，全講座を終了させることで，修了証を貰えてLinkedIn等のサイトそれを貼ることで俺ツエーできる様になるというサイトです．動画講座自体は無料で閲覧することが可能であり，実際に演習を行うという場合でも月間6000円弱でコース内の全教材が利用可能となります．

同期で同じクラスのモヤシ炒め界の申し子でUCDavisのK氏がやってたことに便乗してAdvanced Machine Learning Specialization という全40週弱ある講座を申し込みました．しかし，大学が始まった事による忙しさの変化により，思うように進められなくなってしまったため途中で断念しています．しかしながら，機械学習の実力(と，あわよくば英語力)を身につけるには最適な教材です．一回の動画が10分前後で終わるため，空いた時間を有効的に活用ができ，講座数も豊富です．機械学習以外でも制御工学やWebデザイン，VR開発まで非常に多岐にわたります．なかには大学のDegreeなどをも得られるような本格的な講義まであります．

Courseraに関する記事は，上のK氏もロ技研のアドベントカレンダーにて学習方法等を共有しています．細かい学習方法など，具体的な環境の揃え方などに興味がある方はこの記事を参考にしてみてください．

4-7,9-11月 Ian Goodfellowの深層学習邦訳版

2018年度は，KCSの方針で週に2度ほど集まって，片方はゼロから作るを頭から読んでいく会(初級者向け)と，Ian Goodfellowの深層学習や各種論文を読んでいく会(上級者向け)を開催していました．

前者の方はおおよそ無難な結果で終わることができたのですが，後者の方は読み込み始めてからこの本が上級者向けなどではなく人智を超越した神とそれに匹敵する最強GAN制作おにいさんしか理解できないような代物であることに気付きました．

 

平平凡凡である僕は開いては悶え開いては悶えを繰り返し，全く先に進めずじまいでした．(げに今もそうなのですが．)しかし，間違いなく知識の得られる量としては日本語文献では抜群に豊富のような気がするため，これを理解さえできればおおよその深層学習の基礎については分かったと言い張れるだろうという自信がつきます(ということにしておきます)．

4-7月 ゼロから作るDeep Learning ①

内容に関する評価は10万部のセラーを記録したため探せばいくらでも出てくるため文が拙い僕が書くのもアレなので省略します．

KCSでは毎年(といっても先輩いわく2015年ごろからの習慣で)新入生向けの講習会を4-6月にかけて開催しています．その講習会の教材として活用しました．

実装レベルから，Adam等のオプティマイザの説明，CNNの構造まで詳しく説明されており，説明も概ね分かりやすかったです．次年度以降のAI班の活動方針は僕の手中でもないので知る由もないのですが，もし「教科書を作る」となった場合には非常に参考になるのではないか．というような良書です．

8-9月 パターン認識と機械学習

　　　　その日、人類は思い出した。
　　　　ベイズに凌辱されていた恐怖を。
　　　　頻度論の中に囚われていた屈辱を。

　　　　Seid ihr Frequenztheorie? Nein, wir sind der Bayesian!

ベイズに凌辱されました．

日記に日記とは思えない分量を書いたりしたので読んでください．

変分ベイズ(1) 変分ベイズ(2) 多項式回帰(1) 多項式回帰(2)

通年 論文輪読

KCSでは，学習の一環として，有志が集まって自分が読んできた論文をプレゼンにまとめて，知見を共有する回を行っています．

論文を読むことで，最新の知識を入手でき，多くこなしていくことで，論文の書き方や構成といったものがだいたい把握できて，将来の修論だとかを書く際に非常に参考になります．最新鋭の論文でも，Github等に本人の実装や他人による追実装等が挙げられており，写経するといっただけでも応用事例を実際にプログラムでき，最新鋭のアルゴリズムを手元のマシンで再現できるというのは，非常にモチベーションの向上につながるかと思います．

昨今，arXiv等には日に夥しい数の論文が投稿されています．その中から，読みたい論文を発見することは非常に困難だと思います．そこで，Twitter等を利用して他人の腕を借りて追いつくなど，周りの同士と共有して切磋琢磨できる環境を構築することは非常に重要となります．

これから

三田祭にて軽いWebアプリケーションを作った経験から，Web関連のことを学んでいこうかと思います．単一分野だけに留まらずに関連分野に目を向けて学習していきたいと思います．

また，KCS内でも本の輪読会を継続する声が上がっています．非常に嬉しいです．

リアルでも環境構築(特にデュアルディスプレイ)が重要なんだなと感じる一年であったとさ．完．

Posted on: 2018年12月15日, by : fgjiutx