ニューラルネットワークの特徴表現学習をTensorFlow Playgroundで垣間みる

ニューラルネットワークが特徴を学習する様子が、Machine Learning with TensorFlow on Google Cloud Platform Specializationで紹介されていた。

まずは入力x1, x2を用いて直線で分類する。 f:id:ihiroky:20181113223316p:plain

円形のデータセットに対して入力x1, x2を用いると直線では分類できない f:id:ihiroky:20181113223429p:plain

ここで、入力をx1 * x1, x2 * x2に変更してみると、円を描けるようになるので分類できるようになる。これは特徴を事前に設計しておく例。 f:id:ihiroky:20181113224434p:plain

でもニューラルネットワークを用いると事前に特徴を設計しなくともそれ自体が特徴を学習し分類できるようになる。特徴表現学習の例。 f:id:ihiroky:20181113225536p:plain

同じようにうずまき型のデータセットに対してもニューロンと層をガッツリ増やせば時間はかかるが分類できるようになることが視覚的に理解できる。トイプロブレムだけど特徴表現学習を垣間見れる面白いサンプルだと思う。