2層と3層の違い

昨日のパーセプトロンを拡張して、入力層8ユニット、出力層5ユニット、

入力        出力 
11000000    10000 
00111000    01000 
00001111    00100 
10101010    00010 
11001100    00001 

を学習する2層パーセプトロンを作って実験した。収束したのでうまくいったと思ったけど学習してなかった。この例題はよく見ると、3層パーセプトロンのものだったので、2層ではできないのだろうか。2層と3層では学習できる能力にどのような差があるのか、もう少し調べてみる。あと、線形分離可能は2次元なら直線で分割できるだが、次元がもっと増えるとどのようにすれば確かめられるのかわからない。数学でやったかな。明日は、3層パーセプトロンを実装してみる。