人工知能に関する断創録

人工知能、認知科学、心理学、ロボティクス、生物学などに興味を持っています。このブログでは人工知能のさまざまな分野について調査したことをまとめています。最近は、機械学習、Deep Learning、Kerasに関する記事が多いです。



EMアルゴリズムと独立成分分析

について勉強した。

EM(Expectation-Maximization)アルゴリズムというのは不完全データからの最尤推定法の一種。なんかどこかで聞いたことあると思ったら前にバイオインフォマティクスで隠れマルコフモデルをやってたときに出てきていた。最尤推定ってやつも同様。ほとんど忘れていたけど、前に苦労しただけあって今回は理解が早かった。EMアルゴリズムの応用例はたくさんあるみたいで、強化学習とEMアルゴリズムを組み合わせた研究もあった。

独立成分分析(Independent Component Analysis: ICA)は聖徳太子が10人が同時に話すのを正確に聞けるとかいうやつ。混ざった1個の信号から元の10個の信号を復元するとかそういうものらしい。最初、聞いたときそんなこと本当にできるのか、部分の和 != 全体、全体が分かったって部分をそう簡単に復元できるはずない、そんなことできたら複雑系の研究なんて楽じゃないかとか、そんなこと思った。

案の定、というか題名に独立とついていることからも明らかなように、部分は独立しているという条件が課せられていた。複雑系やマルチエージェントとかは部分が独立しておらず相互作用しているからICAは適用できない(はず、ってか信号じゃないと無理っぽい)。独立という条件がついていても応用は広いらしく、応用例はたくさん見つかった。