EMアルゴリズムと独立成分分析

について勉強した。

EM（Expectation-Maximization）アルゴリズムというのは不完全データからの最尤推定法の一種。なんかどこかで聞いたことあると思ったら前にバイオインフォマティクスで隠れマルコフモデルをやってたときに出てきていた。最尤推定ってやつも同様。ほとんど忘れていたけど、前に苦労しただけあって今回は理解が早かった。EMアルゴリズムの応用例はたくさんあるみたいで、強化学習とEMアルゴリズムを組み合わせた研究もあった。

独立成分分析（Independent Component Analysis: ICA）は聖徳太子が１０人が同時に話すのを正確に聞けるとかいうやつ。混ざった１個の信号から元の１０個の信号を復元するとかそういうものらしい。最初、聞いたときそんなこと本当にできるのか、部分の和 != 全体、全体が分かったって部分をそう簡単に復元できるはずない、そんなことできたら複雑系の研究なんて楽じゃないかとか、そんなこと思った。

案の定、というか題名に独立とついていることからも明らかなように、部分は独立しているという条件が課せられていた。複雑系やマルチエージェントとかは部分が独立しておらず相互作用しているからICAは適用できない（はず、ってか信号じゃないと無理っぽい）。独立という条件がついていても応用は広いらしく、応用例はたくさん見つかった。