機械学習
クラスタリングは概念形成 異常値検出は注視 相関ルール抽出は連想記憶 と置き換えてたりする。後者の研究で前者のアルゴリズムを使ったりしてないものか。
X: 何かを勉強しているときはいい気分。でも知識を得るって本当に退屈なプロセスね。とくに徹夜で試験勉強したときなんて。それにどれだけ覚えているかも不確かだし。K: これも人間の知能の弱点だ。コンピュータなら簡単に、しかも敏速に知識を共有できる。…
学習するシステムは本当に使いやすいか？学習してユーザーに適応するシステムは便利なのかただのお節介なのか？ちょっと自分で考えた例を挙げてみよう。 仮名漢字変換の学習で候補の順序が変わる ワープロソフトの仮名漢字変換はユーザがよく使う言葉が上の…
私は数年前から学習システムというのに漠然と興味を持ってていろいろ調べてた。学習ってのはエージェントに必須な機能の1つだ。 適応インタフェース（2004/1/9） パーソナルライブラリアン（2005/5/9） 学習システムが本当に使いやすいか？というのはいろい…
ニューラルネットによるパターン認識（2005/5/5）の続き。nn_escape.jarニューラルネット（3層パーセプトロン）を使ったサンプルプログラムを書いてみた。ニューラルネットへの入力はエージェントの周囲9マスの状況（敵がいるかいないか）で出力は逃げる方向…
人間は本来、記録を残したがる性質を持っているのだろうか？日記、写真、ホームビデオはもちろん近年のブログ人気もそれを示している感じがする。かくいう私も記録を残すのがすごく好きなメモ魔だ。恋するプログラム（2005/5/7）に 別の機会に書こうと思うけ…
ニューラルネット（3層パーセプトロン＋誤差逆伝播法）を使ったパターン認識のサンプルプログラムを書いていた。パーセプトロン（2002/6/20）、2層と3層の違い（2002/6/21）、以来ほぼ3年ぶりにニューラルネットのサンプルを書いたのだけど1度プログラムする…
ヒューマンインタフェース（Human Interface : HI）関係のレポート書くので題材探してた。最近のHI研究は、ポストGUIとして、拡張現実、ユビキタス、ウェアラブルみたいな実世界指向が流行ってることがつかめた。つまり、画面の中の情報世界から実世界を対象…
最近、書きたいと思うことのネタが切れてきた。去年に比べて人工知能関係の本（ネタになりそうな本）を読まなくなってきたのが原因。最近、面白かったこと書きたいと思う。 JSP/サーブレット Javaは一番よく使う言語だけどサーバーサイドといわれるのはほと…
について勉強した。EM（Expectation-Maximization）アルゴリズムというのは不完全データからの最尤推定法の一種。なんかどこかで聞いたことあると思ったら前にバイオインフォマティクスで隠れマルコフモデルをやってたときに出てきていた。最尤推定ってやつ…
今日の予定の２つ目。ボルツマンマシンについて勉強した。ボルツマンマシンはニューラルネットワークの１種。パーセプトロンのような階層型ネットワークではなく、相互結合型のネットワーク。最初、パーセプトロンの拡張だと思っていたせいでなかなか理解で…
ニューラルネットと記号処理（2002/6/20）とかいう題で考えたことの記録があった。ニューラルネットと記号処理を結びつけるような研究は行われているのか？という疑問だったのだが行われていることがわかった。今、「記号とパターンの統合」という授業を取っ…
は並列分散遺伝的アルゴリズムと呼ばれている。GAも複雑な問題では計算に膨大な時間がかかることが問題点となっている。日経サイエンス2003年5月号に「発明家に追いついた遺伝的プログラミング（GP:Genetic Programming）」という記事が載っていた。この記事…
強化学習の並列化を行っている研究（昨日の）はテーブル形式の状態行動空間（Qテーブル）を各プロセッサに分割する方法が取られている。しかし、状態行動空間が巨大な場合はテーブル形式で表すことはできずニューラルネットなどを用いて状態を汎化する方法が…
ニューラルネット（NN）と遺伝的アルゴリズム（GA）と強化学習（RL）は何か関係があるのだろうか。全部同じようなことができる、全部ロボット学習に使われている。どれがどんな場合に優れているとかあるのだろうか。ニューラルネットは教師あり学習だと思っ…
の強化学習に関する論文を読み始めた。が、意味があまり（全然だったりして）よく分からない。何か日本の論文とは傾向がまるで違う。もっと、理論寄りで数式がだらだら出てくる。これが一流誌なのだろう。図書館に全巻ないので、上のサイトのPDFを使おうと思…
教師あり学習にもいろいろあって全然書き足りないが、さっさと教師なし学習にうつる。教師なし学習はその名の通り教師がいない！つまり、例や正解を教えてくれる人がいないのだ。じゃ、機械はどうやって学習すればよいのか？教師がいなけりゃ、試行錯誤の独…
機械学習には、2つのタイプがある。1つ目は教師あり学習、2つ目は教師なし学習である。教師あり学習にもいろいろなタイプがあるが、共通しているのは教師が例を与えることによって機械に学習させるという点である。この学習の目的の一つに分類がある。これは…
知識獲得と学習シリーズ1巻からの引用。 論証（今では演繹とよんでいる）を通じて科学的知識を獲得することは、根源的直接命題を知らない限り不可能である・・・われわれは帰納により根源的命題を知らなければならない。なぜならば、知覚ですらも帰納により…
機械学習関連の本（2002/8/1）の続き。機械学習に関して大分見通しがよくなってきた（が卒論の見通しはよくない）。例からの学習（つまり帰納学習）に関しての内容がほとんどだった。漠然としたイメージだったのが、アルゴリズムとしてがっちりしたものに変…
機械学習関連の本を探した。今のところ次の本を読む予定。知識獲得入門―帰納学習と応用 (知識獲得と学習シリーズ)作者: R.S. Michalski,電総研人工知能研究グループ出版社/メーカー: 共立出版発売日: 1987/05メディア: 単行本 クリック: 2回この商品を含むブ…
記憶について調べているけど、実装としては、ニューラルネット的な方法が多い。そこで、ニューラルネットについての本をいくつか借りた。ニューラルネットワークアーキテクチャ入門作者: J.デイホフ,Judith E. Dayhoff,桂井浩出版社/メーカー: 森北出版発売…
3層パーセプトロン（2002/6/24）の続き。パーセプトロンに関しては、何冊か調べてみて、ようやく（自分としては）整理できた。 単純3層パーセプトロン Rosenblattが提案した最初のモデルで、感覚層（S層）、連合層（A層）、反応層（R層）の3層。S層とA層の間…
連想の情報処理モデルは海外と日本で同時期に出された（Nakano, Kohonen, Andersonなど）。その中で、日本の中野馨さんが提案したものはアソシアトロンと呼ばれる。ヒトの連想機能はまだよくわかっていないが、中野さんは連想を次のように定義した。 計算機…
2層を3層に拡張してANDを学習させてみたのだけど、全然収束しなかった。どこかにミスがあるはずだが、今のところわからない。それよりも、「パーセプトロン」の意味が本によって違うように感じる。入力層、出力層の間に隠れ層が入ったものは、3層パーセプト…
昨日のパーセプトロンを拡張して、入力層8ユニット、出力層5ユニット、 入力 出力 11000000 10000 00111000 01000 00001111 00100 10101010 00010 11001100 00001 を学習する2層パーセプトロンを作って実験した。収束したのでうまくいったと思ったけど学習し…
は非常に似ているような気がする。どちらも最適化技法だし、ニューラルネットの重み付けと選択・交叉・突然変異の過程は対応づけられそうだし、教師信号による重み変えは適応淘汰に対応していそう。また、局所最適解に陥ってしまうところも似ている。数学的…
ニューラルネットは、従来の人工知能が不得意としている分野、すなわちパターン理解、音声認識、類推、連想などを得意としているが、人工知能が得意としている記号処理は不得意と言われる。よって、従来の記号処理中心の人工知能とニューラルネットは相補的…
のプログラムを書いた。最も単純化をしたもの。データ構造をどういうふうに書くかなどよく理解できた。あとは、他のニューラルネットも同じような形で書くことができるし、実験もできると思う。GUIを使ったパターン認識も少し拡張するだけでできる（かもしれ…
今日、5月号の人工知能学会誌が届いたのでぱらぱら見てみたら、Web Intelligence という特集があった。武田英明, 知性のネットワークとしてのWWW―Webインテリジェンスに関する一考察―WWWは巨大な情報ネットワークであり、情報学のあらゆる分野（人工知能も含…
