コンピュータはしろといわれたことしかできない

ゲーデル、エッシャー、バッハ―あるいは不思議の環 20周年記念版

この本に次のような文章があった。

「コンピュータはしろといわれたことしかできない」というふるい金言があるが、これはある意味で正しいけれども、次の点を見逃している。「コンピュータに『しろ』といったことの結果は、あらかじめわかってはいない。」だからコンピュータの行動は、人間の場合と同じように不可解、驚異的かつ予想外である。

p.308

この「コンピュータはしろといわれたことしかできない」という考え方は、チャールズ・バベッジと一緒に解析エンジンの研究をしたエイダ・ラブレイスの備忘録にはじめて登場し、その後、広く伝わったらしい。

著者のこの主張は私も考えたことがある。以前、人工知能に関する講義のレポートで

主張1「計算機が知的なはずがない（P1）．だって，プログラムされたことしかできない（Q1）のだから」Q1は正しいか？Q1はP1を含意するか？

という課題が出た。このとき、上の引用と全く同じ考え方を持ち出して、「計算機はプログラムされたことしかできないが、その結果はプログラマには予想もつかないことだから知的な動作をすることはありえる」と書いたのを思い出した。

人工知能はまさにその通りで、決定的なアルゴリズム（しろといわれたことしかしない方法）で、非決定的な動作（しろといわれないこともする人間の知能）を何とか生み出そうとしているように思う。何か矛盾しているようにも感じるが興味深い。