人間風車

2002/07/18(木)
【ローカルミニマム】

ぼくはどっちかというと集中力より分散力
(by糸井重里)のほうがあるみたい。
一つのことをじっくりやると、どーもローカルミニマムに陥って、
くどくなったり、わかりにくくなったり、複雑になったり、
細かくなったりしすぎてしまう。
いくつかのことを平行してやってるときのほうが、
外から見る視点が確保できて、全体像をうまく把握できる気がする。
ということで、今、やっかいなプロジェクトを二つ平行して進めている。
どっちもまじめに一生懸命考えないといけないプロジェクトなので、
この時間(朝の5時)などは、頭がパンクしそうになる。
人工知能が学習を進める際にも、
このローカルミニマム(局所解)の存在が問題になる。
人工知能は、自律的に学習し、学習の精度を高めていくシステムである。
今行った修正(状態の遷移)がイイ線いってたのかどうか判断するために、
たいがいのモデルでは、エネルギー関数を利用して評価する。
つまり修正した状態のエネルギー状態が、
修正前より低ければ学習が進んだと評価するわけだ。
数学が苦手な人向けには、
こういうイメージのほうがわかりやすいかもしれない。
今、あなた(人工知能)は目をつむって平地を歩いている。
平地といっても山あり谷(穴)ありの凸凹した平地だ。
あなたの目的は、穴(エネルギーが最も低い場所)を探し出すことです。
しかしあなたは目隠ししているので、直接地形を見ることができない。
そこで、あなたはこういうことにする。
まず一歩足を差し出してみる。
そこが後ろ足より低い位置になっていれば、
それは穴に向かっていると考えられる。
逆に後ろ足より高い位置になっていれば、
山に登っていると考えられる。
もし、前者ならそのまま足を進め、もし後者なら足をひっこめ、
別の方角に足を伸ばしてみる。
この単純な判断を繰り返すことで、
あなたはどんどん穴の方に進んでいく。
そして、一歩踏み出したところが、
直前と同じ高さになったところに行き着くと、
そこが穴の底、つまりゴールということになる。
ところがここでひとつ問題がある。
この平地、穴が一つとは限らないのだ。
穴が一つなら、今あなたがたどり着いた穴の底がゴールになる。
しかし、穴がたくさんある場合は、
そこが一番深い穴かどうかわからない。
つまりある程度正しい答えかもしれないが、
一番正しい答えとは限らないということになる。
これをローカルミニマム(局所解)問題という。
こうした問題は、人工知能だけでなく、我々にもよく起こる。
ある考えがひらめくと、それがイマイチなアイデアだと自覚できても、
それに取り憑かれて、
新たな発想ができないなんてことはしょっちゅう体験する。
さて、人工知能の場合、この問題をどう解決しているのか。
実のところ、最善策は見つかっていない。
じゃあ、あたしはどうしているかというと、
ローカルミニマムに陥らないように、他ごとを考えたり、
メモリーをゼロクリアーしたりするように心がけている。
これはある意味、人工知能においても有効な手段かもしれない。
ただ、こうした方策は、「逃避」と相性が良すぎることが問題だ。

« オスが求めてメスが選ぶ | | 下の毛 »