ガウス過程

「明日の降水確率は、70%」。天気予報は、自信のなさを、数字で言ってくれます。

ところが、AIの多くは、これが苦手。知らないことでも、堂々と言い切ります。

話は、20世紀なかばの南アフリカ、金の鉱山から始まります。

金がどこに埋まっているかは、穴を掘って調べるしかない。でも、穴を1本掘るのは、高くつきます。

鉱山技師のクリーゲは考えました。数本の穴の結果から、掘っていない場所の値を、推定できないか。のちに数学者が、これを、「どれくらい当てにならないか」まで出せる理論に仕上げます。

考え方は、こうです。点を通る曲線を、1本だけ引くのを、やめる。ありえそうな曲線を、何千本も、同時に思い浮かべる。

測った点の近くでは、どの曲線も同じ所を通ります。束は細い。測っていない所では、曲線がばらけて、束が太くなる。

この束の太さが、「分かりません」の大きさです。

束の性格を決めるのは、ひとつの約束ごと。「近い場所は、似た値になるはず」。どのくらい近ければ似るのか。それを決める部品を、カーネルと呼びます。

これが何の役に立つか。次に測る場所を、選べます。束がいちばん太い所か、いちばん良さそうな所か。

この選び方が、ベイズ最適化。少ない実験で答えに近づく方法の、心臓部です。

日本でも、この流れをくむ方法が、半導体の結晶を育てる条件の調整などに使われた、と報告されています。

弱点は、データが増えると、計算が急に重くなること。点が10倍になると、手間は、ざっと1000倍。

少ない点なら得意。数百万点となると、近似の工夫が要ります。データが少ないときほど輝く、珍しいAIです。

ビッグデータの時代に、「少ないほうが得意です」と言い切る。この謙虚さ、見習いたいものです。

面白いことに、ニューラルネットワークを、無限に幅広くすると、数学的には、このガウス過程と同じものになる、と示されています。

派手なAIの奥に、地味で正直な数学が、座っている。

知っていることと、知らないことの、境目を知っている。それは人間でも、なかなか難しいことです。

次に、誰かが自信満々で言い切っていたら、聞いてみてください。「その束、太くないですか」。