人工知能をどう考えるか
人工知能についてどういう風に考えるべきかということをときどき考える。人間の仕事を奪うとか、人間には思いもよらないような解決の仕方を発見するとか、あるいは人間の存亡を脅かすのではないかなど、いろいろな語られ方をしているが、そのどれもが自分にはいまいちピンとこないような感覚があった。人工知能に対する懸念を表面する人間としてしばしば取り上げられるのはビル・ゲイツとホーキング博士、イーロン・マスクの3人だろうか。少し調べてみたところ、どうも彼らの懸念の根拠になっていそうなのがニック・ボストロム（Nick Bostrom）の"Superintelligence"（未邦訳）で、これは去年手に入れて初めの何ページかを読んで以来、止まってしまっている。副題が”Paths, Dangers, Strategies”（経路、危機、戦略）であることからもわかる通り、人工知能の危険性を意識していることが伺える。邦訳がまだないということもあってか、GoogleやTwitterで検索してもこの本に言及したり考察したりしている記事をほとんど見つけることができない*1。
言葉の中身が明らかでない
しばしば指摘される点であるが、そもそも「人工知能」（artificial intelligence）といわず「機械学習」（machine learning）という言葉を使った方が中身がわかりやすいし、変な誤解を招かずに済む。もっと言えば機械学習のどの手法を使っているのかまで明示した方がいいだろうと思う。これは人工知能の件に限ったことではないが、一般に何かについて語る場合、たとえ専門用語であっても固有名詞はなるべく使った方がいい。それを見てもし気になった人がいれば、その人はその言葉をググることが簡単になるし、関心のない人はスルーすればいい。ネット以前の世界よりは言葉の意味を調べることのハードルは下がっている。話の筋を戻すと、世間で「人工知能」と呼ばれているものの実態は、機械学習の分野の中の特定の手法を指すことになる。最近では特に深層学習（deep learning）を指すものも多いだろう。深層学習以外にもサポートベクターマシン（SVM）、ボルツマンマシン（BM）など、ひとくちに機械学習といっても手法はいくつもあり、映画やアニメやマンガに出てくるような、人間に似た姿形をしたロボットや画面に文字が表示されるだけのコンピュータといったものは人工知能の本質とは関係がない。人工知能について考えるときにそういうものをイメージするよりは、機械学習とはどういう考え方で成り立っているものなのかをまずは理解する方がずっと建設的ではないかと思う*2。
残念ながら人工知能の基本的な考え方というのは一定の数式を使わなければきちんと理解することはできないため、専門的な内容としてテレビや雑誌などではあまり踏み込んで解説されることがない。松尾豊『人工知能は人間を越えるか』や大関真之『機械学習入門』、『アルファ碁はなぜ人間に勝てたのか』などなど、数式なしで人工知能なり機械学習なりの内容を解説する本はすでにいくつも出ているし、その中には面白い本もあることにはあるが、一時の関心に止まらずに本質を理解しようと思ったら数式を理解することは避けられない。これがある種の敷居の高さとなって、人工知能とはどういうものなのかについて世間の人々が具体的にイメージすることを遠ざけてしまっている。しかしそういう考え方なりモデルなりについて知らないまま人工知能について考えることは、何か正体のわからない妖怪、怪物、あるいは宇宙人について考えるようなものではないか。原発について素人が抱くイメージとある意味では変わらないように思える。エンターテイメントとしてはそれでもいいかもしれないが、実際的ではない。
人工知能について、しばしば将棋やチェスで人工知能が人間のプロに勝ったことがテレビ番組や雑誌の特集などで取り上げられ、その影響は将棋やチェスに留まらず、タクシーや医療における診断、法曹における最適な判例の抽出と提示など、広く様々な分野へ多大なインパクトを与えるだろうと言われたりする。そういうときに「人工知能」という言葉で何が名指されているものはとてもぼんやりとしていてはっきりしないことが多い。さきほどと違う喩えを使うと、常人から見れば天才は何を考えているのかさっぱりわからないということと同じように見える。
例えば将棋の対局のときに羽生善治がどう考えているかを素人が見抜くことは難しいということと同じなのではないか。人工知能が中身の見えないブラックボックスとして、恐怖感を募らせているだけだとすれば、先ほども述べたがエイリアンなりモンスターなりを恐れているのと変わらないのではないか。本当にブラックボックスならばしかたないが、深層学習なら深層学習で、どういう理屈なのかということははっきりしているわけで、まずはそういうもののロジックを理解すればボックスの中身が次第に見えてくるだろう。
どのように問うべきか
どういうモデルなり考え方を使って人工知能が実現されているのかということに注意すると、「人工知能は私たち人間を脅かすのか」と問うのではなく、たとえば深層学習によって考えるということは、将棋の問題を人間が考えるということとどこがどう違うのかと問う方がよいのではないか。
人工知能が色々な領域で応用されていくとすれば、深層学習の考え方はそれぞれの領域でそれぞれの分野の人間たちが仕事をしているときに意識的に、あるいは無意識のうちに使っているものの考え方とどこがどう違うのか、さらにいえば深層学習という考え方は、社会で起こる問題について考え、判断するというときにどれほど普遍的に使えるものなのかというふうに問う方がよいのではないか。
それはたとえば帰納法や演繹法がどれくらい使える考え方なのかを考えることと同じ類のことではないか。将棋で先の展開を読む場合、どうして深層学習という考え方で先が読めるのか、そしてその考え方はタクシーの利用者がどういう場所にいるかを予測するのにも使えるのはどうしてなのか、それはタクシーの運転手が予測をするのとどう違うのかということを考える方が、人工知能について漠然としたイメージをもとに考えるよりもずっとましだろうという気がする。
たとえば深層学習が、人間のものの考え方や脳内の神経細胞の活動パターンと似通っているとすれば、膨大なデータをより早く正確に処理できるコンピュータの方が有利に決まっている。やや込み入った疑問であるが、深層学習なり、あるいは他の色々な機械学習のモデルなりの考え方というのが、PDCAなりMECEなり、あるいはマクロ経済学におけるDSGEモデル（Dynamic Stochastic General Equilibrium：動学的確率一般均衡モデル）やゲーム理論におけるミニマックス法*3のような特定の学問領域のモデルといった、人間が学んで意識的に使いこなしている考え方と似ているのか、それともニューロンの発火や神経伝達物質の伝達のパターンのような、人間が特に意識しないうちに実行されている思考の基盤となる物理的な反応と似ているのかというところは気になる。
「人間の知能を人工的に再現する」という人工知能研究のもともとの目的と、脳内のニューロンのネットワークを形式的に表現するところから始まったのがニューラルネットワークであったという二点を考慮すれば、後者との類似性を考える方が自然ということになるが、現実にはむしろ前者、つまり個々の業界の現場の人間の従来の考え方と、人工知能の「考え」との違いに注目が集まっているように見える。その最たる例といえそうなのが囲碁の戦略であり、プロ棋士が人工知能に破れたとき、人間は実は広大な囲碁の世界のほんの一部の戦略しか知らなかったということを思い知らされることになった。人工知能がとった奇抜な戦略を学び、積極的に取り入れるということも起こっている。最初は人工知能が教わる側であって、教える側である人間の過去の対局から学んだ人工知能が、学習スピードと記憶容量の点で人間をはるかに上回り、今度は人間の方が人工知能に学ぶようになるという逆転が起こった。こういうことは囲碁の世界に限らず、他の様々な領域においても起こる現象だろうと思う。
一方で機械学習では人間が「直観」と呼んでいるもののはたらきは実現することができないといわれる。この点では人間にもまだ分があると考えられる。ここで「直観」とは、ある状況において何が問題であるのかを見抜く力を指す。プログラム（program）とは予め（pro）書く（gram）というのが語源であるように、コンピュータが実行するどんな処理も、人間の側から前もってやり方を伝えた通りにしか実行されない。
もちろん直観といっても、本人には説明できないだけでやっていることの中身は機械学習と同じだということが脳科学の研究によって今後明らかになれば、これも人間には分が悪いということになってしまう。それは人間と人工知能の違いというよりは、同じ考え方をしていても計算が早い人間と遅い人間がいて、計算が早い人間の方が有利ということと同じである。
あるいは汎化能力の点でもまだ人間の方が上だろうと思う。これは以前に他の記事でも書いたことがあったかもしれないが、たとえばさいころを振ったときに1から6までの目がそれぞれ6分の1ずつの確率で出るということは、人工知能よりも人間の方がはるかに早く学習する。極端な話、人間ならば実際にサイコロを降らなくても、サイコロを見ただけで出る目の確率分布を見抜ける人間もいるだろう。
しかし人工知能となると、実際にサイコロを何度も何度も振ったデータを食わせないと確率分布を学習できないし、もしも食わせたデータに偏りがあれば間違った確率分布を答える可能性すらある。この点は特に重要で、全く同じモデルであっても与えたデータが異なるだけで人工知能の学習の精度が違ってくる。人間も教材が違えば成果が違うということはあるかもしれないが、よほどひどい教材でない限り、ちゃんと使えばそれなりに正しく学習できるのではないだろうか。人工知能は教材を選ぶというのは少し厄介だなと感じる。深層学習による画像認識の精度の向上が進んでいるとしても、まだ今のところは画像認識だけで人工知能がサイコロの出る目の確率分布を当てることはできないだろうと思う。
ただし大量の「適切な」データが集まれば人工知能の方が学習精度が高くなる例はすでにいくつも出てきているわけで、今はまだごく限られた領域でしかデータが揃っていないかもしれないが、センサーが至る所に張り巡らされてそこからデータがどんどん蓄積され、それをもとに人工知能が学習を続けるということが日常的になれば、人間が敵わない領域というのはどんどん増えていくだろうと思う。それを危険視する見方もあるが、自分たち（ホモ・サピエンス）では解決できない問題を、自分たちよりも賢い存在（人工知能）を生み出すことによって解決できるならいいのではないかと思ったりもする。そういうかたちでの進歩というのはおそらく人間以外にはないユニークな戦略であって、人間が人間らしい賢さを示すいい機会なのではないかと個人的には思ったりする。もちろんその結果として自分たちが滅びたとしたら、人間の知性なんてその程度だったということになってしまうわけだが。そういう可能性もなくはないなとも思う。
深層学習によって答えを出すことと、人間がなんらかの枠組みに基づいて考えて答えを出すことではどこがどう違うのかということについて詳しく書かれた本というのを、私はまだ見つけることができていない。そもそも世の中に出ていないのか、私が見つけられないだけなのか、個人的には後者であって欲しいと思っている。
【追記】
最近ジャン＝ガブリエル・ガナシアというフランスの哲学者が書いた『そろそろ、人工知能の真実を話そう』という本を見つけ、読み始めた。まだ第5章までしか読んでいないが、この記事の問題意識に通じるようなことが書かれていて面白い。読み終えたらこの記事を更新し、より内容を充実させられればと思う。
Superintelligence: Paths, Dangers, Strategies
- 作者: Nick Bostrom
- 出版社/メーカー: Oxford Univ Pr (T)
- 発売日: 2016/05
- メディア: ペーパーバック
- この商品を含むブログを見る
*1:数少ない例として次の2本の
記事が挙げられる。イーロン・マスクが同書に言及していることに言及している。
http://businessnewsline.com/news/201408072228110000.html
*2:余談になるが、「不気味の谷」という言葉がある。人工知能に対して抱く感情について、利便性がある段階を越えると人間は人工知能に対して快適さを感じるが、ある特定の範囲内ではむしろ不気味さを感じるというものである。映画で描かれる人工知能の多くはこの不気味の谷におさまるのではないかという印象がある。エンターテイメントとしてわざと狙っているのか、それとも無意識に不気味な人工知能しか想像できないだけなのかはわからないが、快適さを感じる人工知能を描く作品がもっと出てきてもいいのではないかと個人的には思う。
