ぶっきーの超・雑記ブログ

「より良く生きる」を模索する。


AIの初心者向け解説「人工知能はどのようにして名人を超えたのか」




f:id:book_buku:20180919133101j:plain

 

こんにちは、ぶっきーです。

 

毎週木曜更新の「週刊書評」、第5回。

 

今回紹介するのは「人工知能はどのようにして名人を超えたのか(山本一成 著、ダイヤモンド社、2017)」です。

 

著者の山本さんは東大在学中から将棋ソフト開発に没頭し、今や最強の将棋ソフトとも呼ばれるPonanzaを開発した新進気鋭の若手研究者だ。

 

Ponanzaは2017年時点の名人、佐藤天彦名人に2連勝したことでも有名。本書はその山本さんによるAI(人工知能)の初心者向け解説書である。

 

 

 

ぶっちゃけどれくらいオススメ?

まあまあオススメ。正直人工知能について解説したもっと良い本はある。この本に載っている程度の人工知能の知識を得たいなら、入門サイトを適当に探して見るくらいで良い。

 

特に将棋にも興味がある場合は「人工知能の核心(羽生善治著、NHK出版新書、2017)」を勧めたい。「人間にできて人工知能にできないこと」にまで踏み込んで書いてある(書評は下記)。

 

www.book-buku-bucky.com

 

対象読者

本書の対象読者は以下のいずれかである。

 

  • 囲碁将棋と人工知能に興味がある人
  • 人工知能について詳しくない人

 

概要

基本的な用語から解説されている

あなたはAI(人工知能)、機械学習、ディープラーニングという言葉の違いを理解しているだろうか。

 

本書ではこのような人工知能に関する用語の説明から行われているため、人工知能について全くの初心者でも読めるようになっている。

 

一応簡単に枠組みだけ説明しておくなら、人工知能を作るためにはいろいろな方法があるのだけれど、その方法の一つに機械学習というものがある。場合によっては「学習する機械」などを作らずに「人工的な知能」を実現する方法だって考えられるわけだ。言われてみればさもありなん。

 

さらに機械学習を実現するにもいろいろな方法があり、その中の一つがディープラーニング(深層学習)ということになる。

 

このように本書を読むことで人工知能に関する話題を楽しむための最低限のリテラシーが得られると考えられる。

 

しかしまあ初心者向けというだけあって、網羅性は犠牲にされている。例えばディープラーニングにおいて過学習を防ぐ方法としてドロップアウトだけしか取り上げられていないなど。

 

ディープラーニングについて本格的に学びたい方には「深層学習(岡谷貴之、講談社、2015)」をすすめる。本格的にとはいえ、理系学部1年程度の数学(簡単な行列計算と微分方程式の触り)が分かるならそれ以外の予備知識無しで読める。僕も情報系なんて全然専門外だったけどあっさり読めた。

 

将棋や囲碁のソフトを題材に、人工知能が賢くなった過程を学べる

著者は将棋ソフトの開発者だ。

 

だから本書では将棋ソフトやその周辺分野である囲碁ソフトの発展に触れながら人工知能について解説されることになる。

 

もう少し具体的には、ディープラーニングを用いたAIがどのようにして「賢く」なっていったのか、そのためにはどんなテクニックが必要だったのかが綴られる。

 

また「人工知能開発とはいかなるものか」という視点も含まれている。実は人工知能がなぜこんなにも(分野によっては)人間より賢くなるのか、開発者自身も分からないのだ。

 

事実僕の知り合いの人工知能分野の開発者の方も、「うまくいくような方法を経験的に探りながら開発している。賢くなる仕組みがはっきり分かっているわけではない」と言っていた。

 

この意味で「人工知能開発は科学ではない」と本書では述べられる。この視点は面白い。

 

本書に依れば、科学とは「細部の理解の積み重ねが全体の理解に繋がる」と考える還元主義的性格を持つ。ところが「賢くなる仕組みを完全に理解できない」人工知能開発は、この還元主義を放棄してしまっているわけだ。(著者はこれを科学からの卒業と表現するが、むしろ還元主義から尻尾を巻いて逃げたのが実状なので「放棄」が的確な表現だ)

 

「還元」させることから逃げてしまったからと言ってただちに「非還元主義」であるとも限らないだろうが、面白い見方ではあると思う。

 

著者の言う「いい人理論」は大間違い

本書は人工知能の良いところばかりでなく、危険性にまで触れている。この点はバランスが取れていて良いと思った。

 

人工知能は人間の作り出した文章・データをインプットとして学習を行うため(最近は必ずしもそうではないようなのだが…)、人間の考えの影響を受けることになる。

 

よって時には人間の間違った(反倫理的な)考えを、人工知能が正しいと思い込んで学習することも有り得る。つまり人間が倫理に反する考え方をしていれば、人工知能は倫理に反することを正しいと思い込んで学習するかもしれない。そうなると人工知能は「人間を殺しても良い」と判断するようになるかもしれない。

 

ここに人工知能の危険性があると著者は指摘する。その通りだと思う。

これを踏まえて著者は、「人工知能が倫理的であるためには、人工知能の開発者ではない我々一般人が、普段からいい人でなければならない」と読者を諭す。これを著者はいい人理論と呼んでいる。


これはいかにも教訓めいた最もらしい意見だが、技術者としての大切な視点を見落としている。

 

技術者は、自分が開発している技術がもたらし得る危険についてあらかじめ予期し、それを防ぐための策を考える責任がある。何故なら自らが作り出した技術を最もよく理解し、その影響を最も正確に予測できるのは、その技術を生み出した本人だからだ。


技術者自身が技術のもたらす危険性を認識し、その危険を防止して安全に使用するための策を講じるべきとするこの考え方を技術者倫理と呼ぶ。理系の専攻なら大学院で学んでいるはずなのだが…

 

例えば銃を作った人は、銃の使い方を人々に周知するだけでなく、安全な取り扱いが可能となるような仕組み(セイフティ)を用意する責任があるのだ。

 

同様にAIが暴走して人類を排除してしまう危険性があるならば、これを防ぐために安全性を保証してくれる仕組み作りが当然必要だ。そして技術者倫理の考え方に基づけば、その仕組み作りを行うべきは、まずAIを作り、その技術に最も詳しい技術者自身であるべきなのだ。


であるにも関わらず著者は、我々一般人が「いい人」であれば問題は起きないのだと諭してくる。(そんな曖昧なものに人類の命運を託していいのだろうか?人工知能の与え得るインパクトを著者自身こそ見誤っているのではないか?)

 

もちろんより倫理的な人工知能を作る一助にはなるだろうが、それで万事OKではない。この意味で著者の言う「いい人理論」は間違っている。

 

このように「いい人であること」を我々に諭す一方で、著者は技術者として自らが果たすべき技術者倫理について全く言及しない。


これでは自らが負うべき責任を我々一般人に転嫁しているようにも読み取れる。この著者自身に技術者としての倫理観が欠如しているようにさえ見受けられた。

 

とここは(著者よりずっと年下の人間が僭越ではあるが)厳しく指摘しておきたい。

 

まとめ

こういうわけでいろいろと難もあるのだが、全体的に読みやすい本だったので人工知能初心者の方は手に取ってみると良いかもしれない。

 

ただまかりまちがっても将来の人工知能研究に携わるつもりの人は、「データを提供する一般の人々さえいい人なら問題は起こらない」なんていう考えは持たないようにしてほしい。そして「人工知能が人類を排除しない具体的な仕組み」を作る義務があることを認識してほしい(むしろこれこそが人工知能分野における主要なテーマになるだろうと僕は予測しておく)。

 

僕の一押しの人工知能関係の本は先にも書いたが、以下の書評で紹介している。

お暇な時にでもご覧いただければ。

 

www.book-buku-bucky.com

 

おしまい。