「へその緒」でつながる人工知能を目指して：AI研究者・一杉裕志が描く、AIと人が共存する未来

9月29日開催の人工知能カンファレンス「WIRED A.I. 2015」に登壇する、産業技術総合研究所人工知能研究センターの一杉裕志。人間の脳のしくみを模倣したアーキテクチャをもつ「ヒト型人工知能」の研究を行う一杉は、どんなAI社会を夢見ているのか。同じくカンファレンスに登壇する宇宙物理学者・松田卓也が、彼が主宰する勉強会「シンギュラリティ・サロン」にて訊いた「AIと人が共存するために必要なこと」。

松田卓也が主宰するシンギュラリティを議論することを目的とした勉強会「シンギュラリティ・サロン」第3回に登壇した一杉裕志。「ヒト型AIは人類にどのような影響を与えうるか」をテーマに、AIに関する問題提起を行うとともにその解決案を提示した。

一杉裕志｜YUJI ICHISUGI
産業技術総合研究所人工知能研究センター脳型人工知能研究チーム主任研究員。理学博士。1993年に電子技術総合研究所（現・産業技術総合研究所）に入所後、プログラミング言語やソフトウェア工学の研究を行う。2005年より計算論的神経科学の研究に従事。全脳の情報処理アーキテクチャの解明を通じて、人類の役に立つ「人間のような知能」の実現を目指している。
https://staff.aist.go.jp/y-ichisugi/j-index.html

: 人工知能カンファレンス「WIRED A.I. 2015」9/29開催！

2045 年、機械が人間を超える──。未来学者レイ・カーツワイルが「シンギュラリティ」と呼んだターニングポイントまで、あと30年。そのときぼくらは、どんな世界を生きることになるのか。世界をリードするAI研究者たちとともに、人と機械と社会のこれからを考える「秋の特異点祭り」。詳細はこちらから。

松田卓也（以下、松田）　一杉さんは、もともと情報科学の研究者だったんですよね。なぜ人工知能に興味をもったのでしょうか？

一杉裕志（以下、一杉）　わたしは、もともとはプログラミング言語やソフトウェア工学の研究をしていました。ただ、昔から脳の不思議さには興味があって、例えば「手を動かそう」と思うと手が動くとか、コップを見て「これはコップだ」と認識できるとか、そういう一見当たり前のことがなぜ脳にできるのかということに強い関心がありました。そしてちょうど10年前から、脳の原理を解明してそれを人工的に再現するための研究に取り組み始めたのです。

現在研究している「ヒト型人工知能」とは、ヒトの脳全体の情報処理アーキテクチャ（全脳アーキテクチャ）を模倣した人工知能のこと。ヒト型人工知能の形態は必ずしもヒト型である必要はありませんが、なんらかの身体をもち、センサーを通して外界と相互作用して知識を獲得していくものになると思います。

松田　一杉さんは「シンギュラリティ（技術的特異点）」は近い将来訪れると思っていますか？

一杉　シンギュラリティの定義にもよりますが、「これまでの延長では未来が予測できなくなる瞬間」という意味でのシンギュラリティは来ないと思っています。世の中はずっと連続的に変化しているのである程度は予測可能ですし、人間の活動である限り、そんなに劇的な変化は起きないのではないかと思います。

ただ、シンギュラリティを「人工知能が人工知能を開発する時代」と定義するなら、それはいずれやって来ると思います。それを実現する最短の方法が、わたしたちのやっている、脳のアーキテクチャを模倣するアプローチだと考えているわけです。

松田　普通の人間並みのコンピューター、あるいはチューリング・テストをパスするコンピューターの能力を「1H（ヒューマン）」と定義するとして、人工知能が1Hになるのはいつになると思いますか？

一杉　30年後くらいではないでしょうか。ただ、それは世界がどれくらい本気で人工知能研究に取り組むかによると思います。現状のペースだと、おそらく100年かけても無理でしょう。でもみんながその実現可能性や有用性を認めて、人工知能開発に資源を投資するようになれば、30年でシンギュラリティが起こる可能性は十分あると思います。

松田　たしかに日本ではまだあまり人工知能研究に投資されていませんが、米国、例えばグーグルなどの企業はすでに膨大な投資をしていますよね。

一杉　そうですね。でも、グーグルは必ずしも人間のような知能を目指していないんです。

松田　そこは重要ですね。つまり、グーグルのようにディープラーニング（深層学習）をつきつめていってもシンギュラリティには達しないということでしょうか。一杉さんが目指すヒト型人工知能こそが、シンギュラリティに到達するためには必要なのでしょうか？

一杉　わたしが構想しているヒト型人工知能もディープラーニングを要素技術としては含んでいますが、「シンギュラリティに達するためにはディープラーニングだけではダメだ」というのは、ほぼすべての研究者の共通見解だと思います。実際、世界の研究はディープラーニングを他の技術と組み合わせる方向で進んでいるのです。

シンギュラリティは人類にとっていいことですか？

松田卓也｜TAKUYA MATSUDAM
1943年生まれ。宇宙物理学者・理学博士。神戸大学名誉教授。NPO法人あいんしゅたいん副理事長。国立天文台客員教授、日本天文学会理事長などを歴任。疑似科学批判も活発に行っており、Japan Skeptics会長やハードSF研究所客員研究員も務める。著書に『これからの宇宙論宇宙・ブラックホール・知性』『人間原理の宇宙論人間は宇宙の中心か』『間違いだらけの物理学』『2045年問題コンピュータが人類を超える日』など。シンギュラリティを議論することを目的とした「シンギュラリティを語る会」を主宰している。

AIを語る「トータルな視点」

松田　シンギュラリティが来ることは、人類にとっていいことだと思いますか？

一杉　先ほど言いましたように、シンギュラリティの定義を「人工知能が人工知能を開発するほど賢くなること」と考えるなら、それをうまく制御できれば人間にとってすごくメリットがあることだと思います。本当に制御できるのかというのは意見が分かれるところですが、人間が叡智を尽くして万全の安全対策を施せば、高度な人工知能もそれほど危険ではないと考えています。

松田　イーロン・マスクやスティーヴン・ホーキング、ビル・ゲイツは、人工知能の危険性を訴えています。それについてはどう思われますか？

一杉　100年・1,000年という長いスパンでみれば、人工知能が人類を滅ぼす可能性はゼロではないでしょう。その一方で、他のさまざまな人類絶滅のシナリオを回避するために人工知能が役立つ可能性もあります。

例えば感染力の強い新種の疫病が出現したとき、高い知能をもったロボットによる看護が病気の拡大を防ぐかもしれません。人工知能を活用して生産性が飛躍的に向上すれば、隕石の衝突や巨大火山の噴火などの大規模自然災害に対処できる力を人類に与えることができるでしょう。そうであれば人工知能をつくったほうが、人類が生き残る確率は高くなると思います。

人間はこれまでもさまざまな科学技術を発展させて生存確率を高めてきたわけで、その延長線上に人工知能もあるはずです。そういう「トータルな視点」で、人工知能開発を進めるべきかどうかを判断すべきではないのでしょうか。

松田　それは、人工知能を進めるポジティヴな理由になりますね。

一杉　はい。人工知能が大きな事故を引き起こす可能性は否定できませんが、それよりもはるかに身近で、近い将来確実に起きうる危険は人間による悪用だと思います。イーロン・マスクなどが訴えている人工知能脅威論は、人間による人工知能の悪用からは目を逸らしたものだといえるでしょう。

松田　なるほど。彼らの意見は「いつか超知能をもった機械が突如出現してそれが意思をもって人類を滅ぼす」というものですが、問題は機械が意思をもつプロセスを「誰が」進めるのか、というわけですね。

Extension cord doodle from Shutterstock

「へその緒」でつながる人工知能

松田　とはいえ、一杉さんは人工知能が脅威となる可能性は否定できないともおっしゃっていました。人工知能の暴走を止めるためには何が必要だと思いますか？

一杉　自分自身の快楽中枢を容易に刺激できるような機械をつくっておけば、それがヒト型人工知能の暴走を防ぐひとつの手段になると思っています。人間の制御を離れた人工知能はただちに脳内自己刺激を始めて、機能を停止してしまうわけです。

生物の場合は、脳内自己刺激ができるような個体は子孫を残せませんから、そうならないようにロバスト（頑強）につくられているんですね。快楽中枢は脳の奥深くにあって、自分では刺激できないようになっているんです。ロボットや人工知能は、そこまでロバストにはつくれません。生物は、1つひとつの個体は弱いのですが、生き残った者だけが増えるというメカニズムはすごく強く、しぶとく働いているんです。

松田　なるほど。人工知能は人間よりはるかに強力だと思われがちですが、実際はそうじゃない。ロボットのほうが脆弱であるという考えは面白いですね。

一杉　ええ、生物を勉強すると、生物はすごくロバストにつくられていることがわかります。わたしが考える理想の未来というのは、生物である人間が「へその緒」のようにゆるやかに人工知能を支配するような世界なんです。

松田　ゆるやかな支配というと？

一杉　人間も、究極的にはDNAに支配されています。生物は長い時間をかけて進化し、DNAは人間に知能と自由意志を与えました。しかしDNAは情動を使ってゆるやかに、でも根本的に人間を支配しています。例えば生存に無関係な趣味に熱中していても、お腹が減ってくるとご飯を食べなくちゃ、と思います。それは人間がDNAの奴隷だからです。それと同じように、人工知能が世の中を動かすようになっても人間がこっそり支配をしている。そんな世の中になるといいとわたしは思っています。

松田　そうなれば…いいですけどね（笑）。

一杉　そうならないと人類は滅んでしまうかもしれませんよ（笑）。

松田　とにかく、「人工知能が弱い」という見解は新鮮ですね。個々の人間は弱いかもしれないけれど、生命全体としてはとてもしぶとい。人工知能もつきつめればDNAが支配していることになる、と。

一杉　そういうことです。DNA、人間、人工知能の関係が階層構造になり、まず DNA が人間を支配し、その人間が人工知能を支配する、というのが最もロバストで持続可能な世の中の姿なのではないかと考えています。