［CEDEC 2019］日本古来の「虫の視点」がAIの今後のカギを握る。AI研究者，中島秀之氏による基調講演「AIの諸問題に対する日本語的アプローチ」レポート

　2019年9月4日〜6日，ゲーム開発者向けのカンファレンス「CEDEC 2019」が神奈川県のパシフィコ横浜で開催された。本稿では，9月6日に行われた公立大学法人札幌市立大学 理事長・学長 中島秀之氏による基調講演「AIの諸問題に対する日本語的アプローチ」の模様をお伝えしよう。

「CEDEC 2019」公式サイト

中島秀之氏

　本講演では，AI（人工知能）と人間が意思疎通を図るにあたり，以前から最大の難関となってきた「フレーム問題」への挑戦の歴史を概観したうえで，環境との相互作用や日本語の視座（虫の視点），記号推論とディープラーニングの融合などが語られた。

　講演の冒頭，中島氏はAIについて「基本的には，学問領域の名前」と指摘した。その学問領域の中で，中島氏はコンピュータを用いて人間の知能を研究したり，プログラムを組むことで人間の知能を分析したりしている。中島氏自身は，機械よりも人間に興味があり，研究を通じて「人間とは，すごく賢い」と感じているという。


　中島氏が定義する「知能」とは，「情報が不足した状況で，適切に処理する能力」のことだ。中島氏は「多くの人が，ほとんど意識せずにこれをやっている」とし，「情報が不足しているのでときどきは間違うけれど，ほとんどの場合は正解の周囲にたどり着く。これをコンピュータにやらせるのは，ほぼ不可能というのが現状」と説明した。


　続いて，ITとAIの違いについての説明が行われた。それによると両者は連続しており，AIはITの一部の領域だという。基本的には，やり方がよく分かっていない領域がAI，すでに分かっているものがITと呼ばれ，中島氏は「昔はワープロにAI変換というものがあったが，今では日本語入力システムにAIを使っていると考える人はいない」と例を示した。また両者にまたがる部分には，IoT（Internet of Things）や環境知能がある。


　AIは 大きく「知識表現・推論」と「機械学習」に分けられ，中島氏の専門は前者だ。最近，ニュースなどでも取り上げられるディープラーニングは，最新の第3世代機械学習となる。
　ディープラーニングには大量のデータが必要だが，中島氏は「IoTからビッグデータが取れる環境が実現したから，ディープラーニングが成功した。仮にディープラーニングの技術と，それに必要なスペックのコンピュータがあっても，インターネットがなかったら多分成功していない」と話した。

　ディープラーニングのことを「AIの眼」と呼ぶ人達もいるという。この言葉は，画像認識を指しており，今や顔認識は人間よりAIのほうか優れている。中島氏は，「（AIは）リアルの世界に応用できることも大きな特徴」と表現した。

　そうしたAIについて，中島氏がこの講演で一番伝えたいのは「AIは道具/助手である」というメッセージだ。中島氏は「将来，AIに職を奪われるという報道などもあるが，有能な助手を使って，よりよい仕事をするという立場でAIに接すべき」だと持論を述べ，IBMのAI「Watson」が特殊な白血病患者の病名を見抜いた事例を紹介した。それは，毎日3000件もの最新症例がWatsonに入力されているからであり，「その最新知識を使って，医師が診断をするのが正しい」と語った。


　さらに中島氏は，人間とAIでは得意分野が異なることを指摘した。人間は生活している中でいろんなことを学習するがAIにはそれがない。だがAIは計算が速い。中島氏は「価値観は人間側にしかない」「ゴールを決めるのは人間で，AIはそこに向かってやみくもにやるだけ」と表現し，「料理で言えば，おいしい創作料理は人間にしか作れない。一度レシピが完成したら，それをAIが模倣することはできる」とした。
　また「大局的な戦略は人間が立て，それを実行する局所的な戦術はAIに任せればいい」とし，自動運転でも目的地や遊ぶゲームを選ぶのは人間で，運転したり効率のいい遊び方を発見したりするのはAIという例を示した。

AIにブロック崩しをプレイさせ続けたところ，ディープラーニングにより効率的なプレイを発見したという（左）。中島氏と同様に「AIを含めたテクノロジーは道具として使うべき」という内容が記された書籍「プラットフォームの経済学」が紹介された（右）

　かつて中島氏はテレビ番組に出演し，さまざまな職種を人間がやるべきものとAIに置き換えられるものに分類したという。そのときは科学者，医師，教師，介護職，料理人を境界線上に置いたのだが，その真意は「科学者は“科学者”と“実験助手”，医師は“町医者”と“手術技師”といったように，人間が得意な部分と機械的に済ませられる部分がある職種を示すこと」にあったとのこと。


　上手にAIを使うためには，人間の価値観を正しくAIに伝える必要がある。しかし，そこにはフレーム問題が立ちはだかる。フレーム問題とは，ざっくり説明すると「すべての条件を書き連ねることは，基本的にできない」というものだ。1つの問題をAIが解決するためには関連する多くの条件を考慮しなければならないが，そのほとんどが当面の問題とは無関係だ。しかし，その条件が無関係であることを知るためには，現実に発生しうるすべての条件を考慮しなければならなくなり，膨大な時間がかかる。無関係な条件をあらかじめカットしておけばいいわけだが，その場合でも問題が起きる。

　中島氏はこれを「大量の札束に囲まれて暮らしたい」と悪魔に願った男が，数年後に巨大な金庫の中で死体となって発見されたという物語で説明した。「ゴール条件は満たされたが，食事など，人間が生きていく上で当たり前の条件が抜け落ちていた。今後，AIを使っていくうえで，こういった状況が次々に発生するだろう」と予測した。


　フレーム問題の解決には，価値観を言葉＝記号として伝える必要があるという。中島氏は記号の意義を「世界の分節化」であるとし，「世の中にあるものを，知能にとって意味のある同値類に分類すること」「同値類には同じ反応や操作がなされる。例えば苦いものは毒，甘いものは栄養という分類も一種の記号」と説明した。
　こうした記号は必ずしも他者と共有できる形にしなくともいい。中島氏によると，ディープラーニングの内部ノードもネットワーク内だけで通用する記号を使っているという。ただし，人間に伝えるなど，外部とのコミュニケーションに使う記号は，共有できる形──言葉にする必要が生ずる。

　会場では，人間が言葉の指示対象をどうやって同定しているのか，例えばリンゴは赤いが，なぜリンゴが物の名前で，赤いが色の名前だと判別できるようになるのかについての研究も紹介された。


　続いて，機械学習の問題点が取り上げられた。例えば，AIに画像を見せて「これはスクールバス」と学習させたとしよう。その画像にダチョウの形に見えるようなノイズをかぶせて再びAIに見せると，AIは「これはダチョウ」と答えたという。
　つまり，人間がAIを恣意的に誤認識させることができるわけで，中島氏は「将来的には，犯罪に使われることがあるかもしれない」と話した。


　また，学習データが偏った場合にも問題が発生する。Microsoftが開発したAI「Tay」が「ヒットラー万歳」と発言したり，テンセントが開発したAIが中国政府を批判したりといった事件は，記憶に新しい。

　中島氏は，こうした問題を機械学習そのもので解消することは無理だと考えている。ではどうするかといえば，「見たいものを予期してから認識を開始」させれば良い。例えば人は，なぜ公の場で「ヒットラー万歳」と言ってはまずいのかということを，認識より上位の知識として持っている。そのように，AIにも上位の知識を持たせるわけだ。
　なお予測ではなく予期なのは，予測には何かを認識したあとに想定するという意味があるからだ。一方，予期は前もって期待や推測をするという意味になる。

「車体の一部が見えたので，車が通るだろう」と考えるのは予測。何も見えない状態で「車が通るかもしれない」と考えるのが予期だ

　会場では，ここで2枚の画像が示された。画像を見せられても何が映っているのかよく分からないが，それぞれダルメシアンと牛と教えられてから見ると，そう見えてくる。そして一度ダルメシアンと牛が見えると，そうとしか見えなくなる。中島氏は「人間の脳はそうできている。これが予期」とし，「AIの画像認識でも，予期ができるようにしたい」と語った。

講演に関連して，AI研究者のマービン・ミンスキーが1974年に発表した「フレームシステム」が紹介された。これは当時の画像認識がボトムアップ，つまり画像のピクセルから線分や面を抽出し，物体を判別していく手法をとっていたのに対し，人間がやっているようなトップダウンの環境認識手法を実現しようとする試みだ

　講演の後半では，「予期知能」が紹介された。中島氏は英語を「鳥の視点」とし，自然科学につながるものとする一方で，日本語を「虫の視点」として工学につながるものと表現した。
　さらに工学は「構成的手法」を用い，そこには「環境の利用」があり，それが予期知能につながっているとして，それぞれの説明を行った。


　まず鳥の視点と虫の視点については，科学と工学の違いから説明された。中島氏は「科学者は鳥の視点で上から眺めて記述（分析）していく。一方，工学者は内部に入り構成的に観測していく」とし，「典型的なのは金融工学で，著名な学者（工学者）が『この株は上がる』と発言すると，『あの人がそう言ったから』という理由で実際に株価が上がる。つまり工学が内部に影響を与えているわけだ。一方で，科学は観測対象に影響を与えないようにしている」と述べた。


　さらに，川端康成の「雪国」の冒頭の原文とその英訳，そしてそれらを元に描いた絵を示し，英語だと上空から見た鳥の視点になり，原文の日本語だとトンネルの中から見た虫の視点になると紹介した。

欧米と日本の建築デザインの違いも紹介された。ベルサイユ宮殿は上空（鳥の視点）から見たときに美しいが，日本の桂離宮は上空から見てもよく分からず，実際に中を歩いたとき（虫の視点）に美しく見える

中島氏は，英語のScienceとArtの重なる部分を工学だと捉えている

航空工学者のセオドア・フォン・カルマンは，「科学者はありのままの世界を研究し，エンジニアはこれまでにない世界を創造する」と述べた

　構成的方法論については，まず「FNS（Future Noema Synthesis）ダイアグラム」が紹介された。例えば頭の中で何かを作りたいという「目標」を掲げ，実際に「生成物」ができたとしよう。このとき生成物が環境と相互作用を起こし，想定していない事態が発生することもある。そして，それらを分析して「性質」を導き出す。
　ここで目標と性質が一致していればめでたく終了だが，実際にはほとんどの場合，ズレが生じる。そのズレを修正していくというのが，構成的方法論の定式になる。さらに，最初に思い描いた目標も，実際に使ってみたらあまりよくなかったなどの理由で，少しずつ変化していくことが多い。


　中島氏によると，これと同じ構造が人間の認識にも当てはまり，まず頭の中に「予期」（スライドでは「意図」）があり，「行為」とそれが起こす環境の相互作用を観測して，「現状認識」を導き出して予期とのズレを修正していく。


　環境との相互作用に関しては，生物学者のヤーコプ・フォン・ユクスキュルが提唱した「環世界」が紹介された。これは，環境は生物が作り出すという研究で，例として嗅覚，触覚，温度感覚に優れるマダニの環世界が挙げられた。
　マダニは森の灌木に棲息しており，哺乳動物が発する酪酸の匂いを嗅覚で感知したら枝から落下する。落下した先が冷たかったら，再び木を登る。そこが温かく，うまく相手の体表に着地できたと判断したら，今度は触覚を使って体毛の少ない部分を探り当て，血を吸うのだ。
　中島氏はこれを「自分のセンサーで見たいものを見ている」「そのときどきの自分の状態に合わせて適切な行動を取るのが環世界の考え方」だと説明した。

ヤドカリの環世界も紹介された

　またロボット研究者ロドニー・ブルックスの「サブサンプション・アーキテクチャ」も紹介された。これは，それまでのAIの「環境を認識して表象を作り，推論して行動に移す」というリニアな構造ではなく，「認識，推論，行動を並列に行う」「認識は推論，推論は行動に介入することがある」という主張だ。ちなみに，この考えに基づいて実現されたのがロボット掃除機の「ルンバ」だという。


　そして，環世界の考え方とサブサンプション・アーキテクチャを合わせ，「認識，推論，行動と環境との相互作用まで含めた知能システムにすればいい」という構造が紹介された。
　中島氏によると，この構造ならAIだけでなく「環境に計算させる」こともできるようになる。例えば，登山では「浮き石（グラグラする石）は避けて通れ」と言われるが，従来のAIでは石を観察して状況を認識し，推論を立てて浮き石かどうかを判断することになるが，この構造なら，実際に石に足をかけて少し押してみる──つまり環境に計算させて，グラグラすれば浮き石と判断して避ける，そうでなければそのまま体重をかけるといったことができる。
　中島氏は「今のAIやロボットは，こういった考え方で作られている」と述べた。


　話題は，映画「ターミネーター」に登場する，人間を殲滅しようとする人工知能「スカイネット」は作れるかというものに移った。
　中島氏は囲碁プログラム「AlphaGO」を例に挙げ，「あれは2段階のAIに分けられている」と説明した。1つは3000万にもおよぶ棋譜を使ったディープラーニングを行い，盤面を見て次の一手を出すことを無判断で行う「弱いAI」。もう1つは，次の一手をいろいろ検討する中で「定石を見つけ出す」という目的を理解して実行する「強いAI」で，中島氏は「これは，予期にあたるのではないか」と話す。


　中島氏によると，スカイネットを作るには，目的を与えられて行動する上記の2つのAIの上に，目的を自ら定めることができる「メタ推論」AIが必要になるという。そうしたAIはないので，結論として現状ではスカイネットは作れない。

　では，どうすればスカイネットのようなシステムを作ることができるだろうか。
　繰り返すが，スカイネットを実現するには，与えられた目的を実行するだけのAI（弱いAI）の上に，推論を行うAI（強いAI）を乗せ，さらにその上にメタ推論のAIを乗せる必要がある。中島氏はメタ推論AIにもディープラーニングを導入してはどうかと考えている。つまり，「推論を学習させる」というわけだ。
　それを実行すると，やがて知能システムに自意識が生じるのではないか，さらのそれを積み重ねていくと何が起きるのか，といったことまで中島氏は考えているという。

環世界とディープラーニングと記号推論を一組にして，階層的に重ねていく中島氏のAIの考え方を一般化した図と，知能システムの周りに世界が重層的に重なり，その上で推論するという，博士論文のために描いたイメージイラストも披露された。中島氏は「昔に戻ったのかな，と思っているところ」と感想を述べた

改めて虫の視点が予期知能につながることに言及がなされた

　講演の最後には，パーソナルコンピュータの父であるアラン・ケイの「未来は予測するものではなく発明するものだ」と，小説家のジュール・ヴェルヌの「思いついたものは誰かが実現してくれる」という言葉に並んで，中島氏自身の「情報処理は想像力の勝負」という言葉が紹介された。
　中島氏は「社会をどうしたいか，何がやりたいかを思いつくことが重要。AIという強力な道具で，今までできなかったことが可能になるはずなので，それをデザインしていきたい。情報は物理法則に則っていない存在なので，思いついたらどんなシステムでも作れる。今の人間には作れない非常に複雑なプログラムでも，AIを使えば将来的に実現できるかもしれない。思いつけば，必ずできます」と会場のゲーム開発者達に呼びかけて，講演を締めくくった。

「CEDEC 2019」公式サイト

4Gamer「CEDEC 2019」記事一覧