2016年12月8日

Q&A：人工知能の未来(前編)

Q & A: The future of artificial intelligence

by Stuart Russell

本記事は、原著者の許諾のもとに翻訳・掲載しております。

人工知能とは？
- コンピュータに知的な動きをさせる方法の研究です。大ざっぱに言えば、コンピュータは間違ったことよりも正しいことをする範囲内において知的と言えます。正しいこととは、それがどのようなものであれ、最も目標を達成しそうなアクションであり、より専門的には、期待される効用を最大限に高めるアクションと言えるでしょう。AI（人工知能）のタスクには、学習、推論、計画、知覚、言語理解、ロボティクスなどが含まれます。
- 一般的な誤解
  - AIは特定の技術である。 例えば、1980年代や1990年代には、多くの記事がAIとルールベースエキスパートシステムを混同していました。また、2010年代においては、多階層の畳み込みニューラルネットワークと混同している例が見られます。このことは、物理学と蒸気エンジンを混同するのに、ある意味では似ていると言えるでしょう。AIは、機械における知性創造の一般的な問題を研究する分野であり、問題についての研究から生じた特定の技術的産物ではありません。
  - AIは特定の種類の技術的アプローチである。 例えば、AIを記号的あるいは論理的なアプローチと同一に扱い、ニューラルネットワークや遺伝的プログラミングといった “その他のアプローチ” と対比している記事が散見されますが、AIはアプローチではなく問題です。問題に対するどのようなアプローチも、AIにとっては貢献となります。
  - AIは特定の研究者コミュニティである。 これは前述の誤解に関連しています。一部の著書では “計算知能” という用語で、例えばニューラルネットワークやファジィ論理、遺伝的アルゴリズムなどのアプローチを用いる個別の研究者コミュニティを指すことがあります。これは非常に残念なことです。このような形で限定してしまうと、研究者は合理的なアプローチよりも、コミュニティ内で認められたアプローチのみで考えるようになってしまいます。
  - AIは”単なるアルゴリズム” である。これは厳密には誤解ではありません。なぜならAIシステムは、その他の全てのコンピュータアプリケーションと同じく、アルゴリズム（大まかに定義されたプログラム）でできているからです。ただし、AIシステムが処理するタスクは、例えば数字のリストのソートや平方根の計算などといった従来のアルゴリズム的タスクとは大きく異なる傾向があります。
AIはどのように人間社会に貢献するか？
- 文明が提供するものは全て、人類の知性の産物です。AIは知性を拡張する方法を様々な次元で提供してくれます。たとえて言うなら、クレーンで何百トンもの荷物を運んだり、飛行機に乗って時速数百キロで移動したり、はたまた望遠鏡ではるかかなたを眺めたりすることと同じだと思います。AIシステムは、それが適切に設計されていれば、人間価値のさらなる実現をサポートします。
- 一般的な誤解
  - AIの利用は必然的に非人間化に向かう。 ディストピア的シナリオには、AIが一部の人間によって悪用され、例えば監視官やロボット警察、自動化された “司法” 、あるいはAI支援指揮管理経済を通じて他者をコントロールするという世界が多く見られます。もちろん、こういった未来も考えられなくはありませんが、大多数の人が望むものではありません。一方で、AIは人類の知識をより身近にして個人の学習を推進しますし、言語の壁を取り払うこともできます。また、無意味な反復を強いる単純労働を代わりに行うことで、人間の、ある意味ではロボット的な作業を軽減することもできるのです。
  - AIの利用は必然的に不平等を増加させる。 作業の自動化により、収益や富が限られた人の手に集中するというのは確かにあり得ることです。ただし、AIを使用する方法は1つではありません。例えばAIを通じてコラボレーションを促進したり、生産者と顧客をつないだりできれば、個人や少数グループが、大企業に依存することなく、経済活動をより独立した形で行うことができるようになるはずです。
機械学習とは？
- 経験に基づいてコンピュータのパフォーマンス向上の方法を模索するAIの一形態です。
- 一般的な誤解
  - 機械学習はAIの大部分に取って代わる新しい分野である。 この誤解は、機械学習に対する近年の関心の高まり、およびAIの学習経験がない状態で機械学習のコースを専攻した大多数の学生によって生じた、偶発的な副作用のようなものであると思われます。機械学習は、常にAIの中心的なテーマです。Turingの1950年の論文では、学習がAIへの有力なルート、そしてAIの初期的な成功の前提として据えられていますし、Samuelのチェッカープログラムは、機械学習を使用して構築されています。
  - 機械はプログラマによる命令のみで動き、それ自体で学習はできない。 間違いなく、プログラマは機械に学習するよう命令できます。Samuel自身はひどいチェッカーのプレイヤーですが、それでも彼のプログラムは学習を通じてすぐに彼よりも強くなりました。最近では、数多くの重要なAIアプリケーションが、機械学習を膨大なトレーニングデータに適用することによって構築されています。
ニューラルネットワークとは？
- ニューラルネットワークは、生物学的ニューロンの基本的性質に着想を得た一種の計算システムです。ニューラルネットワークは多くの個別ユニットにより構成され、そのそれぞれがあるユニットから入力を受け取り、他のユニットに対して出力を送ります（ユニットは個別の物理的な存在である必要はありません。コンピュータプログラムのコンポーネントとしてユニットを考えることができます）。ユニットの出力は、通常、入力の加重和を取ることで計算され、その和を、ある種のシンプルな非線形変換を通じて渡します。重要な特性は、ユニット間のリンクに関する重みを経験に基づいて変更できることです。
- 一般的な誤解
  - ニューラルネットワークは、新しい種類のコンピュータである。 実際には、ほとんど全てのニューラルネットワークは、通常の汎用コンピュータ上に実装されています。ニューラルネットワークを効果的に実行するために特別な専用マシン（ ニューロモルフィックコンピュータ と呼ばれることもあります）を設計することは可能ですが、コストや構築にかかる時間に見合うだけの十分な利点は今のところありません。
  - ニューラルネットワークは脳のように機能する。 実際のところ、現実のニューロンは、人工のニューラルネットワークで使用されるシンプルなユニットよりもはるかに複雑です。数多くの種類のニューロンが存在しますし、実際のニューラルコネクティビティは時間と共に変化します。その他にも、脳にはニューロン間のコミュニケーション以外のメカニズムも含まれており、それが振る舞いに影響を与えます。
ディープラーニングとは？
- ディープラーニングとは、多層構造のユニットによるニューラルネットワークの訓練を行う機械学習の特定の形式です。近年、その人気は非常に高まっており、ビジュアルオブジェクトの認識や音声認識などのタスクにおいて、大幅な改善を見せています。
- 一般的な誤解
  - ディープラーニングは機械学習の大部分に取って代わる新しい分野である。 実際のところ、ディープラーニングは20年以上も前からニューラルネットワークのコミュニティで知られていました。近年の進歩は、どちらかと言えばアルゴリズムやモデルのマイナーな改良、大量のデータセットが利用可能になったこと、あるいはコンピュータ性能の向上によるところが大きいと言えます。
強いAIと弱いAIとは？
- “強いAI” と “弱いAI” とは、元は哲学者のJohn Searleが導入した用語で、AI研究者が持っていると彼が見なす2つの仮説を指しています。弱いAIは、機械を人間レベルの知的行動を示すようにプログラムできるという仮説です。対して強いAIは、意識的経験を機械のものと見なすこと、あるいは、人間を説明するために使われる言葉と同じ意味合いにおいて、機械が実際に考え理解していると説明することが有効だとする仮説です。
- 一般的な誤解
  - “強いAI” とは、AIの研究が人間レベルの汎用AIを対象としていることを意味する。 これは確かに合理的な解釈ではありますが、この言葉が1980年に最初に造語された時の意味合いとは異なります。また、 “弱いAI” が、例えば音声認識や推薦システムなどといった特定の狭いタスク（ “AIツール” とも呼ばれます）を対象にした意味として解釈されることもあります。これらの用語は、知的財産としてその意味が登録されているわけではありませんが、それでも既存の技術用語を全く異なる意味で用いると混乱を招いてしまう恐れがあります。
AGI、ASI、スーパーインテリジェンスとは？
- AGIはArtificial General Intelligence（汎用人工知能）の略です。汎用知的システム構築の野心的な到達点を強調した用語で、その適用範囲は、少なくとも人間が対応できるタスク範囲と同等のものとされています。ASIはArtificial SuperIntelligence（人工超知能）の略で、人間の知能を実質的に超えるAIを表しています。具体的に、スーパーインテリジェントシステムは、より多くの情報を勘案し、より遠い将来を見据えた上で、人間よりも質の高い判断を下せるシステムと言えるでしょう。
- 一般的な誤解
  - 主流を行くAI研究者は、AGIのことを気に掛けていない。 音声認識などの下位分野を研究する研究者の中には、確かに自分たちの研究対象にしか関心がないような人もいますし、既存技術を商業的な用途で活用することに力点を置くような人もいます。しかし私の印象では、学習や推論、計画などの下位分野を研究しているほとんどのAI研究者が、汎用AIの達成に向けて、研究を通じて副次的な問題の解決に貢献していると考えているように感じられます。
  - 人間は総じて知的である。 この考えは改めて述べる必要がないほどに明確なものと考えられがちですが、AGIにおいては、この考えがほぼ全ての議論の根底に横たわっています。人間が知的であるという考えは、通常、人間が行うことができるタスクや仕事の幅広さに注目することで立証されますが、もちろん、人間が対応できないような人間の職業はないため、幅広い既存の仕事に人間が対応できること自体は何ら驚くべきものではありません。人間中心の考えや偏見から完全に離れた場所で定義を思い付くことは容易ではないため、人間ができる全てのことを人間ができるという意味において、人間が知的であるという考えが生まれるのです。私たちはAIができる様々なことに対して、それを表現する適切な言葉をまだ持っていないのかもしれませんが、それは私たちの今後の課題と言えるでしょう。
ムーアの法則とは？
- “ムーアの法則” とは、電子回路の密度および/または性能の指数関数的な増加に関する観測と予想のことです。現在普及しているムーアの法則の概要は、ムーアのオリジナルの声明とは異なりますが、1秒、1ドル当たりの作業能力は、Nがおよそ18である時、Nヵ月ごとに倍増するというものです。
- 一般的な誤解
  - ムーアの法則は物理学の法則である。 実際には、技術の進歩における経験的な将来予測であり、それが維持されるということを証明するものではなく、もちろん、永久にその進歩が維持されることもあり得ません。クロック周波数は既に頭打ちになっているため、現在の価格/性能的な向上は、単一チップ上のコア（処理ユニット）数の増加によるものと言えるでしょう。
  - マシンが急速に高速化しているので、より優れたアルゴリズムの考案は時間の無駄である。 実際のところ、ハードウェア性能の向上より、アルゴリズムの些細な改良の方が往々にしてはるかに重要です。
ムーアの法則によってスーパーインテリジェンスの到来が予測可能になるか？
- いいえ。AIシステムは複雑な自然言語テキストの理解など、出来ないことがたくさんあります。ハードの速度が上がるということは、往々にして、間違った答えが速く得られるだけです。
  スーパーインテリジェンスには大規模な概念の飛躍が必要です。そういった飛躍は簡単には予測できるものではなく、より速いマシンが利用できるようになることとはほとんど無関係です。
- 一般的な誤解
  - マシンが今よりもパワフルになるということは、その知能も向上している。 これはAIの未来に関する議論において一般的なテーマですが、人間の知能を説明する時に使う “パワフル” と、コンピュータの説明の時に使う、もっとシンプルな意味の “パワフル” （毎秒行われる作業の数など）という言葉を混同してしまうことに起因するようです。
マシンIQとは？
- マシンIQなどというものは存在しません。個人の知的能力が多くのタスクにわたり高度に関連づけられているという点で、人間はIQを持っていると言えます。しかし、多くの研究者たちはいかなる一元的な尺度の有用性に対しても意義を唱えるでしょう。一方、どんな既定のマシンの機能も相関関係が全くありません。どういう意味かというと、あるマシンはチェスの世界チャンピオンには勝てるかもしれませんが、チェッカーや他のボードゲームをプレイすることは絶対に不可能でしょう。また、あるマシンはクイズの大会で勝てるかもしれませんが、 “あなたの名前は？” という簡単な問いには答えられないかもしれません。
- 一般的な誤解
  - ムーアの法則によりマシンのIQは上昇している。 マシンIQなどというものは存在しませんので、上昇することもありません。ムーアの法則では一次的なコンピュータ関連の処理能力に対してのみ該当するので、何か特定のタスクを行うことができるアルゴリズムの存在とは関係がありません。
知能の爆発とは？
- “知能の爆発” という言葉とは1965年にI.J.Goodによって書かれた論文、
  『Speculations Concerning the First Ultraintelligent Machine.（最初の超知的マシンに関する推論）』に出てくる造語です。その論文では、十分に知能のあるマシンはより優れたマシンへと改良するため、自己のハードウェアとソフトウェアを再設計し、 “ 人間の知能がはるか後方に取り残される ” まで改良をやめない、という内容が論じられています。
- 一般的な誤解
  - 知能の爆発は、ひとたびコンピュータが人間と同じレベルの知能に達したら避けることができない。 それどころか、N+1世代のマシンを設計するという課題は、どんな世代のNマシンにとっても論理的に難しすぎる可能性があります。私たちが作るマシンは重要な局面では超人的に、そうでない局面では人間以下になりやすいものです。例えば、貧困の緩和や癌の治療などの重要な問題の解決においては、画期的なAI研究がされなくても、人間よりもマシンの方が恐らく優れているでしょう。
AIのシステムが人間よりも知能が高くなるのはいつか？
- この質問は答えることが困難です。それにはいくつかの理由があります。1つ目
  に、 “なる” という言葉は天気予報のように重要な予測のことを言いますが、一方で、選択という要素も実は含んでいます。例えば、もし私たちが、その追求をやめると選択すれば、それが実現することはありません。2つ目に、 “もっと知能が高い” という言葉は単純な知能の線的な尺度を想定していますが、そんな文字は実際にはありません。既にいくつかのタスクに関してマシンは人間よりも優れており、もちろんその逆で劣っていることもあります。3つ目に、マシンの中で発達する、 “汎用” 知能のような有用な概念が存在すると認めた場合、この質問は筋が通ることになるでしょう。しかし、それでも答えることは非常に困難です。この類の知能を得るためには、AI研究における重要な飛躍的進歩が必要ですが、予測はとても難しいものです。ほとんどのAI研究者たちは今世紀中には実現するかもしれないと考えています。
- 一般的な誤解
  - それは決して起こらない。 科学的進歩に関する予測が難しいのは周知の事実です。1933年9月11日、その時代の原子物理学者の中で最も有名な人物であるLord RutherfordはBritish Association for the Advancement of Science（英国科学振興協会）の年次ミーティングにおいて、大勢の観客に向かって次のように話しました。「原子の変換時において力の源を探し求める者はみな、たわごとを言っている」（彼は他の多くの場面でも多くの表現を使って同じようなことを話していますが、本質的には核エネルギーの解放は不可能だと言っています）次の日の朝、Leo Szilardは中性子誘導の核分裂連鎖反応を発明し、その直後に原子炉の特許を取りました。
現在のAIシステムは何ができるのか？
- マシンが高レベルに実行できるタスクの範囲は数年前に比べてさらに広がっています。それにはボードゲームやカードゲーム、簡単な質問への返答、新聞記事からの事実の抜粋、複雑な物体の組み立て、別言語への翻訳、音声認識、画像からの様々な種類の物体の認識、そして最も “普通の” 条件下における車の運転などが含まれます。AIシステムが行うタスクには目に見えづらい種類のものもたくさんあります。例えば、不正クレジットカード取引の検知、信用取引申請書の評価、そして複雑な電子商取引のオークションの入札などです。検索エンジンの多くの機能もまた、実はAIの単純形と言えます。
- 一般的な誤解
  - “チェスをする” といったタスクは人間にとってもマシンにとっても同じタスクである。 これは誤解を招く仮説で、 “複雑で困難なタスクの支援” はマシンにとって、通常レベルが非常に高いことです。人間はルールを人から聞いたり読んだり見たりして、実際にプレイすることで学習します。通常、チェスのプログラムにはそのような能力はありません。ルールは一定の位置で決まった動きをするようにアルゴリズムの形体でマシンに直接プログラムされています。マシンは人間と同じ意味ではルールを “知らない” のです。強化学習についての最新の研究は例外です。例えば、ビデオゲームをプレイするDeepMindのシステムは、それぞれのゲームを完全にゼロから学習します。何を学習しているかは私たちには理解できませんが、それぞれのゲームのルールを学習しているようには見えません。
  - マシンは人間と同じやり方でタスクを行う。 人間がどのように物事を行うか分からないことが多いですが、典型的なAIプログラムの作業工程と一致することはまずありえないでしょう。例えば、チェスのプログラムは現状のボードの状態を見て可能な並びを考えその結果を比較しますが、人間は勝つためにできるだけ優位に立てる配置を見極め、その場所を取るために逆算して考えていきます。
  - マシンがタスクXを行うことができるなら、同じくタスクXを行うことのできる人間が行うことができるであろうタスクも全て行うことができる。 マシンIQに関する質問の回答を参照してください。現状では、マシンは人間と同じ意味での汎用知能を持っていません。そのため、マシンの能力は非常に限られていることが多いのです。

古川陽介
株式会社リクルート　プロダクト統括本部　プロダクト開発統括室　グループマネジャー株式会社ニジボックス　デベロップメント室室長 Node.js 日本ユーザーグループ代表

複合機メーカー、ゲーム会社を経て、2016年に株式会社リクルートテクノロジーズ(現リクルート)入社。現在はAPソリューショングループのマネジャーとしてアプリ基盤の改善や運用、各種開発支援ツールの開発、またテックリードとしてエンジニアチームの支援や育成までを担う。 2019年より株式会社ニジボックスを兼務し、室長としてエンジニア育成基盤の設計、技術指南も遂行。 Node.js 日本ユーザーグループの代表を務め、Node学園祭などを主宰。