Up 「ディープラーニング」とは 作成: 2017-04-22
更新: 2018-04-27

  • 「深層 deep」の意味：
      「ニューラルネットワークの階層を深めたアルゴリズム」

  • 「深層学習」の本質
      特徴量を (人の手を借りずに) 自分で生成する──「特徴表現学習」
        「自分で生成」の意味：「用意されているアルゴリズム任せ」

  • 方法
    • ＜相関のあるものをひとまとまりにする (→ 特徴量)＞ のサイクルを多段に組むことで，高次の特徴量を取り出す。
      この高次特徴量が，「高度の抽象」に相当し, 「概念」に相当する。
      後は，この「概念」の名を教えてやればよい。
      ──しかもこれは，人の概念形成と同じと見なせる。

  • 頑健性 (robust)
      松尾 豊『人工知能は人間を超えるか』, p.172
      ニューラルネットワークにとって「過酷な環境」がいろいろと研究されている。 そこまでいじめ抜かないと，データの背後に存在する「本質的な特徴量」を獲得できないのである。
      画像認識の精度が上がらなかったのは，頑健性を高めるためにいじめ抜くという作業の重要性‥‥に気づいていなかったため，そして，そもそもマシンパワーが不足してできなかったためである。

  • 「深層学習」の意義
      松尾 豊『人工知能は人間を超えるか』, p.173
      人間の知能はプログラムで実現できないはずはない。
      ところが、それが人工知能の分野で長年実現できなかったのは、コンピュータが概念を獲得しないまま、記号を単なる記号表記としてのみ扱っていたからだ。
      記号を「概念と記号表記がセットにしたもの」として扱ってこなかった、あるいは扱うことができなかったからである。
      　そのために、現実世界の中から「何を特徴表現とするか」は、すべて人間が決めてきた。決めるしかなかった。
      コンピュータの能力がいまほど高くなく、記号をそれのもとになる低次の情報とあわせて扱うことなどできなかったからだ。
      そこがすべての問題の根源になっていた。
      　ディープラーニングの登場は、少なくとも画像や音声という分野において、「データをもとに何を特徴表現すべきか」をコンピュータが自動的に獲得することができるという可能性を示している。
      簡単な特徴量をコンピュータが自ら見つけ出し、それをもとに高次の特徴量を見つけ出す。
      その特徴量を使って表される概念を獲得し、その概念を使って知識を記述するという、人工知能の最大の難関に、ひとつの道が示されたのだ。