深層学習とは
層を深く重ねて、特徴を自動で見つける

深層学習とは

深層学習（ディープラーニング、deep learning）は、人間の脳の神経細胞をまねたニューラルネットワークの層を深くして、データから特徴を自動で見つけて学ぶ機械学習の手法です。「深層」は、ネットワークの層が深い（多い）ことを表します。

機械学習は、大量のデータから規則やパターンを学ぶ手法の総称です。従来の機械学習では、「画像のどこに注目するか」といった特徴を、人が考えて設計する必要がありました。深層学習は、この特徴の取り出しも学習の中で自動で行います。人が設計しなくてよい点が、従来の機械学習との大きな違いです。

しくみ

深層学習で使うニューラルネットワークは、次の3種類の層でできています。

1. 入力層: 画像や音声などのデータを受け取ります。
2. 隠れ層: 入力層と出力層のあいだにあり、複数重ねるのが深層学習の特徴です。
3. 出力層: 「犬の画像である確率」などの結果を出します。

学習を繰り返すと、隠れ層が特徴を取り出す層として自然に形づくられます。画像の例では、手前の層が線や点、奥の層が部分の形、さらに奥が全体の特徴、というように、単純なものから複雑なものへ段階的に取り出していきます。

代表的なモデル

用途に合わせて、隠れ層の作りを変えたモデルが使われます。

• CNN: 画像の特徴を取り出すのに向く。詳しくは「CNNとは」。
• RNN: 過去の情報を保持し、音声や文章などの時系列データに向く。詳しくは「RNNとは」。
• Transformer: 文章内の単語どうしの関連を見て、大規模言語モデルの土台になる。詳しくは「Transformerとは」。
• GAN・拡散モデル: 画像などを新しく作る。詳しくは「GANとは」。

歴史と使い方

深層学習が広く知られたのは、2012年の画像認識コンテストでした。ヒントン教授らのチームが、CNN をもとにした AlexNet で圧倒的な正解率を出して優勝し、第3次AIブームのきっかけになりました。2016年には、囲碁でトッププロ棋士に勝った Alpha Go も登場しています。

IoT システムに組み込むときは、役割を分けるのが定石です。膨大な計算がいる「学習」はクラウドで行い、できあがったモデルで瞬時に答えを出す「推論」はエッジで実行します。リアルタイム性を確保するための分担です。また、大量の計算を効率よくプログラムするために、TensorFlow や PyTorch などのライブラリが公開されており、その多くはオープンソースです。

試験での問われ方

IoTシステム技術検定 基礎では、第6章「IoTでデータを活用する」を中心に出ます。もちこ道場の第6章の問題では、深層学習を含む問題が15問あります。問われ方は3つの型です。

• 穴埋め: 隠れ層の説明（入力層と出力層のあいだにある層）、CNN・RNN・GAN の見分け、2012年の AlexNet などを選ぶ。
• ほかの用語の外れの選択肢: 教師なし学習（購買データから関係を探す問題）などで、深層学習が選択肢に並ぶ。
• 誤った記述を選ぶ: 「人が特徴を設計する必要がある」のように、従来の機械学習との違いを入れ替えた記述や、ライブラリの説明の誤りを見抜く。

似た用語との違い

深層学習は、入れ子の関係で整理すると見分けやすくなります。

教師あり学習・教師なし学習・強化学習は「データの与え方」による分類で、深層学習は「ネットワークの作り」の話です。別の軸なので、組み合わせて使えます。分け方は「教師あり学習と教師なし学習の違い」にまとめています。

覚え方

• 「深層」＝「隠れ層が深い」。入力と出力のあいだに、隠れ層を何層も重ねたものです。
• 「特徴を人が作らない」が従来の機械学習との違い。ここを入れ替えた記述は誤りです。
• 学習はクラウド、推論はエッジ。時間をかけてモデルを作るのが学習、できたモデルで答えを出すのが推論です。

第6章のほかの用語は「第6章 IoTでデータを活用するの要点」にまとめています。