「それで何の役に立つの?」
「GANや拡散モデルとは何が違う?」
入力と同じものを出力させる——最初に聞くと、意味のない遠回りに思えます。その「遠回り」にこそ、オートエンコーダの正体があります。
オートエンコーダとは、入力をいったん小さく圧縮し、そこから元へ復元することで、データの大事な特徴だけを学ぶニューラルネットワークです。同じものを出すのが目的ではなく、途中で小さくするのが狙いです。
この記事では、なぜ同じものを出すと役立つのかを、あなたに数字の流れで見せます。圧縮と復元の二人組、次元削減を数値でたどり、異常検知やノイズ除去の使いみち、そしてVAEから次に学ぶ生成モデルまで、数式なしで整理します。G検定の対策にそのまま効きます。
1. 同じものを出力して、何が嬉しいのか

あなたが感じる「同じものを出すだけでは無意味では?」という疑問は、正しい入口です。カギは、入力と出力の間で、いったん情報を小さくしぼるところにあります。小さくしても元に戻せるなら、そのデータの本当に大事な部分だけを、うまく取り出せている証拠になります。
2. エンコーダとデコーダ:圧縮と復元の二人組

オートエンコーダは、役割の違う2つのネットワークの二人組でできています。入力を受け取って小さくするのがエンコーダ(符号化器)、小さくなった数値から元を組み立て直すのがデコーダ(復号化器)です。
二人の境目、いちばん細くしぼられた部分にある圧縮後の表現を潜在表現(潜在変数)と呼びます。ここに、データの特徴がぎゅっとまとまっています。学習が進むほど入力と出力の差(復元の誤差)が小さくなり、それは潜在表現が入力の特徴をうまく捉えられている合図です。
あなたが押さえておきたいのは、エンコーダとデコーダは別々に学ぶのではなく、1本のつながりとして同時に鍛えられる点です。デコーダがうまく戻せないと、エンコーダは「もっと要点を残す圧縮」へと修正されます。この二人三脚の反復が、潜在表現をだんだん賢くしていきます。あなたがオートエンコーダを図に描くとき、エンコーダとデコーダを切り離さず、細い中央でつながった1つの形として捉えると、後のVAEの話もすっと入ります。
3. 数字でたどる次元削減(784 → 32 → 784)

言葉だけだと掴みにくいので、数字で追ってみましょう。手書き数字の白黒画像を例にします。28×28ピクセルの画像は、数値が784個並んだデータです。この784個を、エンコーダが32個まで一気にしぼり、デコーダがその32個から再び784個へ戻します。次の砂時計の図が、その流れです。
784個をたった32個で表せて、なお元へ戻せるなら、その32個は画像の要点を握っていることになります。この「多い数値を、少ない数値で言い換える」働きが次元削減です。数字が784→32と大幅に減っているのに情報が保たれる、この一点がオートエンコーダの基本的な力です。
4. 使いみち:異常検知とノイズ除去

圧縮と復元の仕組みは、実務で2つの形に化けます。特に有名なのが異常検知です。正常なデータだけで学習させると、正常品はうまく復元できる一方、見慣れない不良品は復元できず誤差が大きくなります。この誤差を手がかりに、製造ラインの不良や機器の故障の兆しを、あなたは自動で拾えます。
もう1つがノイズ除去です。あえてノイズを混ぜた入力から、ノイズのないきれいなデータを復元するよう学習させる方式があり、ノイズ除去オートエンコーダと呼ばれます。ざらついた画像をなめらかに直す、といった使い方ができます。どちらの用途も、ラベルなしデータで特徴をつかめる強みの上に立っています。
5. VAEと、次に学ぶ生成モデル

「オートエンコーダも、新しいデータを作れるの?」——ここが次の一歩です。仕組みを少し変えた発展形なら、生成もできます。その代表が変分オートエンコーダ(VAE)です。潜在表現を1つの固定値ではなく、ばらつきを持つ分布として扱うことで、潜在空間から新しい点をなめらかに選び、デコーダで新しいデータを生み出せます。
圧縮と復元を土台に生成へ広げたVAEに対し、別の発想の生成モデルも押さえておくと視野が開けます。2つのネットワークを競わせる GANとは、ノイズから少しずつ画像を整える 拡散モデルとは。オートエンコーダを起点に、この順で読み進めると、生成モデル全体の地図がつながります。
次のステップ
オートエンコーダがG検定のどこで問われるかは、G検定の試験範囲と勉強法ガイド で俯瞰できます。ディープラーニング応用の位置づけを先に掴むと、周辺語が整理しやすくなります。
理解が定着したか確かめたいなら、G検定 ディープラーニング応用の問題集 で、生成モデルまわりの設問を解くと、弱点が見つかります。