組合せデザインの深層学習への応用
深層学習においてドロップアウトと呼ばれる手法が用いられている. これは多層型 ニューラルネットワークにおいて, その層ごとに一定の確率でノードを無効にして学習 を行う手法である. 訓練データに過度に適応した学習をしてしまう過学習と呼ばれる 現象に対して有用であるとされ広く使用されている. ドロップアウトを用いたとき, 各 ノードの使用頻度のばらつきは小さくなるが, 層間の辺の使用頻度のばらつきは大きく なる. 本研究では, ドロップアウト法において辺の使用頻度を一定にするような組合せデザイン (dropout design) を定義し, 関連する組合せ構造についてまとめ, その構成法について提案する.