【統計分析】機械学習・データマイニング13 [無断転載禁止]©5ch.io
レス数が950を超えています。1000を超えると書き込みができなくなります。
0970デフォルトの名無しさん
2017/03/15(水) 20:03:24.88ID:LU+w+iATそして、その重要度を示すスコアに比例して記憶が上書きから保護される仕組みが採用されています。
つまり、重要でないデータはこれまでのニューラルネットワークと同じように上書きすることで消去されますが、
重要なタスクではデータが保護されるため、以前、学習した内容を上書きしたり、大きな計算コストをあらためて割くことなく、
新しいタスクを学習できるとのこと。
DeepMindはEWCの有効性をテストするために、Atariのゲームを使って実験しています。
個々のゲームをスコアだけから学習することはそれ自体が難しい作業ですが、複数のゲームを連続して学習することは、
各ゲームごとに個別の戦略が求められるため、さらに難度は上がります。
EWCを使わない通常のニューラルネットワークでは、青色のグラフのように、一つのゲームが終わると致命的な忘却によって
データが上書きされスコアが上昇しないのに対して、EWCを有効化すると、簡単に忘れることなく、
次々とゲームが変わる中でも学習することができたとDeepMindは述べています。
http://i.gzn.jp/img/2017/03/15/elastic-weight-consolidation/a01_m.png (グラフ)
現在のコンピューターはデータに応じた対応ができずリアルタイムで学習することはできませんが、
DeepMindによると今回の研究によって、ニューラルネットワークにおける致命的な忘却は回避できることが示されたとのこと。
この研究は、より柔軟に効率的に学習できるプログラム開発への第一歩を踏み出したことを象徴するものだとDeepMindは述べています。
http://gigazine.net/news/20170315-elastic-weight-consolidation/
レス数が950を超えています。1000を超えると書き込みができなくなります。