Deep Learning(An MIT Press book) 7.7

Deep Learning(An MIT Press book) の要点メモシリーズ。

Chapter 7 Regularization for Deep Learning

7.7 Multitask Learning

  • マルチタスク学習:他タスクの事例によってパラメータに弱い制約を与えて汎化性能を得る
    • タスク間に統計的な関係があれば大きな効果がある
  • x → h_shared → h_i → y_i (i=1, 2, ...)
    • h_shared: generic parameters
    • task-specific parameters
  • 深層学習の場合、複数タスクに関連するデータの変化の一部は複数タスク間で共通しているという信念がある