Won_AI

1. Learning to learn by gradient descent by gradient descent NeurIPS 2016 Andrychowicz et al. Paper link: https://arxiv.org/pdf/1606.04474.pdf ​Code link: 2. Model-Agnostic Meta-learning for Fast Adaptation of Deep Networks ICML 2017 Finn et al. Paper link: https://arxiv.org/pdf/1703.03400.pdf Code link: model: MAML MAML의 목적은 주어진 meta-learning의 experiences를 이용해서 임의의 task에 대하여 가장 빠르게 학습할 수 있는 mod..

Classification, regression, reinforcement learning에 대한 meta-learning, 즉 1회 혹은 적은 수의 학습으로 새로운 task를 학습하는 것을 목표로 한다. 그 중, few-shot learning task를 다룬다. MAML은 meta-training data를 이용해서 데이터 학습에 가장 쉬운 상태가 되도록 model parameter을 학습하고, 그 parameter을 기반으로 하여 새로운 데이터에 대한 학습을 진행한다. 구체적으로, inner loop에서 task specific한 parameter을 학습하고, outer loop에서는 그렇게 학습된 parameter와 그 곳에서의 loss를 이용하여 model의 parameter을 update하는 ..