paper summary and review/Meta-learning(Supervised)

(ICLR, 2021) Free Lunch for Few-shot Learning: Distribution Calibration

Huiwon 2021. 9. 12. 22:46
728x90

class가 비슷할수록 feature space에서 distribution의 mean, variance가 비슷하다는걸 이용해서 few-shot learning의 성능을 향상시켰다.

 

특별히 model을 제시한건 아니고, 있던 모델을 사용했는데

target class를 base / novel로 나눴을 때

MAML같은 모델은 보통 base로 parameter가 학습하기에 가장 좋은 상태로 만들고 novel에 대한 N way K shot에 대해서 학습을 하지만,

여기선 base class들의 feature distribution을 만들고, novel class에 대해서 n way k shot problem의 데이터들을 가까운 base class들의 mean, variance들과 평균을 내서 novel class들의 distribution을 만들어냈다.

그리고 그 novel class들의 distribution에서 sampling한 데이터로 일반적인 classification처럼 학습시켰다.