LeCun "스파스 오토인코더 스택으로 소량 레이블 데이터에서도 근 SOTA" — 자기지도학습 재론

Yann LeCun 이 예전 트윗을 인용하며 "작동한다"고 재확인했습니다. 사전학습된 스파스 컨볼루셔널 오토인코더를 쌓아서 Caltech 101 같은 소량(클래스당 30샘플) 레이블 데이터로 미세조정해도 near-SOTA 성능을 냈다는 주장이네요. LeCun 이 최근 JEPA 와 자기지도학습을 계속 밀고 있는 맥락에서, 이번엔 고전적 접근의 효용을 다시 강조한 셈입니다.

• #yann-lecun
• #self-supervised-learning
• #autoencoder
• #caltech-101
• #jepa

Yann LeCun@ylecun