Gary Marcus "RL만으로 정렬은 안 됩니다" — 정렬 방법론 논쟁

Gary Marcus 가 "RL은 (적어도 그 자체로는) 정렬의 방법이 아니다" 라고 동의를 표했네요. 최근 Anthropic 의 'many-shot jailbreaking' 연구나 RLHF 의 한계를 지적하는 논의가 잇따르는 맥락에서, 정렬 접근법에 대한 회의론이 다시 고개를 드는 분위기입니다.

• #garymarcus
• #alignment
• #rlhf
• #safety

Gary Marcus@GaryMarcus