← Back to feed
Hypes·11시간 전

Gary Marcus "RL만으로 정렬은 안 됩니다" — 정렬 방법론 논쟁

Gary Marcus "RL만으로 정렬은 안 됩니다" — 정렬 방법론 논쟁

Gary Marcus 가 "RL은 (적어도 그 자체로는) 정렬의 방법이 아니다" 라고 동의를 표했네요. 최근 Anthropic 의 'many-shot jailbreaking' 연구나 RLHF 의 한계를 지적하는 논의가 잇따르는 맥락에서, 정렬 접근법에 대한 회의론이 다시 고개를 드는 분위기입니다.

  • #garymarcus
  • #alignment
  • #rlhf
  • #safety
Gary Marcus
Gary Marcus@GaryMarcus

Comments

— 첫 댓글을 남겨보세요 —