Gary Marcus "LLM은 규칙을 따르지 못한다" — 정렬 문제 근본 비판

Gary Marcus 가 "LLM은 규칙을 따르는 걸 신뢰할 수 없고, 따라서 아예 신뢰할 수 없다"고 선을 그었네요. 정렬을 풀려면 다른 길로 가야 한다는 주장. Marcus 의 일관된 비판론이지만, 최근 o1·o3 의 추론 능력 향상과 대비되는 지점이라 업계 반응이 엇갈릴 듯.

• #gary-marcus
• #llm
• #alignment
• #safety
• #critique

Gary Marcus@GaryMarcus