News·3시간 전
에이전트 최적화 능력, 프롬프트와 스캐폴드로 2배 향상 — IRO 사례 연구
LessWrong 의 새로운 연구는 LLM 최적화 태스크(IRO)에서 프롬프트 엘리시테이션과 스캐폴드 방법을 적용해 성능을 약 2배 향상시켰습니다. 기본 설정에서 에이전트의 자원 활용 능력이 과소 활용(under-elicited)되고 있으며, 간단한 개입만으로도 큰 개선이 가능함을 보여줍니다.
LLM 최적화 태스크에서 에이전트의 성능을 프롬프트와 스캐폴드로 두 배 끌어올린 사례 연구입니다.
골자
- 태스크 — 역설계 평가(IRO): 에이전트가 블랙박스 심판의 선호도를 제한된 레이블 예산 내에서 학습해야 하는 LLM 최적화 문제.
- 방법 — 프롬프트 엘리시테이션과 스캐폴드(handoff 등)를 적용해 에이전트의 자원 활용 효율과 효과를 개선.
- 결과 — 모든 자원 예산에서 평가 점수가 약 2배 향상. 예산 10,000 레이블 기준, 개선된 실행이 더 가파르게 상승하고 더 오래 지속됨.
배경·맥락
- LLM 최적화에서 에이전트는 반복적으로 시도를 제출하고 피드백(훈련 메트릭)을 통해 개선합니다. IRO에서 훈련 메트릭은 심판이 레이블링한 점수로, 최종 평가 점수의 노이즈 있는 근사치입니다.
- 기본 문제 — 기본 프롬프트와 스캐폴드에서는 에이전트가 자원을 충분히 활용하지 못해 성능이 제한됨(under-elicited).
자금 용처·향후
- 연구진은 단순한 프롬프트 개입만으로도 큰 성능 향상을 얻을 수 있음을 시사하며, 향후 더 정교한 스캐폴드 설계로 추가 개선 가능성을 열어둡니다.
편집자 한 줄
에이전트의 '과소 활용' 문제를 정량화하고 간단한 해법을 제시한 점이 흥미롭습니다. 실제 배포 환경에서도 비슷한 효과를 볼지 지켜볼 만합니다.
- #llm-optimization
- #agents
- #inverse-rubric-optimization
- #prompt-elicitation
- #scaffolding
LessWrong