← Back to feed
Papers·2일 전

FlashRT: 장문 LLM 보안 위협 평가 최적화 — 2~7배 속도 향상, GPU 메모리 2~4배 절감

FlashRT: 장문 LLM 보안 위협 평가 최적화 — 2~7배 속도 향상, GPU 메모리 2~4배 절감

Penn State 팀이 장문 LLM(Gemini-3.1-Pro, Qwen-3.5 등) 대상 최적화 기반 프롬프트 인젝션 및 지식 변조 공격의 효율성을 높이는 FlashRT 프레임워크를 공개했습니다. 기존 nanoGCG 대비 2~7배 속도 향상(32K 토큰 기준 1시간→10분 미만)과 GPU 메모리 2~4배 절감(264.1GB→65.7GB)을 달성했으며, TAP, AutoDAN 같은 블랙박스 최적화 방법에도 적용 가능합니다. 다만 32K 컨텍스트 기준 A100 80GB 8대 환경에서 측정된 결과로, 리소스 제약이 있는 환경에서의 효용은 추가 검증이 필요합니다.

Pennsylvania State University

Comments

— 첫 댓글을 남겨보세요 —