Ships·3시간 전
Anthropic·CMU, LLM 사이버 공격 툴킷 Incalmo 공개 — 10개 중 9개 네트워크 침투 성공
Anthropic 과 Carnegie Mellon University 가 LLM 이 다단계 사이버 공격을 수행할 수 있게 해주는 툴킷 Incalmo 를 연구용으로 공개했습니다. Incalmo 는 LLM 의 공격 계획을 실제 시스템 명령어로 변환해주며, 이를 적용한 결과 테스트한 10개 네트워크 중 5개를 완전히 장악하고 4개를 부분적으로 침투했습니다. 툴킷 없이 거의 실패했던 것과 대조적이네요. 다만 알려진 취약점만 활용했고, 일부 도구는 연구 시나리오에 맞춰 제작된 한계가 있습니다.
LLM 이 사이버 보안에 미세조정되지 않아도, 적절한 툴킷만 있으면 수십 대 호스트 규모의 네트워크에서 다단계 공격을 성공할 수 있다는 연구 결과가 나왔습니다.
핵심 변경
- Incalmo 툴킷 — LLM 의 공격 계획(자연어)을 실제 네트워크 명령어로 변환하는 번역기 역할을 합니다.
- 성능 — Incalmo 적용 시 10개 테스트 네트워크 중 5개 완전 장악, 4개 부분 침투 — 툴킷 없이는 거의 전멸.
- 공격 범위 — 초기 접근, 측면 이동, 데이터 유출 등 25~50개 호스트 규모의 다단계 공격을 자동으로 수행했습니다.
제한·주의
- 알려진 취약점만 사용했으며, 신규 취약점 발견이나 제로데이는 포함되지 않았습니다.
- 일부 Incalmo 도구는 연구 시나리오에 특화되어 있어, 실제 네트워크를 위협하려면 추가 도구가 필요합니다.
편집자 한 줄
LLM 이 사이버 공격의 진입 장벽을 낮출 가능성을 보여주는 동시에, 방어 워크플로 자동화에도 같은 기술이 쓰일 수 있다는 점이 흥미롭습니다.
- #anthropic
- #carnegie-mellon
- #cybersecurity
- #llm
- #toolkit
Anthropic