News·6시간 전
AI 거버넌스 감시 시스템 'AML for AI' 제안 — OSINT 기반 훈련 탐지
LessWrong 에 'AML for AI' 개념이 제안됐습니다. AI 인프라 핵심 노드를 추적해 대규모 훈련 준비나 실행을 탐지하는 시스템으로, EU AI Act 의 FLOPs 임계값(약 10²⁵ FLOPs) 위반 감시도 염두에 둡니다. 법인·하드웨어 조달·물류 등 오픈소스 정보(OSINT)를 종합해 숨은 데이터센터나 훈련을 찾는 게 목표입니다.
AI 거버넌스 감시를 위해 인프라 노드를 추적하는 'AML for AI' 아이디어가 LessWrong 에서 소개됐습니다.
골자
- 개념 — AI 인프라의 핵심 노드(법인·조달·물류)를 OSINT 로 추적해 대규모 훈련 준비나 실행을 탐지하는 시스템.
- 배경 — EU AI Act 는 약 10²⁵ FLOPs 이상 훈련을 체계적 위험으로 분류, 제공자에 신고 의무를 부과합니다.
- 유사 사례 — SemiAnalysis AI Datacenter Model(유료)이나 우크라이나의 공공조달 사이트 MCP 가 선례입니다.
추적 대상·방법
- 법인 — OpenCorporates, OpenSanctions 으로 페이퍼 컴퍼니·소유 체인·신규 의심 업체를 모니터링.
- 하드웨어 조달 — TED, SAM.gov 같은 입찰 공고에서 GPU·메모리·랙·냉각·발전기 구매를 포착.
- 물류 — 서버 장비의 수출입 데이터를 추적해 대규모 반입을 감지.
향후
- MVP 부터 시작해 점진적으로 확장 가능하며, 상당한 인력과 자금이 필요할 것으로 예상됩니다.
- 국제 협정(예: FLOPs 제한)이 생길 경우, 이 시스템이 rogue 데이터센터 탐지에 활용될 수 있습니다.
편집자 한 줄
OSINT 기반 감시는 금융 AML 과 달리 AI 인프라의 물리적 흐름을 따라가므로 상대적으로 위양성이 낮을 수 있지만, 데이터 접근성과 국제적 협력이 관건입니다.
- #aml-for-ai
- #ai-governance
- #osint
- #eu-ai-act
- #training-detection
LessWrong