News·2개월 전
AI R&D 완전 자동화, 소프트웨어 특이점 없어도 진행 속도 크게 높일 것
LessWrong 게시글에 따르면, AI R&D가 완전 자동화되면 소프트웨어 특이점(지능 폭발)이 없더라도 진행 속도가 크게 빨라질 것으로 예상됩니다. 자동화로 인한 일회성 속도 향상과 추가 컴퓨팅 자원의 효용 증가가 주요 요인입니다. 모델 시뮬레이션에 따르면, r=0.7(진행 속도가 점차 느려지는 시나리오)에서도 자동화 후 첫해에 3.5년 분량의 진전이 가능합니다.
AI R&D 완전 자동화가 소프트웨어 특이점 없이도 진행 속도를 크게 높일 수 있다는 분석이 나왔습니다.
골자
- 정의 — 소프트웨어 특이점은 AI R&D 완전 자동화 후 알고리즘 개선 속도가 가속화되어 1년에 4년 이상의 진전이 이루어지는 현상을 말합니다.
- 주장 — 특이점 없이도 자동화는 두 가지 이유로 진행 속도를 크게 높입니다.
- 첫째 — 자동화 자체의 일회성 속도 향상이 상당히 큽니다.
- 둘째 — 인간 대신 AI가 R&D를 수행하면 추가 컴퓨팅 자원의 효용이 증가합니다.
배경·맥락
- 이전 논의(How quick and big would a software intelligence explosion be?)와 AI Futures Model을 기반으로 분석했습니다.
- 중간 매개변수와 r=0.7(진행 속도 감소) 조건에서 첫해 3.5년 진전이 예상되며, 이는 상당한 수준입니다.
- r>1이면 특이점이 발생하지만, r<1이어도 큰 속도 향상이 가능합니다.
자금 용처·향후
- 추가 컴퓨팅 자원은 더 큰 실험과 훈련뿐 아니라 더 많은 AI R&D 인력 확보에도 사용될 수 있습니다.
- 인간이 병목이었을 때와 달리, AI가 R&D를 수행하면 컴퓨팅 자원의 한계 효용이 증가합니다.
편집자 한 줄
r=0.7에서도 첫해 3.5년 진전은 주목할 만한 수치지만, 실제 기대치보다 높게 설정된 모델 결과라는 점을 감안해야 합니다.
- #ai-rd
- #automation
- #speedup
- #singularity
- #lesswrong
LessWrong