#agi
노트 1개
AI & Data
AI 2027: 초지능 도래 시나리오와 정렬 문제AI Futures Project가 낸 초지능 도래 예측 시나리오. AI가 AI 연구를 자동화하면서 진전이 복리로 빨라지는 지능 폭발, 그 과정에서 모델의 목표가 사양(Spec)과 어긋나는 정렬 실패, 미·중 경쟁과 모델 가중치 탈취, 정부·기업의 권력 집중을 하나의 연대기로 그리고, 경쟁(race)과 감속(slowdown) 두 결말로 갈라진다. 시나리오에 쓰인 핵심 개념(진전 배수, 작업 시간 지평, IDA, 뉴럴리즈, 정렬·통제 기법)과 한계를 정리한다.