스케일과 지능 유틸리티

핵심: 코딩 자동화가 야망의 크기를 바꿨다

적당한 토큰 비용으로 100명짜리 엔지니어링 팀이 하던 일을 작은 팀 하나가 할 수 있게 됐다. 감당할 수 있는 문제의 크기, 움직이는 속도, 동시에 벌일 수 있는 일의 양이 모두 달라진다.

다만 남이 「이 문제를 풀어라」라고 내줄 수 있는 아이디어는 이미 많은 사람이 하고 있다. 찾을 것은 자동 코딩 이전에는 불가능했고, 아직 뻔하지 않고, 몇 곳만 붙어 있는 문제다.

스케일: 합의보다 더 멀리 키운다

경험칙

가장 흥미로운 결과는 대부분 규모에서 나오는 창발 속성이거나, 합의가 예상한 지점을 넘어서도 규모가 계속 보상을 주는 경우에서 나온다. 만족스러운 이론은 없지만 경험적으로는 꾸준히 맞는다.

영역	규모에서 생긴 것
AI 모델	스케일링 법칙. 키울수록 계속 좋아졌다
연구	똑똑한 사람을 한 문제에 더 많이 모으면 생기는 효과
기업	여러 형태의 규모의 경제
스타트업 액셀러레이터	배치를 키우자 생긴 배치 안의 네트워크 효과. 작은 규모에서는 존재하지 않는 현상이다

판단 기준은 이렇다. 작은 규모에서 이미 흥미롭게 작동하고, 아무도 시도하지 않은 규모까지 밀 수 있다면 대개 미는 편이 옳다. 그리고 대부분은 충분히 밀지 않는다. 「규모에 따라 좋아지는 건 이미 보였으니 더 키울 이유가 없다」는 반대가 가장 흔한 함정이다.

왜 다들 안 키우나: 시스템 문제로 쪼갠다

규모를 키우면 무언가가 가속적으로, 예측할 수 없게 깨진다. 그래서 「작게 하자」는 똑똑한 반대가 늘 있다. 넘는 방법은 반대 이유를 영역별로 쪼개 하나씩 푸는 것이다.

반대 이유	모델 스케일링에서의 모습
기술적으로 가능한가	1만~10만 GPU에 걸친 학습은 전례가 없었다. 엔지니어링 인력이 대량으로 필요하다
자본	그 돈을 어떻게 마련하고 리스크를 어떻게 감당하나
사업	이걸로 언젠가 사업이 되나
문화	「컴퓨트를 한 프로젝트에 몰지 말고 나누자」는 연구 조직의 반발

시스템에서 가장 고치기 어려운 부분은 사람이다. 분명한 목표, 거기까지 가는 분명한 계획, 가는 길에 어떻게 결정할지에 대한 분명한 답이 필요하다. 「우리는 이것에 건다. 틀리면 실패한다. 이유는 이것이다」라고 못 박는 것이 분산 포트폴리오 요구보다 강하다. 또 하나의 장애물은 사람이 지수 함수를 직관적으로 믿지 못한다는 점이다. 스케일링·매출·조직 복잡도의 지수적 성장을 받아들이게 하려면 제1원리부터 함께 따지는 시간이 든다.

킬러 앱은 사용자가 찾는다

원칙	뜻
사용자가 좋아하는 걸 보고 그걸 하라	만든 쪽이 의도한 쓰임보다 사용자가 실제로 하는 일(예: 범용 모델 API로 그냥 대화하기)이 제품의 방향을 알려 준다. ChatGPT가 이렇게 나왔다
별로인데도 자라는 제품은 확실한 히트다	트래픽이 출렁여도 고점이 매번 높아지면 신호다. 모델이 더 좋아질 수 있다면 더 그렇다

활성화 에너지만 넘기면 이미 쌓여 있던 쓸모가 한꺼번에 드러난다. 돌이켜 보면 초기 모델의 품질은 낮았지만 수요는 있었다.

코드는 모델이 컴퓨터를 조작하는 손발이고, 로봇은 물리 세계를 조작하는 손발이다. 충분히 똑똑한 모델에 두 액추에이터를 달면 지능이 세상에서 실제로 일을 한다. 코딩 에이전트가 먼저 쓸모를 증명한 이유다.

사전 학습 → 중간 학습 → 사후 학습 → RL 피드백 루프라는 지금의 표준 파이프라인(LLM은 무엇을 하고 왜 작동하나)도 최적이라는 근거는 없고, 언젠가 크게 다시 쓰일 가능성이 높다. 그 최적 해를 찾는 일 자체를 AI에게 맡길 연구 문제로 본다.

지능은 새 유틸리티다

「전기」가 아니라 「밤의 빛」을 판다

새 유틸리티는 전기, 인터넷, 물 정도로 드물어 선례가 적다. 전기가 처음 보급될 때는 아무도 전기가 무엇이고 왜 필요한지 몰랐고 위험해 보였다. 그래서 전기 대신 「밤의 빛(light at night)」 이라는 구체적 효용을 팔았다.

지능도 같다. 모든 곳에 지능 구독을 꽂아 쓰는 세상이 오더라도 「지능을 판다」는 말은 와닿지 않는다. 지능의 「밤의 빛」에 해당하는 구체적 효용을 찾아야 한다. 다만 비유는 맥락을 공유하는 집단 안에서만 쓸모 있고, 맥락 없이 퍼지면 잘못된 유추가 쌓인다.

소비자는 칩이 아니라 토큰(혹은 그 위)을 산다

「컴퓨트가 유틸리티인가, 토큰이 유틸리티인가」의 답은 추상화 층이다. 사용자는 하드웨어가 어디 있고 어떤 칩인지 신경 쓰지 않는다. 많이 쓸 수 있나, 싼가, 일을 잘하나만 본다. 늘 돌아가는 개인 에이전트의 시대에는 토큰보다 한 층 위로 올라갈 수 있다. 휴대폰 요금처럼 통화 시간과 데이터를 사면서 기지국은 생각하지 않는 것과 같다. AI 플랫폼 전환의 「모델은 SQL 같은 안정된 층」과 같은 방향이다.

과소 투자된 곳: 추론 스택

좋은 모델은 누가 무엇을 하든 빠르게 나온다. 반면 엄청난 양의 싼 지능을 규모 있게 전달하는 일에는 투자가 부족하다. 프런티어 연구소는 상당 부분 추론 회사가 되어야 한다. 서빙의 실제 병목은 LLM 서빙의 병목에 있다.

컴퓨트 부족은 계속된다

AI 수요는 가격에 따라 완전히 달라진다. 가격이 10분의 1이 되면 수요는 다른 규모가 된다. 모델이 충분히 똑똑하고 싸지면 수요에는 사실상 상한이 없다. 좋은 개인 에이전트가 있으면 10개, 100개를 동시에 돌리고 싶어진다. 그래서 진보가 계속되는 한 부족은 사실상 영구적이고, 추론 효율과 하드웨어 공급이 늘어도 수요가 더 빨리 늘 수 있다.

앞으로의 갈림길

갈림길	내용	입장
민주화 vs 집중	기술이 소수 기업에 모여 부의 상당 부분을 차지하는 끌개 상태가 있다. 안전을 이유로 집중을 옹호하는 논리도 나온다	집중은 불안정하고 불공정하며 정렬 실패에 취약하다. 위험을 감수하더라도 기술을 널리 퍼뜨린다
경제 모델	기본 소득, 기업 지분 분배, 현 체제 유지 등	매달 고정 현금보다 소유 지분이 사람의 심리에 더 맞는다. 레버리지가 노동에서 자본으로 옮겨 갈수록 모두가 자본의 한 조각을 갖는 시민 자산 펀드(노르웨이 국부 펀드 같은)가 바람직하다
컴퓨트 분배	컴퓨트가 가장 중요한 유틸리티가 되고 수급이 크게 어긋나면	컴퓨트를 어떻게 공평하게 나눌지가 큰 쟁점이 된다

과학적 신념과 정체성

「LLM은 막다른 길」이라는 주장에 대한 반론은 경험적이다. 모델은 어떤 면에서는 이미 사람을 크게 넘었고, 긴 호흡의, 판단이 중요한 작업에는 여전히 약하다. 수학처럼 「안 될 것」이라던 영역에서도 미해결 문제를 푸는 결과가 나오고 있다.

교훈은 양방향이다. 어떤 것이 된다/안 된다에 정체성을 걸면, 데이터가 반대를 가리킬 때 진실을 보지 못한다. 스케일링이 무엇을 못 할지 지나치게 확신하는 것도, 무조건 된다고 믿는 것도 같은 함정이다.

교육은 다시 설계돼야 한다

AI 이전 세상처럼 가르치고 평가하면 생각하는 힘이 퇴화한다. 교육 체계는 AI 보급 속도만큼 스스로 바뀌지 않으므로 의도적으로 다시 설계해야 한다.

가르칠 것	이유
기계가 더 잘해도 가르치는 것 (글쓰기, 프로그래밍)	생각하고 배우는 메타 기술을 길러 준다. 아무에게도 보여 주지 않을 글을 쓰는 것도 생각을 정리하기 위해서다
완전히 바꿔야 하는 것	나머지 대부분. AI를 써야만 풀 수 있지만 여전히 머리를 더 쓰고 새로운 것을 찾아야 하는 과제로 바꾼다

당장 쓸모없어 보이는 분야를 넓게 얕게 배우는 것도 관점을 준다.

정리

작게 작동하는 것을 아무도 안 해 본 규모로 민다. 창발 속성은 그 규모에서만 보인다. 깨지는 것은 기술·자본·사업·문화로 쪼개 하나씩 푼다.
조직에는 목표·계획·의사결정 방식을 못 박고, 지수 함수를 믿지 못하는 직관과 시간을 들여 싸운다.
킬러 앱은 사용자 행동에서 찾는다. 별로인데도 자라는 제품은 확실한 신호다.
지능은 유틸리티가 되고, 소비자는 토큰이나 그 위 층을 산다. 팔아야 할 것은 「지능」이 아니라 구체적 효용이다.
병목은 추론과 컴퓨트다. 싸지면 수요에는 사실상 상한이 없다.

버그 제보