AI가 사람보다 비싸다고? 마이크로소프트 내부에서 새어 나온 충격적인 계산서

“AI가 사람을 대체할 것"이라는 말, 지난 2년간 귀에 못이 박히게 들으셨을 겁니다. 그런데 최근 마이크로소프트 내부에서 흘러나온 한 가지 데이터가 이 전제를 정면으로 흔들고 있는데요. 결론부터 말씀드리면, 지금 시점에서 AI 에이전트 한 명을 풀타임으로 돌리는 비용이 사람 직원 한 명의 인건비를 넘어서는 사례가 속속 등장하고 있다는 겁니다.

토큰 단가, 생각보다 만만치 않습니다

일반 사용자가 ChatGPT를 한 달에 20달러 내고 쓸 때는 잘 안 보이던 진실이 있습니다. 바로 API 단위의 토큰 비용인데요. 기업이 AI 에이전트를 실제 업무에 투입하면 이야기가 달라집니다.

에이전트가 한 가지 일을 처리하기 위해 문서를 읽고, 추론하고, 도구를 호출하고, 결과를 검증하는 과정에서 토큰은 기하급수적으로 쌓입니다. 단순 챗봇 한 번 호출에 수백 토큰이라면, 자율적으로 일하는 에이전트는 한 작업당 수십만에서 수백만 토큰을 태우는 일이 흔합니다.

여기에 리즈닝(reasoning) 모델은 사고 과정 자체를 토큰으로 출력하기 때문에 비용이 또 한 번 곱해지는데요. 사람이라면 “음, 이건 이렇게 처리하자"라고 0.5초 만에 끝낼 판단을, AI는 수천 토큰의 사고 흔적을 남기며 처리합니다.

마이크로소프트 내부의 산수

업계에 떠도는 이야기를 종합하면, 마이크로소프트가 자사 코파일럿과 에이전트 제품군의 실제 운영 비용을 계산해봤더니 의외의 결과가 나왔다고 합니다. 일부 복잡한 업무 시나리오에서는 에이전트 한 인스턴스의 월 토큰 비용이 신입 직원 월급에 육박하거나 그것을 넘어선다는 겁니다.

물론 AI는 24시간 일하고, 동시에 여러 일을 처리할 수 있죠. 하지만 그 효율을 다 감안해도, 한 가지 분명한 사실이 드러납니다. “AI = 공짜에 가까운 노동력"이라는 가정은 틀렸다는 거죠.

Citrix가 5월 20일 공개한 ‘AI Agents, Second Brains, and the Enterprise AI Gap’ 영상에서도 비슷한 지적이 나왔습니다. 기업들이 PoC에서는 환상적인 결과를 보고 도입을 결정하지만, 정작 전사 확장 단계에서 인프라 비용에 발목이 잡혀 멈춰선다는 겁니다.

왜 이런 역설이 생겼을까

세 가지 이유가 겹쳐 있습니다.

첫째, 모델이 똑똑해질수록 토큰을 더 많이 씁니다. GPT-3 시절에는 한 번에 답을 뱉어내던 일을, 지금 모델은 단계별로 추론하고 검증하면서 처리합니다. 정확도는 올라가지만 비용도 함께 올라가는 구조죠.

둘째, 에이전트는 ‘대화’가 아니라 ‘작업’을 합니다. 대화는 짧지만 작업은 깁니다. 한 번에 끝나지 않고 여러 단계를 거치며, 각 단계마다 컨텍스트 전체를 다시 읽어들이는데요. 이게 토큰 청구서의 진짜 정체입니다.

셋째, 사람의 인건비는 생각보다 효율적입니다. 신입 직원은 월급 외에 별다른 가변 비용이 없지만, AI 에이전트는 일을 시키면 시킬수록 비용이 직선으로 증가합니다. 일을 많이 시킬수록 손해 보는 구조라면, 그건 이미 노동의 대체재가 아니죠.

Qodo가 짚은 또 다른 관점

같은 날 공개된 Qodo의 ‘Why Developers Are Sleepwalking Through the AI Revolution’ 영상은 다른 각도에서 같은 문제를 지적했는데요. 개발자들이 “AI 코딩 도구가 무료에 가깝다"고 생각하면서 무분별하게 호출하는 사이, 회사 차원에서는 막대한 토큰 청구서가 쌓이고 있다는 겁니다.

특히 자동화된 에이전트가 백그라운드에서 코드베이스 전체를 스캔하고, 테스트를 돌리고, PR을 자동 생성하는 워크플로우에서 비용이 폭증한다고 합니다. “무료처럼 보이는 도구가 가장 비싼 도구”가 되는 역설입니다.

그래서 AI 대체론은 끝났을까

성급한 결론은 금물입니다. 토큰 단가는 지난 2년간 90% 이상 떨어졌고, 추론 효율을 높이는 기술이 매주 쏟아지고 있습니다. 1년 뒤에는 지금 가격의 10분의 1이 될 가능성도 있는데요.

하지만 단기적으로 보면, 기업의 의사결정 공식이 바뀌고 있습니다. “AI로 사람을 줄이자"가 아니라 “AI로 사람의 생산성을 올리자”로요. 신입을 자르고 에이전트를 도입하는 게 아니라, 신입 한 명이 에이전트 다섯 개를 부리는 모델입니다. 패널 토론에서 Panasonic과 New York Life 같은 기업들이 ‘human plus AI workforce’를 강조하고 있는 것도 같은 맥락이죠.

결국 진짜 질문은 “AI가 사람을 대체할까"가 아니라, “이 토큰 청구서를 감당할 만큼 AI가 가치를 만들어내고 있는가”입니다. 여러분 회사의 AI 도입은 지금 어느 쪽인가요. 비용 대비 가치가 정말 나오고 있는지, 한 번쯤 계산기를 두드려볼 시점인 것 같습니다.