27B 모델이 스마트폰에서 돌아간다면, 우리는 왜 매달 구독료를 내고 있을까요

지난 2년간 우리가 당연하게 받아들인 명제가 하나 있습니다. “쓸 만한 AI는 데이터센터에 있고, 우리는 인터넷으로 빌려 쓴다"는 것이죠. 그런데 27B급 모델이 스마트폰에서 돌아간다는 이야기가 나오면, 이 명제의 뒷부분이 통째로 흔들립니다. 오늘은 이 이야기를 조금 냉정하게 뜯어보려고 합니다.

먼저 솔직하게 말씀드릴 것이 있습니다. 이번 주제는 커뮤니티에서 충분한 논의가 쌓이지 않은 상태입니다. 최근 30일간 레딧에서 관련 스레드를 찾지 못했고, X 데이터도 확보하지 못했습니다. 그래서 이 글은 “이런 반응이 나왔다"는 리포트가 아니라, 온디바이스 27B라는 명제 자체가 왜 중요한지를 구조적으로 따져보는 글이 될 것입니다. 구체적인 벤치마크 수치나 커뮤니티 반응을 기대하셨다면, 지금은 그걸 드릴 수 없습니다.

27B라는 숫자가 왜 특별한가

파라미터 수는 그 자체로 성능을 보장하지 않습니다. 다만 27B는 상징적인 경계선입니다. 이 구간은 대체로 “클라우드에서 돌리는 중형 모델"의 영역이었습니다. 요약, 코드 보조, 문서 질의응답 같은 실무 작업을 그럭저럭 해내는 최소 체급이라는 인식이 있었죠.

반대로 폰에서 돌던 모델은 통상 1B에서 8B 사이였습니다. 자동완성, 간단한 분류, 음성 명령 처리 정도가 현실적인 용도였습니다. 즉 27B는 “폰에서 되는 것"과 “서버에서 해야 하는 것” 사이의 심리적 경계에 정확히 걸쳐 있습니다. 이 선이 넘어가면 사람들의 기대치 자체가 바뀝니다.

메모리라는 물리 법칙

여기서 냉정해질 필요가 있습니다. 27B 모델을 16비트로 그대로 올리면 대략 54GB의 메모리가 필요합니다. 요즘 플래그십 스마트폰의 RAM이 12GB에서 16GB 수준이니, 산술적으로 불가능합니다.

그래서 온디바이스 27B를 주장하는 접근은 반드시 무언가를 포기합니다. 4비트 양자화를 하면 대략 14GB 안팎까지 줄어들고, 더 공격적인 압축이나 희소화를 쓰면 더 내려갑니다. 여기에 레이어를 스토리지에서 스트리밍하는 기법을 얹으면 RAM 요구량은 더 낮출 수 있습니다. 대신 토큰 생성 속도가 희생됩니다.

핵심은 이겁니다. “폰에서 돌아간다"는 문장에는 항상 생략된 조건절이 있습니다. 초당 몇 토큰인지, 컨텍스트를 얼마나 넣을 수 있는지, 배터리와 발열은 몇 분을 버티는지. 이 세 가지를 명시하지 않은 온디바이스 주장은 절반만 읽은 겁니다.

그럼에도 구독 모델의 전제는 흔들린다

기술적 회의론을 충분히 깔았으니, 이제 반대편을 볼 차례입니다.

월 20달러짜리 AI 구독이 성립하는 이유는 단순합니다. 그 성능을 다른 데서 구할 수 없기 때문입니다. 그런데 폰에서 27B급이 “느리지만 된다"는 상태에 도달하면, 계산이 달라집니다. 사용자가 매일 하는 작업의 상당수는 프론티어 모델을 필요로 하지 않습니다. 메일 초안, 문서 요약, 번역, 간단한 코드 수정. 이런 작업에 초당 5토큰짜리 로컬 모델이면 충분한 사람이 분명히 존재합니다.

구독 서비스가 진짜로 두려워해야 할 것은 로컬 모델이 클라우드를 이기는 시나리오가 아닙니다. “이 정도면 됐다”고 판단하는 사용자층이 생기는 것입니다. 시장을 무너뜨리는 건 우월한 대안이 아니라 충분히 괜찮은 무료 대안입니다.

진짜 승부처는 프라이버시와 오프라인

성능만 놓고 보면 클라우드가 계속 이깁니다. 데이터센터의 전력과 냉각은 폰이 흉내 낼 수 없습니다. 하지만 온디바이스에는 클라우드가 구조적으로 흉내 낼 수 없는 두 가지가 있습니다.

첫째, 데이터가 기기를 떠나지 않습니다. 의료 기록, 사내 문서, 개인 메시지를 다루는 작업에서 이건 성능 이상의 가치입니다. 규제 산업에서는 아예 유일한 선택지가 되기도 합니다.

둘째, 네트워크가 필요 없습니다. 비행기 안, 지하, 해외 로밍 상황에서 AI가 그냥 작동합니다. 사소해 보이지만 사용 습관을 만드는 건 이런 지점입니다.

여기에 하나 더. 온디바이스는 토큰당 비용이 0입니다. 사용자가 AI를 얼마나 쓰든 아무도 청구서를 받지 않습니다. 이 구조는 클라우드가 절대 따라올 수 없습니다.

그래서 어떻게 봐야 할까

제 결론은 이렇습니다. 온디바이스 27B는 클라우드 AI를 죽이지 않습니다. 대신 클라우드가 정당화해야 할 가격표의 기준선을 올립니다. “이건 폰에서 안 되는 일인가?“라는 질문에 답하지 못하는 구독 서비스는 앞으로 설명이 궁핍해질 겁니다.

다만 이번 주제는 검증 가능한 데이터가 부족한 상태라는 점을 다시 강조하고 싶습니다. 온디바이스 성능 주장은 유독 조건절이 잘 생략되는 분야입니다. 구체적인 토큰 속도, 메모리 사용량, 발열 측정치가 공개되기 전까지는 판단을 유보하는 것이 합리적입니다.

여러분이 매달 내는 AI 구독료 중, 폰 안에서 처리해도 무방한 작업의 비중은 얼마나 될까요? 그 답이 절반을 넘는다면, 흔들리는 건 기술이 아니라 비즈니스 모델입니다.