지능을 신처럼 떠받드는 우리, 사이비 신도가 된 걸까

요즘 테크 업계에서 ‘지능(intelligence)‘이라는 단어는 거의 성역이 됐습니다. AI가 더 똑똑해지면 모든 문제가 풀린다는 믿음, 다들 한 번쯤 들어보셨을 겁니다. 그런데 해커이자 comma.ai 창업자인 조지 호츠(geohot)가 여기에 정면으로 시비를 겁니다. “우리가 지능을 종교처럼 떠받드는 사이비에 빠진 건 아니냐"는 겁니다. 오늘은 이 도발을 한번 뜯어보겠습니다.

솔직히 먼저 짚고 넘어갈 게 있습니다. 이 주제는 아직 커뮤니티에서 크게 불붙은 논쟁은 아닙니다. 지난 한 달간 관련 대화는 많지 않았고, 핵심은 해커뉴스에 올라온 “AI 2040 and the cult of intelligence"라는 글 하나입니다. 118점에 댓글 147개가 달렸는데요. 규모는 크지 않아도, 오가는 이야기의 온도는 꽤 뜨거웠습니다.

‘지능 숭배’라는 표현이 왜 나왔나

호츠의 핵심 주장은 이렇습니다. 실리콘밸리가 ‘지능’을 일종의 만능 열쇠로 신격화하고 있다는 거죠. 더 똑똑한 AI가 나오면 기후 위기도, 질병도, 경제 문제도 알아서 해결될 거라는 서사 말입니다.

문제는 이 믿음이 검증보다 신앙에 가깝다는 점입니다. ‘컬트(cult)‘라는 단어를 쓴 이유가 여기 있습니다. 사이비 종교는 교리를 의심하는 걸 허용하지 않죠. 지능이 곧 구원이라는 서사도, 한번 받아들이면 반박하기 어려운 구조를 갖습니다. 똑똑함 자체를 최고선으로 놓으면, “그게 정말 좋은 거냐"는 질문 자체가 봉쇄됩니다.

여기서 ‘지능’이라는 말을 잠깐 풀어보겠습니다. 우리가 흔히 쓰는 지능은 문제를 푸는 능력입니다. 하지만 어떤 문제를 풀지, 왜 풀어야 하는지는 지능이 정해주지 않습니다. 그건 가치의 영역이죠. 호츠의 지적은 바로 이 지점을 파고듭니다.

“극단적이지만 틀린 말은 아니다”

댓글에서 가장 눈에 띈 반응은 “극단적인 예시지만 그가 틀린 건 아니다”였습니다. 표현은 과격해도 핵심은 정곡을 찔렀다는 평가입니다.

또 다른 댓글은 짧고 강렬했습니다. “그래, 그거 끔찍하다(Yep, that’s horrifying).” 무엇이 끔찍하다는 걸까요. 지능이 소수의 손에 집중되는 미래를 두고 한 말입니다. 강력한 AI가 특정 기업이나 국가에 독점되면, 그 지능은 도구가 아니라 권력이 됩니다.

이 대목에서 세 번째 반응이 이어집니다. “누구나 강력한 인공지능 상자를 소유할 수 있을 거라는 건 지나치게 낙관적인 생각”이라는 겁니다. 개인이 강력한 AI를 자유롭게 갖는 미래는 오지 않을 거라는 냉소인데요. 규제든, 비용이든, 기업의 통제든, 어떤 형태로든 문턱이 생긴다는 얘기입니다.

낙관론과 통제 사이의 진짜 갈등

이 논쟁의 밑바닥에는 오래된 긴장이 깔려 있습니다. AI의 힘을 개방할 것이냐, 통제할 것이냐입니다.

한쪽은 이렇게 말합니다. 강력한 AI가 소수에게만 있으면 위험하니, 누구나 쓸 수 있게 열어야 한다. 오픈소스 진영의 논리죠. 반대쪽은 정반대입니다. 너무 강력해서 아무나 못 갖게 막아야 한다는 겁니다.

문제는 두 논리가 각자 나름 설득력이 있다는 점입니다. 개방하면 악용 위험이 커지고, 통제하면 권력 집중 위험이 커집니다. 호츠가 ‘컬트’라고 부른 지점은, 이 어려운 선택을 “지능이 알아서 해결해줄 것"이라는 믿음으로 건너뛰려는 태도입니다. 판단을 지능에 외주 주는 셈이죠.

왜 지금 이 이야기가 나오는가

‘2040’이라는 숫자가 눈에 띕니다. 당장의 문제가 아니라, 앞으로 15년 뒤를 내다본 논의라는 뜻입니다.

지금 AI는 매년 눈에 띄게 강해지고 있습니다. 이 속도라면 2040년쯤엔 상상 이상의 능력을 가진 시스템이 나올 수 있습니다. 그렇다면 지금 우리가 어떤 서사를 믿느냐가, 그 미래의 모양을 결정합니다. 지능을 무조건적으로 떠받드는 태도로 갈 것이냐, 아니면 지능을 도구로 냉정하게 다룰 것이냐. 호츠는 지금 이 질문을 던져야 한다고 보는 겁니다.

한 가지 덧붙이자면, 이 주장의 무게는 발화자에게서도 나옵니다. 호츠는 AI 회의론자가 아닙니다. 자율주행 회사를 만들고 직접 AI를 다루는 사람입니다. AI를 잘 아는 사람이 AI 숭배를 경계한다는 점, 그게 이 도발을 흘려듣기 어렵게 만듭니다.

지능은 강력한 도구입니다. 하지만 도구를 신으로 모시는 순간, 우리는 그 도구를 어떻게 쓸지 스스로 판단하는 힘을 잃습니다. 더 똑똑한 AI가 정말 더 좋은 세상을 만들어줄까요, 아니면 그저 더 강력한 무언가를 만들 뿐일까요. 여러분은 지금 ‘지능’을 도구로 보고 계신가요, 아니면 이미 신으로 모시고 계신가요.