구글이 팀닛 게브루를 해고하며 묵살한 경고들, 5년 뒤 전부 현실이 됐다

요즘 AI 이야기를 하다 보면 “환각”, “데이터 편향”, “엄청난 전력 소비” 같은 단어가 빠지지 않습니다. 그런데 이 문제들을 정확히 짚어내고 경고했던 사람이, 5년 전 그 경고 때문에 직장에서 쫓겨났다면 어떨까요. 팀닛 게브루(Timnit Gebru)의 이야기입니다. 지금 우리가 매일 겪는 AI의 부작용은, 사실 2020년에 이미 예고편이 나와 있었습니다.

한 편의 논문에서 시작된 해고

2020년 말, 구글의 AI 윤리팀을 이끌던 팀닛 게브루는 동료들과 함께 논문 한 편을 준비하고 있었습니다. 제목은 “확률적 앵무새의 위험에 관하여(On the Dangers of Stochastic Parrots)“였습니다.

내용은 당시 막 떠오르던 거대언어모델, 그러니까 지금 우리가 쓰는 챗봇들의 조상격인 기술에 대한 경고였습니다. 구글은 이 논문을 발표하지 말 것을 요구했고, 게브루가 이에 반발하는 과정에서 결국 회사를 떠나게 됩니다. 게브루 본인은 해고라고 말했고, 구글은 사직이라고 표현했습니다. 이 표현 차이를 두고도 한참 논쟁이 벌어졌는데요. 분명한 건, 세계 최고 수준의 AI 윤리 연구자가 자신이 몸담은 회사의 핵심 사업을 비판하다가 자리를 잃었다는 사실입니다.

당시 IT 업계의 반응은 둘로 갈렸습니다. “내부 비판자를 쳐낸 빅테크의 전형"이라는 비판과, “회사 방침을 따르지 않은 직원의 문제"라는 옹호가 부딪혔습니다. 구글 직원 수천 명이 게브루를 지지하는 서명에 동참하기도 했습니다.

‘확률적 앵무새’가 정확히 무슨 뜻이었나

논문의 핵심 비유인 “확률적 앵무새"부터 풀어보겠습니다. 앵무새는 말을 따라 하지만, 그 말의 의미를 이해하지는 못하죠.

게브루와 동료들의 주장은 이랬습니다. 거대언어모델은 인터넷에 쌓인 방대한 텍스트를 학습해서, 다음에 올 단어를 확률적으로 그럴듯하게 짜맞추는 기계라는 겁니다. 즉 의미를 이해하는 게 아니라 통계적으로 흉내 낼 뿐이라는 지적이었습니다. 문장이 매끄럽고 똑똑해 보여도, 그 안에 진짜 이해는 없다는 거죠.

이 비유가 중요한 이유가 있습니다. 우리가 AI의 답변을 보고 “이건 진짜 똑똑하다"고 느끼는 순간, 사실은 그럴듯하게 배열된 단어에 속고 있을 수 있다는 경고였기 때문입니다. 5년이 지난 지금, 우리는 이걸 “환각(hallucination)“이라는 이름으로 매일 마주하고 있습니다.

논문이 던진 네 가지 경고

당시 논문이 짚은 위험은 크게 네 가지였습니다. 하나씩 보면 지금 상황과 소름 끼치게 겹칩니다.

첫째, 막대한 환경 비용입니다. 모델을 키울수록 학습에 드는 전력과 탄소 배출이 엄청나게 늘어난다는 지적이었습니다. 요즘 데이터센터 전력 부족과 AI의 전력 소비가 사회 문제로 떠오른 걸 보면, 이 경고는 정확했습니다.

둘째, 편향의 증폭입니다. 인터넷 텍스트를 그대로 학습하면 거기 담긴 차별과 혐오, 편견까지 모델이 빨아들입니다. 데이터가 클수록 통제는 더 어려워집니다. 지금도 AI의 차별적 답변 사례가 끊이지 않죠.

셋째, 의미 없는 유창함의 위험입니다. 앞서 말한 확률적 앵무새 문제입니다. 진짜 이해 없이 그럴듯한 말을 쏟아내면, 사람들은 그걸 믿게 됩니다. 허위 정보 확산의 토대가 되는 셈입니다.

넷째, 방향성에 대한 근본적 질문입니다. 모델을 무작정 키우는 데만 자원을 쏟느라, 정작 언어를 진짜로 이해하는 연구는 뒷전이 되는 것 아니냐는 지적이었습니다.

왜 이 예언은 무시당했나

여기서 진짜 핵심 질문이 나옵니다. 이렇게 정확한 경고가, 왜 그 당시엔 무시당했을까요.

답은 단순합니다. 거대언어모델은 빅테크의 미래 그 자체였기 때문입니다. 모델을 크게 키우는 방향이 곧 돈이 되는 길이었고, 그 길에 브레이크를 거는 목소리는 환영받기 어려웠습니다. 윤리팀의 경고가 사업 부서의 속도를 늦추는 순간, 누가 우선시될지는 어렵지 않게 짐작됩니다.

또 하나는 증명의 시차입니다. 2020년엔 이 경고들이 추상적인 우려처럼 들렸습니다. 환각도, 전력 문제도, 편향도 아직 대중이 피부로 느끼지 못했으니까요. 위험이 눈에 보이지 않을 때 경고는 늘 과장처럼 들립니다. 그리고 위험이 눈에 보일 때쯤이면, 이미 되돌리기엔 너무 멀리 와 있곤 합니다.

게브루는 이후 분산형 AI 연구소(DAIR)를 직접 세우고 빅테크 바깥에서 연구를 이어가고 있습니다. 큰 회사의 돈줄에 얽매이지 않은 독립 연구가 필요하다는 그의 신념이 그대로 담긴 행보입니다.

우리가 진짜 배워야 할 것

오해는 말아야 합니다. 게브루의 경고가 “AI를 쓰지 말자"는 이야기는 아니었습니다. 핵심은 속도보다 방향이었습니다. 무엇을 만들고 있는지, 그 대가는 누가 치르는지를 멈춰서 묻자는 것이었습니다.

지금 우리는 그 답을 비용으로 치르고 있습니다. 환각을 거르는 도구를 따로 만들고, AI 전력 문제로 발전소를 다시 논의하고, 편향을 잡으려 막대한 인력을 투입합니다. 미리 들었다면 더 싸게 해결했을 문제들입니다.

기술의 역사를 보면, 가장 불편한 경고를 가장 먼저 한 사람이 가장 먼저 밀려나는 일이 반복됩니다. 그렇다면 지금 우리 곁에서 무시당하고 있는 또 다른 ‘확률적 앵무새’ 경고는 없을까요. 5년 뒤 “그때 들었어야 했는데"라고 말하지 않으려면, 지금 누구의 목소리에 귀를 기울여야 할까요.