인간만의 '암흑 기술'이라던 아날로그 칩 설계, AI가 뚫었습니다

반도체 설계 세계에는 오래된 농담이 하나 있습니다. “디지털 설계는 공학이고, 아날로그 설계는 흑마법이다.” 디지털 칩은 수십 년 전에 자동화 도구가 거의 다 만들어주는 시대가 왔는데요. 유독 아날로그와 RF(무선 주파수) 칩만은 여전히 소수의 베테랑 엔지니어가 직관과 경험으로 빚어내는 영역으로 남아 있었습니다. 그런데 최근 이 마지막 성역에 AI가 발을 들이기 시작했습니다. 오늘은 왜 이게 작은 사건이 아닌지 풀어보겠습니다.

왜 아날로그/RF 칩만 자동화가 안 됐을까

먼저 배경부터 짚어야 합니다. 우리가 쓰는 칩 대부분은 디지털입니다. 0과 1, 켜짐과 꺼짐의 세계죠. 이쪽은 EDA(전자 설계 자동화) 도구가 고도로 발달해서, 엔지니어가 코드처럼 동작을 기술하면 도구가 알아서 수억 개의 트랜지스터를 배치하고 연결합니다.

문제는 아날로그입니다. 스마트폰의 와이파이, 5G 모뎀, 블루투스 같은 무선 통신을 담당하는 RFIC(무선 주파수 집적회로)가 대표적인데요. 여기서는 신호가 0과 1이 아니라 연속적인 파형으로 흐릅니다. 그리고 이 파형은 주변 환경에 극도로 민감합니다.

배선 하나가 1마이크로미터만 더 길어져도 신호가 미묘하게 틀어집니다. 옆 회로에서 새어 나온 전자기 간섭이 성능을 망칩니다. 같은 설계도라도 공장에서 만들 때마다 미세하게 결과가 달라집니다. 이런 변수가 수백 개씩 얽혀 있으니, 정해진 공식으로 풀 수가 없습니다. 결국 경험으로 익힌 감각에 의존할 수밖에 없었던 겁니다.

‘암흑 기술’이라는 표현이 과장이 아닌 이유

업계에서 RF 설계를 두고 “dark art”, 즉 암흑 기술이라 부르는 건 단순한 멋부림이 아닙니다.

베테랑 RF 엔지니어 한 명을 길러내는 데 10년 가까이 걸린다는 말이 있습니다. 같은 사양의 칩을 두고도 누가 설계하느냐에 따라 전력 소모와 성능이 크게 갈립니다. 더 답답한 건, 그 노하우가 문서로 잘 정리되지도 않는다는 점입니다. “왜 이 트랜지스터를 여기에 뒀냐"고 물으면 “해보니까 이게 제일 잘 나오더라"는 답이 돌아오는 식이죠.

그래서 이 분야는 인력 병목이 심합니다. 전 세계적으로 숙련된 아날로그/RF 설계자가 늘 부족합니다. 5G를 넘어 6G, 위성 통신, 자율주행 레이더까지 무선 칩 수요는 폭발하는데, 그걸 설계할 사람은 한정돼 있습니다. 자동화의 압박이 거셀 수밖에 없는 구조입니다.

AI는 이 문제를 어떻게 공략하나

핵심은 AI가 인간과 다른 방식으로 접근한다는 데 있습니다.

인간 엔지니어는 머릿속의 직관으로 “이쯤이면 되겠지” 하고 설계안을 잡은 뒤 시뮬레이션으로 검증합니다. 한 번 돌리는 데 시간이 오래 걸리니, 시도할 수 있는 횟수가 제한적입니다. 반면 AI, 특히 강화학습 기반 접근은 사람이 자는 동안에도 수만, 수십만 개의 설계안을 던지고 결과를 학습합니다.

쉽게 비유하자면 이렇습니다. 인간은 바둑 고수가 정석을 두는 방식이고, AI는 알파고가 인간이 안 두던 수를 발견하는 방식입니다. 실제로 AI가 내놓은 회로 배치가 인간 엔지니어 눈에는 “이렇게 해도 돼?” 싶은 비직관적 형태인데, 막상 측정해보면 성능이 더 좋은 사례들이 나오고 있습니다.

여기에 최근의 거대 언어모델 흐름도 더해집니다. 설계 명세를 자연어로 이해하고, 회로 설계용 코드를 생성하고, 시뮬레이션 결과를 해석해 다음 수정 방향을 제안하는 식의 도구들이 등장하고 있습니다. 그동안 한 사람의 머릿속에만 있던 암묵지를, 모델이 데이터로 흡수하기 시작한 겁니다.

아직 ‘AI가 다 한다’고 말하긴 이르다

다만 흥분을 가라앉힐 필요도 있습니다.

지금의 AI는 정해진 회로 토폴로지 안에서 소자 값을 최적화하거나 배치를 다듬는, 비교적 잘 정의된 문제에서 강합니다. 반면 “완전히 새로운 구조의 RF 회로를 백지에서 창안하라"는 수준의 창의적 설계는 여전히 인간의 영역입니다. AI가 내놓은 결과를 믿고 양산에 넣으려면 인간 전문가의 검증이 필수입니다.

게다가 RF 분야는 학습에 쓸 양질의 데이터 자체가 귀합니다. 기업들이 자사의 설계 노하우를 외부에 풀 리 없으니까요. 그래서 당분간은 AI가 베테랑을 대체한다기보다, 베테랑 한 명이 AI를 도구 삼아 열 명 몫을 해내는 그림에 가까울 겁니다. 인력 병목을 완전히 없애진 못해도, 크게 완화하는 방향인 셈이죠.

마무리: 자동화의 마지막 전선이 열렸다

디지털 설계가 자동화되던 시절, 많은 엔지니어가 “내 일은 절대 기계가 못 한다"고 믿었습니다. 그 마지막 보루였던 아날로그/RF마저 균열이 가고 있다는 건, 단순히 칩 하나 더 빨리 만든다는 의미를 넘어섭니다. 인간만의 직관과 암묵지라 여겨지던 영역이 데이터와 학습으로 풀리기 시작했다는 신호이기 때문입니다.

여러분의 일에도 “이건 경험과 감각의 영역이라 자동화 안 된다"고 믿는 부분이 있으신가요. 30년간 흑마법으로 불리던 칩 설계가 뚫리는 걸 보면, 그 믿음을 한 번쯤 의심해볼 때가 된 것 같습니다.