AI 답변으로 경쟁 AI를 키워도 될까 — 미국 오픈웨이트 육성의 조건

핵심 요약

• 모델 증류는 다른 모델의 출력을 학습 자료로 삼아 능력을 익히는 방법입니다.
• 오픈웨이트는 모델의 가중치를 공개한다는 뜻입니다. 모든 자료를 공개하거나 자유로운 이용까지 허용한다는 의미는 아닙니다.
• 미국의 공개 모델을 육성하려면 답변을 학습에 쓸 수 있는 범위와 결과물의 배포 조건을 함께 정해야 합니다.
• 공개 모델이 늘어나도 학습에 원본 모델이 필요할 수 있고, 성능도 따로 검증해야 합니다.

미국이 최상위 AI의 답변을 활용해 누구나 내려받아 쓸 수 있는 AI 모델을 키운다면 어떨까요. 개발자는 이 모델로 서비스를 만들고, 기업은 이용 조건이 허용하는 범위에서 자체 환경에 모델을 배치할 수 있습니다. 솔깃한 구상이지만, 먼저 짚고 넘어갈 문제가 있습니다. AI의 답변을 이용해 경쟁 AI를 키워도 될까요?

AI의 답변이 다른 AI의 교재가 됩니다

모델 증류는 이미 학습을 마친 모델을 선생님 삼아 다른 모델을 가르치는 방법입니다. 선생님 모델이 만든 답변을 학생 모델의 학습 자료로 쓰는 것도 증류의 한 방식입니다.

가령 강력한 AI가 고객 문의에 답하는 예시를 만들었다고 해보겠습니다. 다른 모델은 그 예시를 학습하면서 문의를 분류하고 답변을 구성하는 패턴을 익힐 수 있습니다. 학생 모델을 작게 설계하면 특정 업무에서 모델을 운영하는 부담을 줄이는 데 도움이 될 수 있습니다.

다만 선생님의 답변을 배운다고 모든 능력을 물려받지는 않습니다. 학생 모델이 무엇을 얼마나 배우느냐는 학습에 쓴 질문의 범위와 답변의 품질에 달려 있습니다. 잘못된 답변을 교재로 쓰면 오류까지 배울 수 있습니다.

그러니 “선두 AI의 답변만 충분히 모으면 동급 모델을 만들 수 있다”고 결론 내리기는 이릅니다. 특정 업무를 잘 따라 한다고 낯선 문제까지 잘 푼다고 볼 수는 없습니다. 두 능력은 따로 확인해야 합니다.

오픈웨이트는 무엇을 열어준다는 뜻일까요

오픈웨이트는 모델이 학습한 수치인 ‘가중치’를 공개한다는 뜻입니다. 가중치는 모델이 입력을 처리하고 답변을 만드는 데 쓰는 핵심 구성 요소입니다.

무엇을 어디까지 공개하는지는 따져봐야 합니다. 가중치를 제공한다고 학습 데이터와 훈련 코드까지 공개하는 것은 아닙니다. 상업적으로 이용하거나 수정한 모델을 재배포할 수 있는 범위도 이용 조건에 달려 있습니다.

미국의 오픈웨이트 모델을 육성한다는 구상도 이 조건에 따라 의미가 달라집니다. 기업이 모델을 내려받아 내부 문서를 처리하는 데 쓸 수 있다면 그만큼 선택지가 늘어납니다. 반면 용도와 배포에 제약이 많다면 가중치를 공개해도 사업에 적용하기는 어려울 수 있습니다.

모델을 쓰려는 사람에게는 “공개했나요?”에서 한발 더 나아간 질문이 중요합니다. “내가 원하는 곳에서 실행하고, 수정하고, 서비스에 넣을 수 있나요?”라는 질문입니다.

기술적으로 가능하다는 것과 허락받았다는 것은 다릅니다

증류를 둘러싼 논쟁에서는 학습 방법 자체보다 답변을 사용할 권한이 쟁점이 됩니다.

선도 모델 제공자가 경쟁 모델의 학습을 명시적으로 허용했다고 가정해보겠습니다. 그러면 어떤 답변을 제공하고 비용을 어떻게 나눌지 협의해야 합니다. 그렇게 학습한 모델을 어디까지 배포할 수 있는지도 정해야 합니다.

반대로 이런 활용을 허용하지 않는 조건이라면 같은 기술을 써도 분쟁이 생길 수 있습니다. 답변을 받아볼 수 있다는 것만으로 그 답변을 학습에 쓰거나 학습한 모델을 재배포할 조건까지 정해지지는 않습니다.

미국의 공개 모델 육성을 정책으로 추진한다면 적어도 다음 항목은 구체적으로 정해야 합니다.

• 선도 모델의 어떤 출력을 학습에 사용할 수 있는지
• 학습한 모델의 가중치를 누구에게 공개할 수 있는지
• 상업적 이용과 추가 학습을 어디까지 허용할지
• 원본 모델 제공자에게 어떤 대가를 지급할지

특히 어떤 대가를 지급할지가 중요해 보입니다. 선도 모델 개발에 투자한 기업에도 참여할 이유가 있어야 합니다. 그렇다고 비용이 너무 높거나 조건이 까다로워지면 작은 개발팀에 기회를 넓혀주려는 취지를 살리기 어렵습니다.

미국 모델이 늘어나면 기술 의존도 줄어들까요

이 구상대로라면 더 많은 개발자가 선도 모델의 능력을 활용할 수 있을 겁니다. 공개된 학생 모델을 각자 수정할 수 있다면 특정 산업에 맞게 바꿔보거나, 필요한 언어와 업무에 맞춰 실험할 수도 있습니다.

하지만 운영의 자율성과 학습의 자립성은 구분해서 봐야 합니다. 모델을 내려받아 자체 서버에서 실행하더라도 다음 버전을 만들 때마다 선도 모델의 답변이 필요할 수 있습니다. 모델을 어디서 어떻게 실행할지 선택할 여지는 늘어도, 성능을 개선하려면 여전히 다른 회사에 기대야 할 수 있습니다.

‘미국 모델’이라는 이름만으로도 충분하지 않습니다. 개발 조직이 미국에 있다고 해서 이용자가 모델을 자유롭게 쓸 수 있는 것은 아닙니다. 이 구상이 개발자 생태계에 도움이 되는지는 국적뿐 아니라 실제로 어떤 조건에서 쓸 수 있는지를 보고 판단해야 합니다.

성능도 따로 평가해야 합니다. 선생님 모델을 얼마나 닮았는지보다 실제 업무에서 정확하게 답하는지가 중요합니다. 이를 확인하려면 학습 과정에서 보지 못한 질문을 쓰고, 정답도 별도로 검토해 평가해야 합니다.

저는 증류를 허용할지 말지만 논의해서는 부족하다고 봅니다. 미국의 오픈웨이트 육성이 설득력을 얻으려면 답변을 학습에 써도 되는지와 모델의 공개 조건을 정하고, 성능을 검증할 방법도 마련해야 합니다. 공개 모델을 고를 때도 선생님 AI의 이름에 더 무게를 둘지, 내가 직접 활용할 수 있는 범위에 더 무게를 둘지 따져볼 필요가 있습니다.