중국 AI 모델 성장 막을 수 없다? 더 강해져서 돌아온 ‘키미 K3.1 프로’ [고든 정의 TECH+]

지난 7월 중국 문샷 AI가 ‘키미 K3’를 발표하면서 업계를 충격에 빠뜨렸습니다. 2.8조개의 파라미터를 지닌 프런티어급 대형 모델을 무료로 공개했을 뿐 아니라, 성능 면에서도 서구 프런티어 모델을 거의 따라잡았기 때문입니다. 하지만 더 논란이 된 부분은 미국 프런티어 모델을 ‘증류’(distillation)를 통해 성능을 높였다는 점이었습니다.

증류 자체는 인공지능(AI) 거대언어모델(LLM) 개발에서 흔히 사용되는 방법입니다. 거대한 파라미터를 지닌 대형 모델을 선생 모델로 삼아 더 작고 효율적인 모델을 만드는 기법으로, 일반 사용자에게 배포되는 소형 모델 상당수가 이런 방식으로 만들어집니다. 그러나 오픈 AI와 앤트로픽이 문제 삼은 것은 문샷 AI가 무단으로 프런티어 모델의 답변 내용을 가져와 학습에 활용했다는 점이었습니다. 미국 모델의 능력을 무단으로 학습해 더 저렴한 가격으로 서비스하는 행위로 비판받은 것입니다.

이에 대응하기 위해 앤트로픽은 최근 방어 체계를 강화해 증류로 추출되는 추론 토큰을 이전 대비 10~100배, 데이터 수확량을 90~99% 줄였다고 발표했습니다. 하지만 지난 23일 공개된 키미 K3.1 프로의 성능을 보면, 이 같은 차단 시도만으로는 중국 모델의 성장을 막기 어렵다는 점이 드러납니다.

키미 K3.1 프로의 벤치마크 결과를 보면, 자원이 제한된 실제적인 터미널 작업을 과제별 엄격한 테스트로 평가하는 ‘Terminal-Bench 4.0’에서 65.7%를 기록해 클로드 오푸스 5.5(66.4%)에 근접했고, GPT-6 아스트라(58.2%)보다 높은 점수를 냈습니다. 실제 금융 문서를 대상으로 검색·문서 간 교차 검증·다단계 수치 추론을 수행하는 ‘OfficeQA Pro v2’에서는 64.4점으로 최고 성적을 기록했습니다. 종합 지능 평가 지수인 ‘Artificial Analysis Intelligence Index’에서도 55점을 기록하며 GPT-6 아스트라와 클로드 페이블 5.1(각각 53점)을 앞서 4위를 차지했습니다. 11월 4일 가중치가 공개되면 현재 가장 강력한 오픈 웨이트 모델이 될 전망입니다.



사실 이는 어느 정도 예측된 결과이기도 했습니다. 처음부터 2.8조개의 파라미터를 지닌 모델을 증류만으로 만들 수는 없습니다. 모델의 크기가 커지고 성능이 높아질수록 프런티어급 모델 개발에서는 증류보다 사후 학습과 강화 학습(RL)이 더 중요해지기 때문입니다.

키미 K3.1 프로가 성능을 더 높인 비결은 한정된 연산 자원을 훨씬 효율적으로 사용해 사후 학습을 강화한 데 있습니다. 중국 AI 기업들은 미국에 비해 매우 제한된 AI 연산 자원을 보유하고 있어, 같은 방식으로 미국 프런티어 모델의 학습 수준을 따라가기 어렵습니다. 문샷 AI는 Kimi Delta Attention(KDA), NoPE, MXFP4/8 양자화, MoE 구조 등 여러 가지 기법을 활용해 제한된 하드웨어에서도 성능을 극대화했습니다.

그런데 이렇게 상대적으로 낮은 하드웨어에서도 서방 프런티어 모델에 근접한 성능을 내도록 개발된 덕분에 비용을 낮출 수 있는 것은 물론, 모델을 다운로드해 내부 서버에서 운영할 때 기업들의 부담도 훨씬 적습니다. 이것이 역설적으로 중국 모델의 큰 장점이 되고 있습니다.

키미 K3.1 프로의 서비스 가격은 입력·출력·캐시 적중 토큰 100만 건당 각각 2달러·10달러·0.20달러로, 키미 K3보다 세 가지 요금 모두 33% 저렴합니다. 저렴한 가격과 높은 성능, 그리고 모델 공개라는 무기로 서방 프런티어 AI 모델을 위협하는 중국 AI 모델에 대응하기 위해서는 증류를 막는 것만으로는 부족합니다. 서방 오픈 모델을 강화하고 효율성을 대폭 끌어올리는 것이 실질적인 대안이 될 수 있습니다.

고든 정 과학 칼럼니스트 jjy0501@naver.com