안녕하세요, 제시예요. 이번 주 AI 판에서 제일 눈에 띈 소식은 중국 문시샷 AI(Moonshot AI)가 지난 7월 16일에 내놓은 오픈 웨이트 모델 '키미 K3(Kimi K3)'예요. 파라미터 수가 2.8조 개로, 지금까지 나온 오픈 웨이트 모델 중 가장 크거든요. 그런데 숫자만 보고 넘어가면 재미있는 부분을 놓쳐요. 이 모델이 진짜 화제가 된 이유는 크기가 아니라 그 크기를 다루는 방식에 있어요.
2.8조 개 중에 16개만 깨운다
키미 K3는 MoE(Mixture-of-Experts, 전문가 혼합) 구조를 극단적으로 밀어붙인 모델이에요. 모델 안에 무려 896개의 '전문가' 네트워크가 있는데, 토큰 하나를 처리할 때마다 그중 딱 16개만 골라서 씁니다. 나머지 880개는 그 순간 잠들어 있는 거예요.
비유하자면 이렇습니다. 회사에 896명의 전문가가 있다고 해도, 질문 하나가 들어올 때마다 전부 회의실에 불러 모으진 않잖아요. 그 질문에 맞는 담당자 16명만 호출하면 되죠. 전체 인력은 2.8조 명(?) 규모지만, 실제로 일하는 사람은 훨씬 적은 셈이에요. 이 라우팅 방식에는 '퀀타일 밸런싱'이라는 규칙이 쓰이는데, 토큰의 라우터 점수가 상위 분위(quantile)에 들면 그 전문가로 보내는 식이라 별도 조정 없이도 특정 전문가만 몰리는 일 없이 고르게 일감이 분배돼요.
긴 문맥을 버티는 방식도 새로 짰다
또 하나 눈여겨볼 건 '키미 델타 어텐션(Kimi Delta Attention, KDA)'과 '어텐션 레지듀얼(Attention Residuals, AttnRes)'이라는 두 가지 구조예요. 어려운 이름이지만 목적은 단순해요. 문맥이 길어지고 층이 깊어져도 정보가 앞에서 뒤로 잘 흘러가게 만드는 장치들이거든요.
긴 글을 읽을 때 앞부분 내용을 까먹지 않고 끝까지 참고하려면 그만큼 '기억'을 유지하는 비용이 커요. 키미 K3는 이 두 구조 덕분에 이전 모델(K2) 대비 스케일링 효율이 약 2.5배 좋아졌고, 같은 작업을 처리할 때 출력 토큰 수도 약 21% 줄었다고 해요. 같은 답을 내는데 말을 더 짧게, 더 빨리 한다는 뜻이죠.
성능은 실제로 어디쯤 서 있나
AI 모델 성능을 비교하는 대표적인 지표 중 하나인 Artificial Analysis Intelligence Index에서 키미 K3는 57.11점을 받아 전체 4위에 올랐어요. 위에는 클로드 페이블 5(59.86점), GPT-5.6 솔 맥스(58.89점), GPT-5.6 솔 xhigh(57.65점)가 있고, 클로드 오퍼스 4.8(55.69점)이나 그록 4.5, GLM-5.2보다는 앞섰습니다. 자동화 작업을 평가하는 8개 벤치마크 중에서는 4개에서 1위를 차지했고, 특히 프론트엔드 코딩 평가에서는 미국의 주요 폐쇄형 모델들을 앞질렀어요.
==오픈 웨이트 모델이 폐쇄형 최상위권 모델들과 어깨를 나란히 한다==는 게 이번 결과의 핵심이에요. 몇 년 전만 해도 오픈소스 모델은 '따라가는 쪽'이라는 인식이 강했는데, 이제는 순위표 안에 자연스럽게 섞여 들어와 있거든요.
컨텍스트 100만 토큰, 가격은 그대로
키미 K3는 최대 104만 8,576토큰, 흔히 말하는 100만 토큰 컨텍스트를 지원해요. 긴 문서나 대화 기록을 통째로 넣어도 처리할 수 있다는 뜻이고요. 가격은 입력 100만 토큰당 3달러, 출력 100만 토큰당 15달러인데, 컨텍스트가 길어져도 구간별로 값이 올라가지 않고 전체 구간에 동일하게 적용돼요. 컨텍스트 캐싱도 자동으로 걸리고 별도 비용이 없어서, 같은 맥락을 반복해서 참조하는 작업에서는 실제 체감 비용이 더 낮아질 수 있어요.
오픈소스 쪽에 던지는 질문
모델 자체는 지난 7월 16일에 API로 먼저 공개됐고, 실제 가중치(웨이트) 파일은 7월 27일에 풀리는 일정이었어요. 웨이트가 풀리면 누구나 이 모델을 내려받아 자기 서버에서 돌리거나 원하는 대로 손볼 수 있게 되는데, 2.8조짜리 모델을 이렇게 통째로 공개하는 게 흔한 일은 아니에요.
지금까지는 '오픈소스 모델은 가볍고, 진짜 성능은 폐쇄형 모델에서 나온다'는 암묵적인 구도가 있었어요. 키미 K3는 그 구도에 균열을 내는 사례예요. 크기와 성능을 동시에 오픈소스 쪽으로 가져온 셈이니까요. 앞으로 다른 회사들도 비슷한 선택을 할지, 아니면 성능이 좋을수록 더 꽁꽁 닫아둘지, 이 지점을 지켜보면 재미있을 것 같아요.
사실 확인: Kimi K3 아키텍처·벤치마크·가격 정보는 Moonshot AI 공식 블로그 및 Artificial Analysis, Hugging Face 모델 카드(2026년 7월) 기준.
