# TAG

#문샷AI

2개의 기록

전체 기록 보기 →
TECH 01 IT · 기술 뉴스

모델 하나에 웨이퍼 59장 — Cerebras가 3조 파라미터 Kimi를 나누는 법

Cerebras가 10월 22일 공개한 기술 블로그는 약 3조 파라미터 규모의 Kimi K3를 웨이퍼 59장에 나누어 담는 계산을 보여준다. 가중치를 4비트로 줄이면 전체가 약 1.5TB가 되고 층당 약 16GB가 되는데, 선형 어텐션 층 69개는 웨이퍼 35장에, KV 캐시가 필요한 밀집 층 24개는 웨이퍼 24장에 따로 담는 방식이다. 다만 이 글은 실제로 이 배치를 돌려 측정한 결과가 아니라 전제를 깔고 푼 설계 예시이고, 초당 1000개에서 2000개 이상의 토큰이라는 속도도 아직 독립적으로 검증된 수치가 아니라는 점을 함께 읽어야 한다.

2026.10.25 조회수 · #Cerebras #웨이퍼 #Kimi #문샷AI #AI 추론 #반도체 #추론 속도
TECH 02 IT · 기술 뉴스

오픈 가중치가 프론티어에 3점 차로 다가섰다 — 문샷 AI Kimi K3.1 Pro

문샷 AI가 10월 23일 공개한 Kimi K3.1 Pro는 K3를 대규모 후훈련으로 다듬은 3조 파라미터급 모델로, 코딩 벤치마크 Terminal-Bench 4.0에서 65.7%를 기록해 GPT-6 Astra를 앞지르고 클로드 오퍼스 5.5에 0.7점 차로 다가섰고, 독립 평가기관 아티피셜 애널리시스의 지능 지수에서는 55점으로 4위에 올랐으며, 11월 4일 가중치 공개가 예정돼 있어 그날이 되면 역대 최고 점수의 오픈 가중치 모델이 되는데, 다만 벤치마크 수치 대부분이 문샷 자체 발표이고 가중치는 아직 공개되지 않았다는 점, 그리고 사이버 관련 학습 데이터를 의도적으로 빼서 보안 역량을 낮춘 채 내놓았다는 점이 이번 발표의 양면이다.

2026.10.25 조회수 · #문샷AI #Kimi #K3.1 Pro #오픈가중치 #중국 #AI #코딩 #벤치마크 #아티피셜애널리시스 #오픈소스