모델 하나에 웨이퍼 59장 — Cerebras가 3조 파라미터 Kimi를 나누는 법
Cerebras가 10월 22일 공개한 기술 블로그는 약 3조 파라미터 규모의 Kimi K3를 웨이퍼 59장에 나누어 담는 계산을 보여준다. 가중치를 4비트로 줄이면 전체가 약 1.5TB가 되고 층당 약 16GB가 되는데, 선형 어텐션 층 69개는 웨이퍼 35장에, KV 캐시가 필요한 밀집 층 24개는 웨이퍼 24장에 따로 담는 방식이다. 다만 이 글은 실제로 이 배치를 돌려 측정한 결과가 아니라 전제를 깔고 푼 설계 예시이고, 초당 1000개에서 2000개 이상의 토큰이라는 속도도 아직 독립적으로 검증된 수치가 아니라는 점을 함께 읽어야 한다.
2026.10.25 조회수 · #Cerebras #웨이퍼 #Kimi #문샷AI #AI 추론 #반도체 #추론 속도
↗