언어 · Language
Python
/span>
무루컴퍼니는 한 사람의 작품, 한 사람의 모든 포트폴리오를 담은 회사입니다
무루(MURU)라는 이름에는 사실 아무런 뜻도 없습니다. 의미가 들러붙기 전의 소리, 그 자리에 일을 쌓아 올립니다.
대형 언어 모델과 비전 모델은 이미 공공재에 가깝습니다. 무루는 그 재료를 받아 실제로 돌아가는 제품 — 백엔드, 툴체인, UI, 운영까지 — 을 한 사람의 손으로 잇는 일을 합니다.
1-bit 가중치 Feistel RNN. 양자화 + STE 학습, Reversible 구조로 메모리 O(1). 12층, 512-dim hidden, ~20MB 모델 사이즈. CPU(AVX-512) 추론 최적화.
BitLRN 스택은 아래에서 위로 순전파합니다. 가로축은 d_model 방향, 세로축은 레이어 깊이입니다.