시작하기¶

Apple Silicon을 위해 설계된 32억 파라미터 하이브리드 소형 언어 모델 엔진, Bit-Axon에 오신 것을 환영합니다. 이 섹션에서는 맥에서 추론을 실행하기까지 필요한 모든 과정을 안내합니다.

필요한 것¶

• Apple Silicon이 탑재된 Mac (M1 이상)
• macOS 13 (Ventura) 이상
• Python 3.10 이상

전체 스택이 로컬에서 실행됩니다. GPU도, 클라우드도, PyTorch도 필요 없습니다. MLX, Python, 그리고 Mac만 있으면 됩니다.

이 섹션의 페이지¶

설치¶

환경 설정과 Bit-Axon 설치 방법을 안내합니다. pip 패키지, Xcode용 SwiftUI 앱, 린팅 및 pre-commit 훅이 포함된 개발 환경 설정까지 다룹니다.

빠른 시작¶

모델 다운로드, CLI에서 첫 추론 실행, 대화형 채팅 모드, Python API 사용법을 안내합니다. 5분 안에 모델을 실행할 수 있습니다.

다음 단계¶

빠른 시작을 마친 후에는 가이드 섹션에서 학습, 양자화, 추론 튜닝, 벤치마킹에 대한 상세 walkthrough를 확인해 보세요. 아키텍처 섹션에서는 샌드위치 모델 설계, Axon-SSM 레이어, 메모리 예산을 자세히 설명합니다.