pi-ds4

antirez/ds4를 로컬 DeepSeek V4 Flash 모델로 실행하기 위한 Pi 제공자 확장입니다. 여기서 목표는 로컬 모델 주변에서 UX와 동작이 얼마나 좋은지 확인하는 것입니다.

이 확장은 /model용 모델로 ds4/deepseek-v4-flash와 ds4/deepseek-v4-flash-q2-imatrix를 등록하고, 필요할 때 ds4-server를 시작하며, 런타임을 다운로드/빌드하고, 각 Pi 프로세스별로 사용 권한을 유지하며, 클라이언트가 남아있지 않으면 번들된 워치독을 통해 서버를 종료합니다.

요구 사항 및 동작

최소 128GB RAM이 있는 Mac이 필요합니다. 기본 ds4/deepseek-v4-flash 모델은 128GB RAM이 있으면 2비트 양자화 모델을 설치하고, 256GB 이상이면 4비트 양자화 모델을 선택합니다. imatrix로 튜닝된 q2 모델을 사용하려면 ds4/deepseek-v4-flash-q2-imatrix를 선택하세요.

Huggingface에 로그인되어 있으면 토큰이 다운로드 속도를 빠르게 하는 데 사용됩니다. 서버는 처음 사용 시 자동으로 컴파일/시작되고 모델이 다운로드됩니다.

설치

이 체크아웃에서 로컬 개발용으로 기존 ds4 서버 체크아웃 경로를 전달하세요:

만약 ~/.pi/ds4/support가 이미 존재하고 다른 위치를 가리키면, --force를 사용하여 옆으로 이동시키고 전달한 체크아웃에 대한 심볼릭 링크를 설치합니다. 기존의 gguf/*.gguf 모델 파일(및 중단된 .gguf.part 다운로드)은 새로운 체크아웃으로 먼저 보존되며, macOS에서 가능할 경우 APFS clone-on-write 복사를 사용합니다.

그런 다음 pi를 다시 시작하거나 /reload를 실행하세요.

런타임 레이아웃

런타임 상태는 ~/.pi/ds4에 저장됩니다:

• support/ — 얕은 체크아웃

---

🌐 본 텍스트는 빠른 이해를 돕기 위한 요약 번역본입니다. 정확한 기술 정보 및 전체 코드는 GitHub 원문에서 확인하실 수 있습니다.