whichllm

실제로 하드웨어에서 실행되는 최고의 로컬 LLM을 찾아라.

GPU/CPU/RAM을 자동으로 감지하고 HuggingFace에서 시스템에 맞는 상위 모델을 순위 매깁니다.

日本語版はこちら

퀵 스타트

프로젝트 설정 없이 추천 명령어를 한 번 실행하세요.

하드웨어를 구매하기 전에 GPU를 시뮬레이션하세요.

자주 사용할 때 설치하세요.

다른 설치 경로들.

더 안전한 선택을 원해?

기본적으로 whichllm은 야심차다. 이 사이트는 실행 가능해 보이는 최고의 모델을 순위 매깁니다 부분 RAM 오프로드와 거의 엣지 VRAM이 장착될 때 쓸 만해 보입니다.

좀 더 편안하게 LM 스튜디오 스타일의 추천을 원한다면, 다음부터 시작하세요:

이렇게 하면 GPU VRAM에 완전히 맞는 모델만 유지되고, 느린 추정치는 걸러냅니다. 그리고 런타임 오버헤드를 위해 추가 VRAM을 남깁니다.

LM Studio가 여전히 모델이 약간 너무 크다고 하면, 헤드룸을 늘리세요:

일반적인 작업 흐름

설치 후에는 'whichllm'을 직접 실행하세요. 일회성 런을 위해 'whichllm'을 교체하세요 'UVX whichllm@latest'와 함께.

봐

32B 모델은 카드에 잘 맞아요 — 이 모델도 27B #1에 랭크되어 있습니다. 실제 벤치마크에서 더 높은 점수를 받고, 더 새로운 세대이기 때문입니다. 사이즈만 고려하는 '어떤 게 맞을까?' 도구는 더 큰 걸 추천해줄 거예요. 그 공백은 이 모든 것이 바로 그 목적입니다. (참고 #3: 102 t/s 속도의 MoE 모델은 active 매개변수로 순위, total에서 품질 순위)

무엇을 달릴 수 있을까요?

진짜 최고 추천 (스냅샷 2026-05 — 결과 추적 라이브 HuggingFace 데이터, 이 목록은 정적인 목록이 아닙니다):

| 하드웨어 | VRAM | 상단 사진

---

🌐 본 텍스트는 빠른 이해를 돕기 위한 요약 번역본입니다. 정확한 기술 정보 및 전체 코드는 GitHub 원문에서 확인하실 수 있습니다.