tashfeenahmed / freellmapi
자동 페일오버 기능을 갖춘 약 14개의 AI 제공업체로부터 무료 요금제 키를 집계하는 OpenAI 호환 프록시입니다. 개인 실험용으로만 사용하십시오.
이 프로젝트에 대해
tashfeenahmed 님의 freellmapi 프로젝트는 GitHub에서 586개의 별을 받으며 많은 개발자들의 주목을 받고 있습니다. 특히 TypeScript 환경에서 유용하게 활용될 수 있으며, 최근 오픈소스 커뮤니티에서 활발한 기여와 토론이 이루어지고 있는 트렌딩 레포지토리입니다.
Language Breakdown
🇰🇷 한국어 번역 README
캐시 히트자유롭게 LLMAPI
OpenAI 호환 엔드포인트 1개. 11개의 무료 LLM 제공자. ~1B+ 토큰 개당 달입니다.
Google, Groq, Cerebras, SambaNova, NVIDIA, Mistral, OpenRouter, GitHub Models, Cohere, Cloudflare, Z.ai (Zhipu)의 무료 티어를 단일 '/v1/chat/completions' 엔드포인트 뒤에 모으세요. 키는 암호화되어 저장됩니다. 라우터는 각 요청에 가장 적합한 모델을 선택하고, 요금 제한이 생기면 다음 제공업체로 넘어가며, 키별 사용량을 추적해 모든 무료 요금제 한도 이하로 유지합니다.
목차
- 왜 이런 게 존재하는가
- 지원 제공자
- 특징
- 아직 지원되지 않음
- 퀵 스타트
- API 사용
- 스크린샷
- 작동 원리
- 제한 사항
- 기여
- 서비스 약관 검토
- 면책 조항
왜 이런 게 존재하는가
이제 모든 진지한 AI 연구소는 월 수백만 토큰, 하루에 수천 건의 요청을 제공하는 무료 티어를 제공합니다. 각 티어는 독립적으로 장난감입니다. 이들을 합치면 수십 가지 모델에서 소규모 빠른 모델부터 적당한 수준까지 총 매달 약 13억 토큰의 작동 추론 용량을 제공합니다.
문제는 손으로 쌓는 것이 고독하다는 점입니다: 14개의 서로 다른 SDK, 14개의 서로 다른 속도 제한, 요청이 실패할 수 있는 14곳. FreeLLMAPI는 이를 하나의 OpenAI 호환 엔드포인트로 통합합니다. OpenAI 클라이언트 라이브러리를 로컬 서버에 지정하면, 키를 추가한 공급자들 간에 투명하게 라우팅됩니다.
지원하는 제공자
구글 Gemini 2.5 플래시 · 3.x 미리보기 그로크르
🌐 본 텍스트는 빠른 이해를 돕기 위한 요약 번역본입니다. 정확한 기술 정보 및 전체 코드는 GitHub 원문에서 확인하실 수 있습니다.
이 정보는 AI가 자동으로 분석한 결과입니다. 정확한 내용은 원문을 확인하세요.
tashfeenahmed/freellmapi GitHub 원문 바로가기 →