트렌딩 목록으로
TypeScript

tashfeenahmed / freellmapi

자동 페일오버 기능을 갖춘 약 14개의 AI 제공업체로부터 무료 요금제 키를 집계하는 OpenAI 호환 프록시입니다. 개인 실험용으로만 사용하십시오.

586
108
약 2개월 전
GitHub에서 보기

이 프로젝트에 대해

tashfeenahmed 님의 freellmapi 프로젝트는 GitHub에서 586개의 별을 받으며 많은 개발자들의 주목을 받고 있습니다. 특히 TypeScript 환경에서 유용하게 활용될 수 있으며, 최근 오픈소스 커뮤니티에서 활발한 기여와 토론이 이루어지고 있는 트렌딩 레포지토리입니다.

Language Breakdown

TypeScript 98%HTML 1%JavaScript 1%CSS 0%Dockerfile 0%

🇰🇷 한국어 번역 README

캐시 히트

자유롭게 LLMAPI

OpenAI 호환 엔드포인트 1개. 11개의 무료 LLM 제공자. ~1B+ 토큰 개당 달입니다.

Google, Groq, Cerebras, SambaNova, NVIDIA, Mistral, OpenRouter, GitHub Models, Cohere, Cloudflare, Z.ai (Zhipu)의 무료 티어를 단일 '/v1/chat/completions' 엔드포인트 뒤에 모으세요. 키는 암호화되어 저장됩니다. 라우터는 각 요청에 가장 적합한 모델을 선택하고, 요금 제한이 생기면 다음 제공업체로 넘어가며, 키별 사용량을 추적해 모든 무료 요금제 한도 이하로 유지합니다.


목차

  • 왜 이런 게 존재하는가
  • 지원 제공자
  • 특징
  • 아직 지원되지 않음
  • 퀵 스타트
  • API 사용
  • 스크린샷
  • 작동 원리
  • 제한 사항
  • 기여
  • 서비스 약관 검토
  • 면책 조항

왜 이런 게 존재하는가

이제 모든 진지한 AI 연구소는 월 수백만 토큰, 하루에 수천 건의 요청을 제공하는 무료 티어를 제공합니다. 각 티어는 독립적으로 장난감입니다. 이들을 합치면 수십 가지 모델에서 소규모 빠른 모델부터 적당한 수준까지 총 매달 약 13억 토큰의 작동 추론 용량을 제공합니다.

문제는 손으로 쌓는 것이 고독하다는 점입니다: 14개의 서로 다른 SDK, 14개의 서로 다른 속도 제한, 요청이 실패할 수 있는 14곳. FreeLLMAPI는 이를 하나의 OpenAI 호환 엔드포인트로 통합합니다. OpenAI 클라이언트 라이브러리를 로컬 서버에 지정하면, 키를 추가한 공급자들 간에 투명하게 라우팅됩니다.

지원하는 제공자

구글 Gemini 2.5 플래시 · 3.x 미리보기 그로크르


🌐 본 텍스트는 빠른 이해를 돕기 위한 요약 번역본입니다. 정확한 기술 정보 및 전체 코드는 GitHub 원문에서 확인하실 수 있습니다.

이 정보는 AI가 자동으로 분석한 결과입니다. 정확한 내용은 원문을 확인하세요.

tashfeenahmed/freellmapi GitHub 원문 바로가기 →