alexzhang13 / rlm

---

재귀 언어 모델(RLM)

전체 논문 • 블로그 글 • 문서 • RLM 미니멀

개요

재귀 언어 모델(RLM)은 LM이 입력을 프로그래밍적으로 검사, 분해, 재귀적으로 호출할 수 있도록 하여 거의 무한 길이의 문맥을 처리하는 언어 모델(LM)의 작업 무립적 추론 패러다임입니다. RLM은 일반적인 'llm.completion(prompt, model)' 호출을 'rlm.completion(prompt, model)' 호출로 대체하여 '언어 모델' 역할을 합니다. RLM은 LM이 상호작용하고 서브-LM 호출을 실행할 수 있는 REPL 환경에서 컨텍스트를 변수로 오프로드합니다.

RLM은 미래의 '언어 모델' 설계 선택에 걸려 있습니다. 우리는 코드액트 스타일의 하네스(즉, 모든 언어 모델이 코드 환경에 접근할 수 있어야 함)를 주장하며, 서브-(R)LM 호출을 코드 내 함수로, 컨텍스트/프롬프트를 코드 내 객체로 사용하는 방식을 주장합니다. RLM은 하위 호출을 함수로 사용하는 코드 실행을 언어 모델 자체에 명시적으로 연기하는데, 이는 매우 유연하고 올바르게 훈련되면 확장에 적합합니다. 우리는 서브에이전트와 일반 툴 호출 모두에 대해 JSON 툴 호출 표준에서 벗어나고자 합니다. 이 명칭은 이러한 시스템 자체가 "언어 모델"(텍스트에서 텍스트 간 확률적 매핑)으로, 재귀적 하위 LLM 호출을 중심으로 구축되고 의존한다는 점에서 유래했습니다.

이 저장소는 확장 가능한 추론 엔진과 표준 API 기반 및 로컬 기반 RLM 사용을 위한 훈련 환경을 제공합니다

---

🌐 본 텍스트는 빠른 이해를 돕기 위한 요약 번역본입니다. 정확한 기술 정보 및 전체 코드는 GitHub 원문에서 확인하실 수 있습니다.