대형 언어 모델 구축 (처음부터 시작)

이 저장소에는 GPT와 유사한 LLM을 개발, 사전 학습 및 미세 조정하기 위한 코드가 포함되어 있으며, 『대형 언어 모델 구축 (처음부터 시작)』 책의 공식 코드 저장소입니다.

*대형 언어 모델 구축 (처음부터 시작)*에서는 대형 언어 모델(LLM)이 내부적으로 어떻게 작동하는지를 단계별로 직접 코딩하면서 배우고 이해할 수 있습니다. 이 책에서 저는 명확한 글, 다이어그램 및 예제를 통해 각 단계를 설명하며 자신만의 LLM을 만드는 과정을 안내합니다.

이 책에서 설명하는 학습 및 개발 방법은 교육 목적으로 작지만 기능적인 모델을 만드는 방법으로, ChatGPT와 같은 대규모 기초 모델을 만들 때 사용되는 접근 방식을 반영합니다. 또한, 이 책에는 사전 학습된 더 큰 모델의 가중치를 불러와 미세 조정하는 코드도 포함되어 있습니다.

• 공식 소스 코드 저장소 링크
• Manning 출판사 웹사이트 책 링크
• Amazon.com 책 페이지 링크
• ISBN 9781633437166

이 저장소의 사본을 다운로드하려면, 'Download ZIP' 버튼을 클릭하거나 터미널에서 다음 명령어를 실행하십시오:

(Manning 웹사이트에서 코드 번들을 다운로드한 경우, 최신 업데이트를 위해 GitHub의 공식 코드 저장소를 방문하는 것을 권장합니다.)

목차

이 README.md 파일은 Markdown(.md) 파일임을 참고하십시오. Manning 웹사이트에서 이 코드 번들을 다운로드하여 로컬에서 열어보는 경우

---

🌐 본 텍스트는 빠른 이해를 돕기 위한 요약 번역본입니다. 정확한 기술 정보 및 전체 코드는 GitHub 원문에서 확인하실 수 있습니다.