llamafile은 단일 파일로 LLM을 배포하고 실행할 수 있게 해줍니다.
llamafile은 개발자와 최종 사용자 모두에게 오픈 LLM을 훨씬 더 접근하기 쉽게 만듭니다. llamafile은 llama.cpp와 Cosmopolitan Libc를 하나의 프레임워크로 결합하여 LLM의 모든 복잡성을 단일 파일 실행 파일(“llamafile”이라고 함)로 축소하여 대부분의 컴퓨터에서 설치 없이 로컬로 실행할 수 있도록 합니다.

​
설치 및 설정

설치 지침을 참조하세요.

​
LLMs

사용 예제를 참조하세요. 
from langchain_community.llms.llamafile import Llamafile

​
Embedding models

from langchain_community.embeddings import LlamafileEmbeddings
Edit the source of this page on GitHub.
Connect these docs programmatically to Claude, VSCode, and more via MCP for real-time answers.
⌘I