LocalAI는 무료 오픈 소스 OpenAI 대안입니다.
LocalAI는 로컬 추론을 위한 OpenAI API 사양과 호환되는 드롭인 대체 REST API로 작동합니다.
소비자급 하드웨어로 로컬 또는 온프레미스에서 LLM을 실행하고, 이미지를 생성하고,
오디오(그 외에도)를 생성할 수 있으며, 여러 모델 패밀리와 아키텍처를 지원합니다.
적절한 호환성을 위해
openai SDK 버전 0.x를 사용하고 있는지 확인하세요.langchain-localai는 LocalAI를 위한 서드파티 통합 패키지입니다. LangChain에서 LocalAI 서비스를 사용하는 간단한 방법을 제공합니다.
소스 코드는 Github에서 확인할 수 있습니다.Installation and Setup
여러 python 패키지를 설치해야 합니다:Embedding models
사용 예제를 참조하세요.Connect these docs programmatically to Claude, VSCode, and more via MCP for real-time answers.