DeepInfra를 사용하면 최신 머신러닝 모델을 쉽게 실행할 수 있습니다. DeepInfra는 모델 실행, 확장 및 모니터링과 관련된 모든 복잡한 작업을 처리합니다. 사용자는 애플리케이션에 집중하고 간단한 REST API 호출로 모델을 통합할 수 있습니다.
DeepInfra는 LangChain과의 통합 예제를 제공합니다.
이 페이지에서는 LangChain 내에서 DeepInfra 생태계를 사용하는 방법을 다룹니다. 설치 및 설정, 그리고 특정 DeepInfra wrapper에 대한 참조, 이렇게 두 부분으로 나뉩니다.

​
설치 및 설정

  • 여기에서 DeepInfra api key를 받으세요.
  • DeepInfra api key를 받아서 환경 변수(DEEPINFRA_API_TOKEN)로 설정하세요.

​
사용 가능한 모델

DeepInfra는 배포 준비가 완료된 다양한 오픈 소스 LLM을 제공합니다. text-generation 및 embeddings에 대해 지원되는 모델을 확인할 수 있습니다. 요청 및 응답 파라미터 목록을 확인할 수 있습니다. Chat 모델은 openai api를 따릅니다

​
LLM

사용 예제를 참조하세요. 
from langchain_community.llms import DeepInfra

​
Embeddings

사용 예제를 참조하세요. 
from langchain_community.embeddings import DeepInfraEmbeddings

​
Chat Models

사용 예제를 참조하세요. 
from langchain_community.chat_models import ChatDeepInfra
Edit the source of this page on GitHub.
Connect these docs programmatically to Claude, VSCode, and more via MCP for real-time answers.
⌘I