Pipeshift

Pipeshift는 오픈소스 LLM을 위한 fine-tuning 및 inference 플랫폼입니다

• 데이터셋을 가져오세요. 여러 LLM을 fine-tune하세요. 원클릭으로 inference를 시작하고 수백만 규모로 확장되는 것을 확인하세요.

​

Installation 및 Setup

• Pipeshift integration package를 설치하세요.
  Copy

  pip install langchain-pipeshift
  

• Pipeshift에 가입하여 Pipeshift API key를 받으세요.

​

Authentication

1. API key를 환경 변수 PIPESHIFT_API_KEY로 추가합니다.
   Copy

   os.environ["PIPESHIFT_API_KEY"] = "<your_api_key>"
   

2. pipeshift LLM module 또는 chat module에 api_key를 전달합니다.
   Copy

   llm = Pipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)
   
                       OR
   
   chat = ChatPipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)
   

​

Chat models

from langchain_pipeshift import ChatPipeshift

​

LLMs

from langchain_pipeshift import Pipeshift