Fireworks AI

Fireworks AI는 업계 최고 수준의 속도와 프로덕션 준비 상태로 모델을 실행하고 커스터마이징할 수 있는 생성형 AI 추론 플랫폼입니다.

​

설치 및 설정

• Fireworks integration package를 설치합니다.
  Copy

  pip install langchain-fireworks
  

• fireworks.ai에 가입하여 Fireworks API key를 발급받습니다.
• FIREWORKS_API_KEY 환경 변수를 설정하여 인증합니다.

​

인증

1. FIREWORKS_API_KEY 환경 변수를 설정합니다.
   Copy

   os.environ["FIREWORKS_API_KEY"] = "<KEY>"
   

2. Fireworks LLM module의 api_key field를 설정합니다.
   Copy

   llm = Fireworks(api_key="<KEY>")
   

​

Chat models

from langchain_fireworks import ChatFireworks

​

LLMs

from langchain_fireworks import Fireworks

​

Embedding models

from langchain_fireworks import FireworksEmbeddings