이 기능은 Helm chart 버전 0.10.27 (application 버전 0.10.74) 이상에서만 사용할 수 있습니다.
많은 model provider들은 환경 변수를 통해 자격 증명 및 기타 구성 옵션 설정을 지원합니다. 이는 코드나 구성 파일에 민감한 정보를 하드코딩하지 않으려는 self-hosted 배포에 유용합니다. LangSmith에서 대부분의 model 상호작용은 playground service를 통해 이루어지며, 이를 통해 pod 자체에서 많은 환경 변수를 직접 구성할 수 있습니다. 이는 UI에서 자격 증명을 설정하지 않아도 되므로 유용할 수 있습니다.

Requirements

  • playground service가 실행 중인 self-hosted LangSmith 인스턴스.
  • 구성하려는 provider가 환경 변수를 통한 구성을 지원해야 합니다. 자세한 내용은 provider의 Chat Model documentation을 확인하세요.
  • playground service에 연결하려는 secrets/roles.
    • IRSA의 경우 클라우드 provider의 secrets 또는 roles에 액세스하는 데 필요한 권한을 langsmith-playground service account에 부여해야 할 수 있습니다.

Configuration

위의 매개변수를 사용하여 model provider에 환경 변수를 사용하도록 LangSmith 인스턴스를 구성할 수 있습니다. LangSmith Helm Chart 설치의 경우 langsmith_config.yaml 파일을, Docker 설치의 경우 docker-compose.yaml 파일을 수정하여 이를 수행할 수 있습니다.
playground:
  deployment:
    extraEnv:
      - name: OPENAI_BASE_URL
        value: https://<my_proxy_url>
      - name: OPENAI_API_KEY
        valueFrom:
          secretKeyRef:
            name: <your_secret_name>
            key: api_key
  serviceAccount: # Can be useful if you want to use IRSA or workload identity
    annotations:
      eks.amazonaws.com/role-arn: <your_role_arn>

Connect these docs programmatically to Claude, VSCode, and more via MCP for real-time answers.
I