LangGraph Server는 배포 구성을 위한 특정 environment variable을 지원합니다.

BG_JOB_ISOLATED_LOOPS

BG_JOB_ISOLATED_LOOPSTrue로 설정하면 serving API event loop과 분리된 격리된 event loop에서 background run을 실행합니다. 이 environment variable은 graph/node의 구현에 동기 코드가 포함된 경우 True로 설정해야 합니다. 이러한 상황에서 동기 코드는 serving API event loop을 차단하여 API를 사용할 수 없게 만들 수 있습니다. 사용할 수 없는 API의 증상은 health check 실패로 인한 지속적인 애플리케이션 재시작입니다. 기본값은 False입니다.

BG_JOB_SHUTDOWN_GRACE_PERIOD_SECS

queue가 shutdown signal을 받은 후 서버가 background job이 완료될 때까지 대기하는 시간을 초 단위로 지정합니다. 이 기간이 지나면 서버는 강제 종료됩니다. 기본값은 180초입니다. shutdown 중에 job이 깔끔하게 완료될 수 있는 충분한 시간을 확보하도록 설정하세요. langgraph-api==0.2.16에서 추가되었습니다.

BG_JOB_TIMEOUT_SECS

background run의 timeout을 늘릴 수 있습니다. 그러나 Cloud 배포의 인프라는 API 요청에 대해 1시간 timeout 제한을 적용합니다. 즉, client와 server 간의 연결은 1시간 후에 timeout됩니다. 이는 구성할 수 없습니다. background run은 1시간 이상 실행될 수 있지만, run이 1시간 이상 걸리는 경우 client는 run의 출력을 검색하기 위해 서버에 다시 연결해야 합니다(예: POST /threads/{thread_id}/runs/{run_id}/stream을 통해 stream에 join). 기본값은 3600입니다.

DD_API_KEY

DD_API_KEY(Datadog API Key)를 지정하면 배포에 대한 Datadog tracing이 자동으로 활성화됩니다. tracing instrumentation을 구성하려면 다른 DD_* environment variables를 지정하세요. DD_API_KEY가 지정되면 애플리케이션 프로세스는 ddtrace-run command로 래핑됩니다. tracing instrumentation을 올바르게 구성하려면 일반적으로 다른 DD_* environment variables(예: DD_SITE, DD_ENV, DD_SERVICE, DD_TRACE_ENABLED)가 필요합니다. 자세한 내용은 DD_* environment variables를 참조하세요. 문제 해결을 위해 DD_TRACE_DEBUG=true를 활성화하고 DD_LOG_LEVEL=debug를 설정할 수 있습니다.
DD_API_KEY를 활성화하면(따라서 ddtrace-run) 애플리케이션 코드에 instrumentation한 다른 auto-instrumentation 솔루션(예: OpenTelemetry)을 재정의하거나 간섭할 수 있습니다.

LANGCHAIN_TRACING_SAMPLING_RATE

LangSmith로 전송되는 trace의 sampling rate입니다. 유효한 값: 01 사이의 모든 float 값. 자세한 내용은 Set a sampling rate for traces를 참조하세요.

LANGGRAPH_AUTH_TYPE

LangGraph Server 배포의 인증 유형입니다. 유효한 값: langsmith, noop. LangSmith로의 배포의 경우 이 environment variable은 자동으로 설정됩니다. 로컬 개발 또는 인증이 외부에서 처리되는 배포(예: self-hosted)의 경우 이 environment variable을 noop으로 설정하세요.

LANGGRAPH_POSTGRES_POOL_MAX_SIZE

langgraph-api 버전 0.2.12부터 Postgres connection pool의 최대 크기(replica당)는 LANGGRAPH_POSTGRES_POOL_MAX_SIZE environment variable을 사용하여 제어할 수 있습니다. 이 variable을 설정하면 서버가 Postgres 데이터베이스와 설정할 동시 연결 수의 상한을 결정할 수 있습니다. 예를 들어, 배포가 10개의 replica로 확장되고 LANGGRAPH_POSTGRES_POOL_MAX_SIZE150으로 구성된 경우 Postgres에 최대 1500개의 연결이 설정될 수 있습니다. 이는 데이터베이스 리소스가 제한적이거나(또는 더 많이 사용 가능하거나) 성능 또는 확장 이유로 연결 동작을 조정해야 하는 배포에 특히 유용합니다. 기본값은 150 연결입니다.

LANGSMITH_API_KEY

self-hosted LangSmith 배포에만 해당됩니다. self-hosted LangSmith 인스턴스로 trace를 전송하려면 LANGSMITH_API_KEY를 self-hosted 인스턴스에서 생성된 API key로 설정하세요.

LANGSMITH_ENDPOINT

self-hosted LangSmith 배포에만 해당됩니다. self-hosted LangSmith 인스턴스로 trace를 전송하려면 LANGSMITH_ENDPOINT를 self-hosted 인스턴스의 hostname으로 설정하세요.

LANGSMITH_TRACING

LANGSMITH_TRACINGfalse로 설정하면 LangSmith로의 tracing이 비활성화됩니다. 기본값은 true입니다.

LOG_COLOR

이는 주로 langgraph dev command를 통해 dev server를 사용하는 맥락에서 관련이 있습니다. LOG_COLORtrue로 설정하면 기본 console renderer를 사용할 때 ANSI 색상 console 출력이 활성화됩니다. 이 variable을 false로 설정하여 색상 출력을 비활성화하면 단색 로그가 생성됩니다. 기본값은 true입니다.

LOG_LEVEL

log level을 구성합니다. 기본값은 INFO입니다.

LOG_JSON

LOG_JSONtrue로 설정하면 구성된 JSONRenderer를 사용하여 모든 로그 메시지를 JSON 객체로 렌더링합니다. 이는 로그 관리 시스템에서 쉽게 파싱하거나 수집할 수 있는 구조화된 로그를 생성합니다. 기본값은 false입니다.

MOUNT_PREFIX

Self-Hosted 배포에서만 허용됨 MOUNT_PREFIX environment variable은 Self-Hosted Deployment 모델에서만 허용되며, LangSmith SaaS는 이 environment variable을 허용하지 않습니다.
MOUNT_PREFIX를 설정하면 특정 path prefix 아래에서 LangGraph Server를 제공합니다. 이는 서버가 특정 path prefix를 요구하는 reverse proxy 또는 load balancer 뒤에 있는 배포에 유용합니다. 예를 들어, 서버가 https://example.com/langgraph 아래에서 제공되어야 하는 경우 MOUNT_PREFIX/langgraph로 설정하세요.

N_JOBS_PER_WORKER

LangGraph Server task queue의 worker당 job 수입니다. 기본값은 10입니다.

POSTGRES_URI_CUSTOM

Hybrid 및 Self-Hosted에만 해당 Custom Postgres 인스턴스는 HybridSelf-Hosted 배포에서만 사용할 수 있습니다.
POSTGRES_URI_CUSTOM을 지정하여 custom Postgres 인스턴스를 사용하세요. POSTGRES_URI_CUSTOM의 값은 유효한 Postgres connection URI여야 합니다. Postgres:
  • 버전 15.8 이상.
  • 초기 데이터베이스가 존재해야 하며 connection URI는 데이터베이스를 참조해야 합니다.
Control Plane 기능:
  • POSTGRES_URI_CUSTOM이 지정되면 control plane은 서버에 대한 데이터베이스를 프로비저닝하지 않습니다.
  • POSTGRES_URI_CUSTOM이 제거되면 control plane은 서버에 대한 데이터베이스를 프로비저닝하지 않으며 외부에서 관리되는 Postgres 인스턴스를 삭제하지 않습니다.
  • POSTGRES_URI_CUSTOM이 제거되면 revision 배포가 성공하지 않습니다. POSTGRES_URI_CUSTOM이 한 번 지정되면 배포의 수명 주기 동안 항상 설정되어야 합니다.
  • 배포가 삭제되면 control plane은 외부에서 관리되는 Postgres 인스턴스를 삭제하지 않습니다.
  • POSTGRES_URI_CUSTOM의 값은 업데이트할 수 있습니다. 예를 들어, URI의 password를 업데이트할 수 있습니다.
Database 연결:
  • custom Postgres 인스턴스는 LangGraph Server에서 액세스할 수 있어야 합니다. 사용자는 연결을 보장할 책임이 있습니다.

REDIS_CLUSTER

이 기능은 Alpha 단계입니다.
Self-Hosted 배포에서만 허용됨 Redis Cluster 모드는 Self-Hosted Deployment 모델에서만 사용할 수 있으며, LangSmith SaaS는 기본적으로 redis 인스턴스를 프로비저닝합니다.
REDIS_CLUSTERTrue로 설정하면 Redis Cluster 모드가 활성화됩니다. 활성화되면 시스템은 cluster 모드를 사용하여 Redis에 연결합니다. 이는 Redis Cluster 배포에 연결할 때 유용합니다. 기본값은 False입니다.

REDIS_KEY_PREFIX

API Server 버전 0.1.9+에서 사용 가능 이 environment variable은 API Server 버전 0.1.9 이상에서 지원됩니다.
Redis key의 prefix를 지정합니다. 이를 통해 여러 LangGraph Server 인스턴스가 서로 다른 key prefix를 사용하여 동일한 Redis 인스턴스를 공유할 수 있습니다. 기본값은 ''입니다.

REDIS_URI_CUSTOM

Hybrid 및 Self-Hosted에만 해당 Custom Redis 인스턴스는 HybridSelf-Hosted 배포에서만 사용할 수 있습니다.
REDIS_URI_CUSTOM을 지정하여 custom Redis 인스턴스를 사용하세요. REDIS_URI_CUSTOM의 값은 유효한 Redis connection URI여야 합니다.

REDIS_MAX_CONNECTIONS

Redis connection pool의 최대 크기(replica당)는 REDIS_MAX_CONNECTIONS environment variable을 사용하여 제어할 수 있습니다. 이 variable을 설정하면 서버가 Redis 인스턴스와 설정할 동시 연결 수의 상한을 결정할 수 있습니다. 예를 들어, 배포가 10개의 replica로 확장되고 REDIS_MAX_CONNECTIONS150으로 구성된 경우 Redis에 최대 1500개의 연결이 설정될 수 있습니다. 기본값은 2000입니다.

RESUMABLE_STREAM_TTL_SECONDS

Redis에서 resumable stream 데이터의 time-to-live(초 단위)입니다. run이 생성되고 출력이 stream될 때 stream은 resumable로 구성될 수 있습니다(예: stream_resumable=True). stream이 resumable인 경우 stream의 출력은 Redis에 임시로 저장됩니다. 이 데이터의 TTL은 RESUMABLE_STREAM_TTL_SECONDS를 설정하여 구성할 수 있습니다. resumable stream을 구현하는 방법에 대한 자세한 내용은 PythonJS/TS SDK를 참조하세요. 기본값은 120초입니다.
Connect these docs programmatically to Claude, VSCode, and more via MCP for real-time answers.
I