이 섹션은 LangSmith JS SDK 버전 0.2.0 이상을 사용하는 경우에 해당합니다. Serverless 환경에서 LangChain.js 또는 LangGraph.js를 사용하여 추적하는 경우 이 가이드를 참조하세요.
LANGSMITH_TRACING_BACKGROUND라는 환경 변수를"false"로 설정합니다. 이렇게 하면 추적된 함수가 반환되기 전에 추적이 완료될 때까지 대기합니다.- LangSmith는 LangChain 없이도 사용할 수 있기 때문에 LangChain.js의 환경 변수와 이름이 다르게 지정되어 있습니다.
- 추적된 실행에 커스텀 client를 전달하고
client.awaitPendingTraceBatches();메서드를await합니다.
traceable 메서드와 함께 awaitPendingTraceBatches를 사용하는 예제입니다:
높은 동시성에서의 Rate limit
기본적으로 LangSmith client는 추적된 실행이 진행됨에 따라 작업을 배치 처리하여 몇 밀리초마다 새 배치를 전송합니다. 이는 대부분의 상황에서 잘 작동하지만, 추적된 함수가 오래 실행되고 동시성이 매우 높은 경우 전체 요청 수와 관련된 rate limit에 도달할 수 있습니다. 이와 관련된 rate limit 오류가 발생하는 경우 다음과 같이 client에서manualFlushMode: true를 설정해 볼 수 있습니다:
client.flush()를 수동으로 호출합니다:
.flush()를 호출할 때까지 실행이 LangSmith UI에 나타나지 않습니다.