---
title: TextEmbed - Embedding Inference Server
---

TextEmbed는 vector embedding을 제공하기 위해 설계된 고처리량, 저지연 REST API입니다. 다양한 sentence-transformer 모델과 프레임워크를 지원하여 자연어 처리의 다양한 애플리케이션에 적합합니다.

## Features

- **고처리량 & 저지연:** 많은 수의 요청을 효율적으로 처리하도록 설계되었습니다.
- **유연한 모델 지원:** 다양한 sentence-transformer 모델과 함께 작동합니다.
- **확장 가능:** 대규모 시스템에 쉽게 통합되고 수요에 따라 확장됩니다.
- **Batch Processing:** 더 나은 성능과 빠른 추론을 위한 batch processing을 지원합니다.
- **OpenAI 호환 REST API Endpoint:** OpenAI 호환 REST API endpoint를 제공합니다.
- **단일 명령어 배포:** 효율적인 배포를 위해 단일 명령어로 여러 모델을 배포합니다.
- **Embedding 형식 지원:** 더 빠른 검색을 위해 binary, float16, float32 embedding 형식을 지원합니다.

## Getting Started

### Prerequisites

Python 3.10 이상이 설치되어 있는지 확인하세요. 필요한 종속성도 설치해야 합니다.

## Installation via PyPI

1. **필요한 종속성을 설치합니다:**

    ```bash
    pip install -U textembed
  1. 원하는 모델로 TextEmbed server를 시작합니다: 
    python -m textembed.server --models sentence-transformers/all-MiniLM-L12-v2 --workers 4 --api-key TextEmbed
자세한 내용은 문서를 참조하세요.

​
Import

from langchain_community.embeddings import TextEmbedEmbeddings

embeddings = TextEmbedEmbeddings(
    model="sentence-transformers/all-MiniLM-L12-v2",
    api_url="http://0.0.0.0:8000/v1",
    api_key="TextEmbed",
)

​
Embed your documents

# Define a list of documents
documents = [
    "Data science involves extracting insights from data.",
    "Artificial intelligence is transforming various industries.",
    "Cloud computing provides scalable computing resources over the internet.",
    "Big data analytics helps in understanding large datasets.",
    "India has a diverse cultural heritage.",
]

# Define a query
query = "What is the cultural heritage of India?"

# Embed all documents
document_embeddings = embeddings.embed_documents(documents)

# Embed the query
query_embedding = embeddings.embed_query(query)

# Compute Similarity
import numpy as np

scores = np.array(document_embeddings) @ np.array(query_embedding).T
dict(zip(documents, scores))

{'Data science involves extracting insights from data.': 0.05121298956322118,
 'Artificial intelligence is transforming various industries.': -0.0060612142358469345,
 'Cloud computing provides scalable computing resources over the internet.': -0.04877402795301714,
 'Big data analytics helps in understanding large datasets.': 0.016582168576929422,
 'India has a diverse cultural heritage.': 0.7408992963028144}


---

<Callout icon="pen-to-square" iconType="regular">
    [Edit the source of this page on GitHub.](https://github.com/langchain-ai/docs/edit/main/src/oss/python/integrations/text_embedding/textembed.mdx)
</Callout>
<Tip icon="terminal" iconType="regular">
    [Connect these docs programmatically](/use-these-docs) to Claude, VSCode, and more via MCP for    real-time answers.
</Tip>
⌘I