Alibaba Cloud PAI (Platform for AI)는 클라우드 네이티브 기술을 사용하는 경량화되고 비용 효율적인 머신러닝 플랫폼입니다. 엔드투엔드 모델링 서비스를 제공합니다. 100개 이상의 시나리오에서 수백억 개의 샘플과 수백억 개의 특성을 기반으로 모델 학습을 가속화합니다.
Alibaba Cloud의 Machine Learning Platform for AI는 기업과 개발자를 위한 머신러닝 또는 딥러닝 엔지니어링 플랫폼입니다. 다양한 산업 시나리오에 적용할 수 있는 사용하기 쉽고, 비용 효율적이며, 고성능이고, 확장하기 쉬운 플러그인을 제공합니다. 140개 이상의 내장 최적화 알고리즘을 통해 Machine Learning Platform for AI는 데이터 라벨링(PAI-iTAG), 모델 구축(PAI-Designer 및 PAI-DSW), 모델 학습(PAI-DLC), 컴파일 최적화, 추론 배포(PAI-EAS)를 포함한 전체 프로세스 AI 엔지니어링 기능을 제공합니다. PAI-EAS는 CPU와 GPU를 포함한 다양한 유형의 하드웨어 리소스를 지원하며, 높은 처리량과 낮은 지연 시간을 특징으로 합니다. 몇 번의 클릭만으로 대규모 복잡한 모델을 배포하고 실시간으로 탄력적인 스케일 인/아웃을 수행할 수 있습니다. 또한 포괄적인 운영 및 모니터링 시스템을 제공합니다.

​
EAS Service 설정

EAS service URL과 token을 초기화하기 위한 환경 변수를 설정합니다. 자세한 내용은 이 문서를 참조하세요. 
export EAS_SERVICE_URL=XXX
export EAS_SERVICE_TOKEN=XXX
또는 다음 코드를 사용할 수 있습니다: 
import os

from langchain_community.chat_models import PaiEasChatEndpoint
from langchain_core.language_models.chat_models import HumanMessage

os.environ["EAS_SERVICE_URL"] = "Your_EAS_Service_URL"
os.environ["EAS_SERVICE_TOKEN"] = "Your_EAS_Service_Token"
chat = PaiEasChatEndpoint(
    eas_service_url=os.environ["EAS_SERVICE_URL"],
    eas_service_token=os.environ["EAS_SERVICE_TOKEN"],
)

​
Chat Model 실행

다음과 같이 기본 설정을 사용하여 EAS service를 호출할 수 있습니다: 
output = chat.invoke([HumanMessage(content="write a funny joke")])
print("output:", output)
또는 새로운 inference params로 EAS service를 호출합니다: 
kwargs = {"temperature": 0.8, "top_p": 0.8, "top_k": 5}
output = chat.invoke([HumanMessage(content="write a funny joke")], **kwargs)
print("output:", output)
또는 stream 응답을 받기 위해 stream 호출을 실행합니다: 
outputs = chat.stream([HumanMessage(content="hi")], streaming=True)
for output in outputs:
    print("stream output:", output)
Edit the source of this page on GitHub.
Connect these docs programmatically to Claude, VSCode, and more via MCP for real-time answers.
⌘I