View a markdown version of this page

Amazon Bedrock에서 지원하는 엔드포인트 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon Bedrock에서 지원하는 엔드포인트

엔드포인트는 애플리케이션이 Amazon Bedrock에 추론 요청을 보내는 데 사용하는 URL입니다. Amazon Bedrock은 두 개의 추론 엔드포인트를 제공합니다. 선택한 엔드포인트에 따라 사용 가능한 APIs 및 기능이 결정됩니다.

대부분의 새 애플리케이션의 경우 bedrock-runtime 엔드포인트를 사용합니다. 서버 측 및 사전 구성된 도구(웹 검색 포함), 배경 추론, 프로젝트 또는 Workspace와 같이 현재 해당 위치에서만 사용할 수 있는 기능이 특별히 필요한 bedrock-mantle 경우에 사용합니다. 각 모델이 지원하는 엔드포인트를 확인하려면 섹션을 참조하세요엔드포인트 가용성. 다음 표에서는 두 엔드포인트를 비교합니다.

Endpoint 지원되는 APIs 설명
bedrock-runtime.{region}.amazonaws.com(권장) InvokeModel / Converse / Chat Completions / Responses API / Messages API InvokeModel/Converse/Chat Completions/Responses/Messages APIs. Bedrock 네이티브 작업에 대한 자세한 내용은 Amazon Bedrock 런타임 API 작업을 참조하세요. OpenAI 호환 APIs는 SDK를 통하지 않고이 엔드포인트의 /openai/v1 경로에서 호출됩니다. AWS SDKs
bedrock-mantle.{region}.api.aws 응답 API / 채팅 완료 API / 메시지 API OpenAI 호환 엔드포인트 및 Anthropic Messages API를 사용하여 Amazon Bedrock에서 호스팅되는 모델에 대한 추론 요청을 수행하기 위한 리전별 엔드포인트입니다.
참고

두 엔드포인트 모두 동일한 기본 Mantle 추론 엔진을 사용하며 Mantle의 제로 운영자 액세스(ZOA) 설계의 이점을 누릴 수 있습니다. bedrock-mantle 이름은 다른 추론 엔진이 아닌 엔드포인트 표면을 식별합니다.

를 사용하는 기존 애플리케이션은 bedrock-mantle 계속 완벽하게 지원되므로 변경할 필요가 없습니다. 두 엔드포인트 모두 기본 URL과 API 키만 변경하여 기존 OpenAI SDK 코드베이스를 Amazon Bedrock으로 가져올 수 있으며, 둘 다 OpenAI 호환 응답 및 채팅 완료 APIs와 Anthropic Messages API를 지원합니다.

API 지원
API bedrock-runtime bedrock-mantle
InvokeModel supported not-supported