Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Endpoint supportati da Amazon Bedrock
Un endpoint è l'URL utilizzato dall'applicazione per inviare richieste di inferenza ad Amazon Bedrock. Amazon Bedrock fornisce due endpoint di inferenza. L'endpoint scelto determina quali API e funzionalità sono disponibili.
Per la maggior parte delle nuove applicazioni, utilizza l'bedrock-runtimeendpoint. bedrock-mantleUtilizzalo quando hai bisogno specificamente di funzionalità attualmente disponibili solo lì, come strumenti lato server e preconfigurati (inclusa la ricerca sul Web), inferenza in background, Progetti o Spazi di lavoro. Progetti (OpenAI-compatible) Spazi di lavoro () Anthropic-compatible Per vedere quali endpoint supporta ciascun modello, consulta. Disponibilità degli endpoint La tabella seguente confronta i due endpoint.
| Endpoint | API supportate | Descrizione |
|---|---|---|
bedrock-runtime.{region}.amazonaws.com (consigliato) |
InvokeModel/Converse/Completamenti delle chat/API delle risposte/API dei messaggi Inferenza tramite l'API Anthropic Messages | Region-specific endpoint per effettuare richieste di inferenza per modelli ospitati in Amazon Bedrock utilizzando le API. InvokeModel/Converse/Chat Completions/Responses/Messages Per ulteriori informazioni sulle Bedrock-native operazioni, consulta le operazioni dell'API Amazon Bedrock Runtime. Le OpenAI-compatible API vengono richiamate sui /openai/v1 percorsi di questo endpoint anziché tramite gli SDK. AWS |
bedrock-mantle.{region}.api.aws |
API delle risposte/API di completamento delle chat/API dei messaggi Inferenza tramite l'API Anthropic Messages | Region-specific endpoint per effettuare richieste di inferenza per modelli ospitati in Amazon Bedrock utilizzando gli OpenAI-compatible endpoint e l'API Anthropic Messages. |
Nota
Entrambi gli endpoint utilizzano lo stesso motore di inferenza Mantle sottostante e traggono vantaggio dal design Zero Operator Access (ZOA) di Mantle. https://aws.amazon.com/blogs/machine-learning/exploring-the-zero-operator-access-design-of-mantle/bedrock-mantle nome identifica una superficie dell'endpoint, non un motore di inferenza diverso.
Le applicazioni esistenti che utilizzano bedrock-mantle continuano a essere completamente supportate e non devono essere modificate. Entrambi gli endpoint consentono di importare una base di codice OpenAI SDK esistente in Amazon Bedrock modificando solo l'URL di base e la chiave API ed entrambi supportano le API OpenAI-compatible Responses and Chat Completions e l'API Anthropic Messages.
| "Hello, World!" | bedrock-runtime |
bedrock-mantle |
|---|---|---|
| InvokeModel |  |
 |
| Converse/ ConverseStream | |
|
| Completamenti delle chat () OpenAI-compatible | |
|
| API delle risposte () OpenAI-compatible | |
|
| API per i messaggi (Anthropic-native) | |
|
Nota
L'API Messages è disponibile su entrambi gli endpoint, ma le due superfici non supportano funzionalità identiche. In particolare, gli output strutturati (il output_config.format parametro) non sono supportatibedrock-mantle: le richieste che includono output_config.format vengono rifiutate con un errore 400. Per utilizzare gli output strutturati con i modelli Anthropic Claude, attiva Converse o le API. InvokeModel bedrock-runtime
Nota
L'API Responses è disponibile anche su entrambi gli endpoint senza il supporto di funzionalità identiche. In bedrock-runtime:
Le richieste sono sempre sincrone.
background=trueviene rifiutato con un errore 400. Ilstoreparametro è inalterato e mantiene l'impostazione predefinitatrue, pertanto le conversazioni a più turni memorizzate funzionano normalmente.Server-side utilizzo degli strumenti e strumenti preconfigurati non sono disponibili, inclusa la ricerca sul Web. Client-side l'uso dello strumento funziona su entrambi gli endpoint.
È supportato solo il progetto predefinito. Consulta Progetti (OpenAI-compatible).
Una risposta memorizzata appartiene a chi Regione AWS l'ha fornita. Il recupero, l'annullamento o l'eliminazione e la continuazione della conversazione con
previous_response_id, sono tutti gestiti da quella Regione.
| Funzionalità | bedrock-runtime |
bedrock-mantle |
|---|---|---|
| Cross-region inferenza (profili geografici e globali) | |
|
| Gestione stateful delle conversazioni | |
|
| Inferenza asincrona (di lunga durata) | |
|
| Client-side uso dello strumento | |
|
| Server-side uso dello strumento | |
|
| Pre-configured strumenti pronti all'uso | |
|
| Progetti | Solo progetto predefinito | |
| Spazi di lavoro | |
|
L'autenticazione non garantisce l'accesso di per sé. Indipendentemente dal fatto che utilizzi Sigv4 o una chiave API Bedrock, il responsabile IAM associato deve disporre dell'autorizzazione per l'azione richiesta. Per i requisiti e gli esempi completi delle policy, consulta. Prerequisiti per l’esecuzione dell’inferenza del modello
| Elemento | bedrock-runtime |
bedrock-mantle |
|---|---|---|
| Autenticazione AWS Sigv4 | |
|
| Chiave API Bedrock (funziona anche con OpenAI SDK) | |
|
| Autorizzazione IAM per l'inferenza | bedrock:InvokeModelsul target di inferenza e, per l'API Responses, sul progetto predefinito; bedrock:InvokeModelWithResponseStream per lo streaming |
bedrock-mantle:CreateInference |
| Attribuzione dell'uso | Principal IAM, etichettatura dei metadati per richiesta, profili di inferenza delle applicazioni Profili di inferenza delle applicazioni | Progetti (OpenAI-compatible)Progetti, spazi di lavoro |
Nota
Attivatabedrock-runtime, l'API Responses attribuisce l'utilizzo solo da parte del responsabile IAM. Per-request La codifica dei metadati e i profili di inferenza delle applicazioni non sono disponibili su di essa: una richiesta che nomina un profilo di inferenza dell'applicazione come destinazione di inferenza viene rifiutata con un errore 400. Ciò non influisce sull'inferenza interregionale: i profili di inferenza geografici e globali definiti dal sistema funzionano normalmente.
| Funzionalità |
|---|