View a markdown version of this page

Progetti (OpenAI-compatible) - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Progetti (OpenAI-compatible)

L'API Amazon Bedrock Projects fornisce l'isolamento a livello di applicazione per i carichi di lavoro di IA generativa tramite API. OpenAI-compatible I progetti ti consentono di organizzare e gestire le tue applicazioni di intelligenza artificiale con un migliore controllo degli accessi, monitoraggio dei costi e osservabilità in tutta l'organizzazione.

Suggerimento

Per le nuove applicazioni, consigliamo l'bedrock-runtimeendpoint. Se non hai bisogno dell'API Projects, utilizza Inference Profiles per l'isolamento, l'etichettatura e il monitoraggio dei costi. bedrock-runtime

Nota

I progetti possono essere utilizzati solo con modelli che utilizzano le OpenAI-compatible API sull'endpoint bedrock-mantle. Se stai utilizzando l'endpoint bedrock-runtime, utilizza Inference Profiles invece di tagging e osservability.

Che cos'è un progetto?

Un progetto è un limite logico utilizzato per isolare carichi di lavoro come applicazioni, ambienti o esperimenti all'interno di Amazon Bedrock. I progetti forniscono:

I progetti consentono di gestire più carichi di lavoro di intelligenza artificiale generativa in produzione senza creare AWS account o organizzazioni separati, riducendo la complessità operativa e mantenendo la sicurezza e la governance.

Ogni AWS account ha un progetto predefinito a cui sono associate tutte le richieste di inferenza. Puoi creare più progetti nel tuo account utilizzando l'API Projects.

Nota

Il supporto per i progetti varia a seconda dell'endpoint. Sull'bedrock-mantleendpoint, puoi creare e gestire i tuoi progetti con l'API Projects. Sull'bedrock-runtimeendpoint, è disponibile solo il progetto predefinito: non puoi ancora creare progetti lì. Richieste di bedrock-runtime risoluzione relative al progetto predefinito del tuo account, il cui ARN è. arn:aws:bedrock:region:account-id:project/default Il progetto predefinito non può essere taggato o eliminato, l'impostazione di conservazione dei dati viene sempre ereditata dall'account e non è mai il criterio di fatturazione: l'utilizzo bedrock-runtime viene attribuito al target di inferenza, esattamente come avviene oggi. Per le autorizzazioni che fanno riferimento al progetto predefinito, consulta. Prerequisiti per l’esecuzione dell’inferenza del modello

Quando usare i progetti

È necessario utilizzare l'API Projects quando è necessario:

  • Organizza per struttura aziendale: gestisci l'utilizzo di Bedrock in base alla tua tassonomia organizzativa, ad esempio unità aziendali, team, applicazioni o centri di costo

  • Tieni traccia dei costi con precisione: monitora e alloca la spesa per l'IA a team, progetti o ambienti specifici

  • Applica le politiche di accesso: applica autorizzazioni IAM granulari per controllare chi può accedere a carichi di lavoro AI specifici

  • Scala i carichi di lavoro di produzione: esegui più applicazioni di produzione con limiti operativi e monitoraggio chiari

Progetti e profili di inferenza

Sia l'API di Projects che i profili di inferenza forniscono funzionalità di isolamento, etichettatura e controllo degli accessi in Amazon Bedrock, ma differiscono in base all'endpoint utilizzato. Se utilizzi OpenAI-compatible API con l'endpoint Endpoint supportati da Amazon Bedrock bedrock-mantle, utilizza l'API Projects. Se stai usando l'endpoint bedrock-runtime (consigliato per le nuove applicazioni), usa Inference Profiles. L'API Chat Completions è disponibile su entrambi gli endpoint; l'API Projects è disponibile solo su. bedrock-mantle

Funzionalità API Projects Profili di inferenza
API supportate OpenAI-compatible API (risposte, completamenti delle chat) API native di Bedrock (Invoke, Converse), API (completamenti delle chat) OpenAI-compatible
Endpoint bedrock-mantle.{region}.api.aws bedrock-runtime.{region}.amazonaws.com
Caso d'uso OpenAI-compatible Applicazioni che utilizzano endpoint Applicazioni che utilizzano API Bedrock native
Controllo degli accessi Il progetto come risorsa nelle politiche IAM Politiche IAM sul profilo di inferenza ARN