Gere respostas fundamentadas com a RAG

Como parte da sua experiência de geração aumentada de recuperação (RAG) no Vertex AI Search, pode gerar respostas fundamentadas a comandos com base nas seguintes fontes de fundamentação:

  • Pesquisa Google: use a fundamentação com a Pesquisa Google se quiser associar o modelo a conhecimentos mundiais, a uma grande variedade de tópicos ou a informações atualizadas na Internet. A fundamentação com a Pesquisa Google suporta a obtenção dinâmica, o que lhe dá a opção de gerar resultados fundamentados com a Pesquisa Google apenas quando necessário. Por conseguinte, a configuração de obtenção dinâmica avalia se um comando requer conhecimentos sobre eventos recentes e ativa a fundamentação com a Pesquisa Google. Para mais informações, consulte o artigo Obtenção dinâmica.
  • Texto inline: use o fundamento com texto inline para fundamentar a resposta em partes de texto denominadas texto de factos que são fornecidas no pedido. Um texto de factos é uma declaração fornecida pelo utilizador que é considerada factual para um determinado pedido. O modelo não verifica a autenticidade do texto de factos.
  • Bases de dados do Vertex AI Search: use o fundamento com o Vertex AI Search se quiser associar o modelo aos seus documentos empresariais das bases de dados do Vertex AI Search.

Esta página descreve como gerar respostas fundamentadas com base nestas fontes de fundamentação através das seguintes abordagens:

Além disso, pode optar por transmitir as respostas do modelo. A geração de uma resposta fundamentada através do streaming é uma funcionalidade experimental.

Pode usar outros métodos para gerar respostas fundamentadas, de acordo com a sua aplicação. Para mais informações, consulte o artigo APIs Vertex AI para criar experiências de pesquisa e RAG.

Terminologia

Antes de usar o método de geração de respostas fundamentadas, é útil compreender as entradas e as saídas, como estruturar o seu pedido e a terminologia relacionada com a RAG.

Termos RAG

A RAG é uma metodologia que permite que os grandes modelos de linguagem (GMLs) gerem respostas baseadas na origem de dados à sua escolha. Existem duas fases na RAG:

  1. Obtenção: obter rapidamente os factos mais relevantes pode ser um problema de pesquisa comum. Com a RAG, pode obter rapidamente os factos importantes para gerar uma resposta.
  2. Geração: os factos obtidos são usados pelo LLM para gerar uma resposta fundamentada.

Por conseguinte, o método de geração de respostas fundamentadas obtém os factos da fonte de fundamentação e gera uma resposta fundamentada.

Dados de entrada

O método de geração de respostas fundamentadas requer as seguintes entradas no pedido:

  • Função: o remetente de um determinado texto que é um utilizador (user) ou um modelo (model).

  • Texto: quando a função é user, o texto é um comando e, quando a função é model, o texto é uma resposta fundamentada. A forma como especifica a função e o texto num pedido é determinada da seguinte forma:

    • Para uma geração de respostas de uma única interação, o utilizador envia o texto do comando no pedido e o modelo envia o texto da resposta na resposta.
    • Para uma geração de respostas em várias fases, o pedido contém o par de comando-resposta para todas as fases anteriores e o texto do comando do utilizador para a fase atual. Por conseguinte, num pedido deste tipo, a função é user para um texto de comando e model para o texto de resposta.

  • Instrução do sistema: um preâmbulo do seu comando que rege o comportamento do modelo e modifica o resultado em conformidade. Por exemplo, pode adicionar uma personagem à resposta gerada ou instruir o modelo para formatar o texto de saída de uma determinada forma. Para a geração de respostas com várias interações, tem de fornecer as instruções do sistema para cada interação. Para mais informações, consulte o artigo Use instruções do sistema.

  • Fonte de fundamentação: a fonte na qual a resposta se baseia e pode ser uma ou mais das seguintes:

    • Pesquisa Google: baseie as respostas em resultados da Pesquisa Google. Quando a origem de base é a Pesquisa Google, pode especificar uma configuração de obtenção dinâmica com um limite de obtenção dinâmica. Para mais informações, consulte o artigo Obtenção dinâmica.

    • Texto inline: fundamentar a resposta em texto factual fornecido no pedido. Um texto de factos é uma declaração fornecida pelo utilizador que é considerada factual para um determinado pedido. O modelo não verifica a autenticidade do texto de factos. Pode fornecer um máximo de 100 textos de factos em cada fonte de texto incorporado. Os textos de factos podem ser suportados através de meta-atributos, como o título, o autor e o URI. Estes meta atributos são devolvidos na resposta quando cita os fragmentos que suportam a resposta.

    • Armazenamento de dados do Vertex AI Search: fundamentar a resposta nos documentos dos armazenamentos de dados do Vertex AI Search. Não pode especificar um arquivo de dados de pesquisa de um Website como a origem de base.

    Num determinado pedido, pode fornecer uma origem de texto incorporada e uma origem de arquivo de dados do Vertex AI Search. Não pode combinar a Pesquisa Google com nenhuma destas origens. Por conseguinte, se quiser fundamentar as suas respostas com resultados da Pesquisa Google, tem de enviar uma solicitação separada que especifique a Pesquisa Google como a única fonte de fundamentação.

    Pode fornecer um máximo de 10 origens de fundamentação em qualquer ordem. Por exemplo, suponha que fornece as origens de base com a seguinte contagem, pela seguinte ordem, para obter um total de 10 origens de base:

    • Três fontes de texto incorporadas, cada uma das quais pode conter um máximo de 100 textos de factos