Sebagai bagian dari pengalaman Retrieval Augmented Generation (RAG) Anda di Penelusuran Agen, Anda dapat membuat jawaban yang di-grounding untuk perintah berdasarkan sumber perujukan berikut:
- Google Penelusuran: Gunakan Grounding dengan Google Penelusuran jika Anda ingin menghubungkan model dengan informasi global, berbagai topik, atau informasi terbaru di internet. Grounding dengan Google Penelusuran mendukung pengambilan dinamis yang memberi Anda opsi untuk membuat Hasil dengan Grounding menggunakan Google Penelusuran hanya jika diperlukan. Oleh karena itu, konfigurasi pengambilan dinamis mengevaluasi apakah perintah memerlukan pengetahuan tentang peristiwa terbaru dan mengaktifkan Grounding with Google Search. Untuk mengetahui informasi selengkapnya, lihat Pengambilan dinamis.
- Teks inline: Gunakan perujukan dengan teks inline untuk merujuk jawaban dalam potongan teks yang disebut teks fakta yang disediakan dalam permintaan. Teks fakta adalah pernyataan yang diberikan pengguna yang dianggap faktual untuk permintaan tertentu. Model tidak memeriksa keaslian teks fakta.
- Penyimpanan data Agent Search: Gunakan perujukan dengan Agent Search jika Anda ingin menghubungkan model ke dokumen perusahaan Anda dari penyimpanan data Agent Search.
Halaman ini menjelaskan cara membuat jawaban yang memiliki rujukan berdasarkan sumber perujukan ini menggunakan pendekatan berikut:
Pembuatan jawaban sekali putaran
Selain itu, Anda dapat memilih untuk melakukan streaming jawaban dari model. Menghasilkan jawaban dengan perujukan yang baik melalui streaming adalah fitur Eksperimental.
Anda dapat menggunakan metode lain untuk membuat jawaban yang memiliki rujukan, agar sesuai dengan aplikasi Anda. Untuk mengetahui informasi selengkapnya, lihat API Vertex AI untuk membangun pengalaman penelusuran dan RAG.
Terminologi
Sebelum menggunakan metode pembuatan jawaban berbasis fakta, sebaiknya pahami input dan output, cara menyusun permintaan, dan terminologi terkait RAG.
Istilah RAG
RAG adalah metodologi yang memungkinkan Model Bahasa Besar (LLM) menghasilkan respons yang didasarkan pada sumber data pilihan Anda. Ada dua tahap dalam RAG:
- Pengambilan: Mendapatkan fakta yang paling relevan dengan cepat dapat menjadi masalah penelusuran yang umum. Dengan RAG, Anda dapat dengan cepat mengambil fakta yang penting untuk menghasilkan jawaban.
- Pembuatan: Fakta yang diambil digunakan oleh LLM untuk menghasilkan respons yang berisi rujukan.
Oleh karena itu, metode pembuatan jawaban yang berisi rujukan mengambil fakta dari sumber rujukan dan menghasilkan jawaban yang berisi rujukan.
Data input
Metode pembuatan jawaban berbasis data memerlukan input berikut dalam permintaan:
Peran: Pengirim teks tertentu yang berupa pengguna (
user) atau model (model).Teks: Jika perannya adalah
user, teksnya adalah perintah dan jika perannya adalahmodel, teksnya adalah jawaban yang memiliki rujukan. Cara Anda menentukan peran dan teks dalam permintaan ditentukan sebagai berikut:- Untuk pembuatan jawaban dalam satu giliran, pengguna mengirimkan teks perintah dalam permintaan dan model mengirimkan teks jawaban dalam respons.
- Untuk pembuatan jawaban multi-giliran, permintaan berisi pasangan perintah-jawaban untuk semua giliran sebelumnya dan teks perintah dari pengguna untuk giliran saat ini. Oleh karena itu, dalam permintaan tersebut, peran
useradalah untuk teks perintah danmodeluntuk teks jawaban.
Petunjuk sistem: Pengantar pada perintah Anda yang mengatur perilaku model dan mengubah output yang sesuai. Misalnya, Anda dapat menambahkan persona ke jawaban yang dihasilkan atau menginstruksikan model untuk memformat teks output dengan cara tertentu. Untuk pembuatan jawaban multi-giliran, Anda harus memberikan petunjuk sistem untuk setiap giliran. Untuk mengetahui informasi selengkapnya, lihat Menggunakan petunjuk sistem.
Sumber perujukan: Sumber tempat jawaban didasarkan dan dapat berupa satu atau beberapa sumber berikut:
Google Penelusuran: Melakukan grounding jawaban dengan hasil Google Penelusuran. Jika sumber perujukan adalah Google Penelusuran, Anda dapat menentukan konfigurasi pengambilan dinamis dengan nilai minimum pengambilan dinamis. Untuk mengetahui informasi selengkapnya, lihat Pengambilan dinamis.
Teks inline: Mendasarkan jawaban pada teks fakta yang diberikan dalam permintaan. Teks fakta adalah pernyataan yang diberikan pengguna yang dianggap faktual untuk permintaan tertentu. Model tidak memeriksa keaslian teks fakta. Anda dapat memberikan maksimum 100 teks fakta di setiap sumber teks inline. Teks fakta dapat didukung menggunakan atribut meta, seperti judul, penulis, dan URI. Atribut meta ini ditampilkan dalam respons saat mengutip potongan yang mendukung jawaban.
Penyimpanan data Agent Search: Mendasarkan jawaban pada dokumen dari penyimpanan data Agent Search. Anda tidak dapat menentukan penyimpanan data penelusuran situs sebagai sumber perujukan.
Dalam permintaan tertentu, Anda dapat memberikan sumber teks inline dan sumber penyimpanan data Penelusuran Agen. Anda tidak dapat menggabungkan Google Penelusuran dengan salah satu sumber ini. Oleh karena itu, jika Anda ingin mendasarkan jawaban Anda pada hasil Google Penelusuran, Anda harus mengirim permintaan terpisah yang menentukan Google Penelusuran sebagai satu-satunya sumber perujukan.
Anda dapat memberikan maksimum 10 sumber perujukan dalam urutan apa pun. Misalnya, anggaplah Anda memberikan sumber perujukan dengan jumlah berikut, dalam urutan berikut untuk mendapatkan total 10 sumber perujukan:
- Tiga sumber teks inline, yang masing-masing dapat berisi maksimum 100 teks fakta
- Enam penyimpanan data Agent Search
- Satu sumber teks inline, yang berisi maksimum 100 teks fakta
Setiap sumber diberi indeks sesuai urutan yang ditentukan dalam permintaan. Misalnya, jika Anda telah menentukan kombinasi sumber dalam permintaan, indeks sumber ditetapkan seperti yang diilustrasikan dalam tabel berikut:
Sumber perujukan Indeks Teks inline #1 0 Teks inline #2 1 Penyimpanan data Agent Search #1 2 Teks inline #3 3 Penyimpanan data Agent Search #2 4 Indeks ini dikutip dalam respons dan berguna saat melacak asal-usulnya.