Halaman ini menunjukkan cara membuat instance Example Store baru atau menggunakan kembali instance Example Store yang ada. Anda dapat menyimpan contoh di Example Store saat mengembangkan aplikasi LLM dan mengambilnya secara dinamis untuk digunakan dalam perintah LLM.
Untuk mengajari LLM atau agen menggunakan contoh singkat, Anda harus membuat atau menggunakan kembali instance Example Store untuk project dan lokasi Anda, lalu mengupload contoh ke dalamnya.
Untuk setiap project dan lokasi, Anda dapat memiliki maksimal 50 instance Contoh Store. Setelah membuat instance Example Store, Anda dapat membagikannya di beberapa aplikasi dan agen LLM.
Ada dua cara untuk menyediakan instance Example Store:
Membuat instance Example Store baru: Saat membuat instance Example Store baru, Anda perlu menentukan model penyematan, yang digunakan Example Store untuk menentukan contoh mana yang relevan dengan kueri pengguna. Example Store mendukung model penyematan berikut:
text-embedding-005
text-multilingual-embedding-002
Anda tidak dapat mengubah model penyematan setelah membuat instance Contoh Store. Jika ingin menggunakan model penyematan yang berbeda, Anda harus membuat contoh penyimpanan lain. Untuk informasi selengkapnya tentang embedding teks, lihat Mendapatkan embedding teks.
Menggunakan kembali instance Example Store yang ada: Instance Example Store dirancang untuk digunakan oleh beberapa agen, sehingga Anda dapat mengakses contoh yang disimpan di seluruh aplikasi LLM. Anda tidak dapat mengubah model penyematan saat menggunakan kembali instance Contoh Store yang ada.
Prasyarat
Sebelum menggunakan contoh Python di halaman ini, instal dan lakukan inisialisasi Vertex AI SDK untuk Python di lingkungan Python lokal Anda.
Jalankan perintah berikut untuk menginstal Vertex AI SDK untuk Python untuk Example Store.
pip install --upgrade google-cloud-aiplatform>=1.87.0
Gunakan contoh kode berikut untuk mengimpor dan melakukan inisialisasi SDK untuk Example Store.
import vertexai from vertexai.preview import example_stores vertexai.init( project="PROJECT_ID", location="LOCATION" )
Ganti kode berikut:
PROJECT_ID: Project ID Anda.
LOCATION: Region Anda. Hanya
us-central1
yang didukung.
Membuat instance Example Store
Gunakan contoh berikut untuk membuat instance Example Store untuk project dan lokasi yang ditentukan. Perhatikan bahwa pembuatan instance Example Store memerlukan waktu beberapa menit.
Python
Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Python di Panduan memulai Vertex AI menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat Dokumentasi referensi API Python Vertex AI.
Untuk melakukan autentikasi ke Vertex AI, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.
import vertexai
from vertexai.preview import example_stores
vertexai.init(
project="PROJECT_ID",
location="LOCATION"
)
my_example_store = example_stores.ExampleStore.create(
example_store_config=example_stores.ExampleStoreConfig(
vertex_embedding_model="EMBEDDING_MODEL"
)
)
Ganti kode berikut:
- PROJECT_ID: Project ID Anda.
- LOCATION: Region tempat Anda ingin membuat contoh
toko. Satu-satunya wilayah yang didukung adalah
us-central1
. - EMBEDDING_MODEL: Model penyematan yang digunakan
instance Example Store untuk menentukan contoh yang relevan dengan kueri pengguna. Example Store
mendukung model penyematan berikut:
textembedding-gecko@003
text-embedding-004
text-multilingual-embedding-002
REST
Untuk membuat resource ExampleStore
, kirim permintaan POST
menggunakan
metode
exampleStores.create
.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- LOCATION: Region tempat Anda ingin membuat instance Contoh
Store. Satu-satunya wilayah yang didukung adalah
us-central1
. - DISPLAY_NAME: Nama instance Example Store.
- EMBEDDING_MODEL: Model penyematan yang digunakan
instance Example Store untuk menentukan contoh yang relevan dengan kueri pengguna. Example Store
mendukung model penyematan berikut:
textembedding-gecko@003
text-embedding-004
text-multilingual-embedding-002
Metode HTTP dan URL:
POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores
Isi JSON permintaan:
{ "display_name": "DISPLAY_NAME", "example_store_config": {"vertex_embedding_model": EMBEDDING_MODEL} }
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Simpan isi permintaan dalam file bernama request.json
,
dan jalankan perintah berikut:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores"
PowerShell
Simpan isi permintaan dalam file bernama request.json
,
dan jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan berikut ini, dengan EXAMPLE_STORE_ID mewakili ID instance Example Store.
Menggunakan kembali instance Example Store yang ada
Gunakan contoh berikut untuk menggunakan kembali instance Example Store yang ada untuk project dan lokasi yang ditentukan.
Python
Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Python di Panduan memulai Vertex AI menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat Dokumentasi referensi API Python Vertex AI.
Untuk melakukan autentikasi ke Vertex AI, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.
import vertexai
from vertexai.preview import example_stores
vertexai.init(
project="PROJECT_ID",
location="LOCATION"
)
example_store = example_stores.ExampleStore(
"EXAMPLE_STORE_NAME")
Ganti kode berikut:
- PROJECT_ID: Project ID Anda.
- LOCATION: Region tempat Anda ingin membuat contoh
toko. Satu-satunya wilayah yang didukung adalah
us-central1
. - EXAMPLE_STORE_NAME: Nama instance Example Store yang ingin Anda gunakan kembali.