Membuat atau menggunakan kembali instance Example Store

Halaman ini menunjukkan cara membuat instance Example Store baru atau menggunakan kembali instance Example Store yang ada. Anda dapat menyimpan contoh di Example Store saat mengembangkan aplikasi LLM dan mengambilnya secara dinamis untuk digunakan dalam perintah LLM.

Untuk mengajari LLM atau agen menggunakan contoh singkat, Anda harus membuat atau menggunakan kembali instance Example Store untuk project dan lokasi Anda, lalu mengupload contoh ke dalamnya.

Untuk setiap project dan lokasi, Anda dapat memiliki maksimal 50 instance Contoh Store. Setelah membuat instance Example Store, Anda dapat membagikannya di beberapa aplikasi dan agen LLM.

Ada dua cara untuk menyediakan instance Example Store:

  • Membuat instance Example Store baru: Saat membuat instance Example Store baru, Anda perlu menentukan model penyematan, yang digunakan Example Store untuk menentukan contoh mana yang relevan dengan kueri pengguna. Example Store mendukung model penyematan berikut:

    • text-embedding-005

    • text-multilingual-embedding-002

    Anda tidak dapat mengubah model penyematan setelah membuat instance Contoh Store. Jika ingin menggunakan model penyematan yang berbeda, Anda harus membuat contoh penyimpanan lain. Untuk informasi selengkapnya tentang embedding teks, lihat Mendapatkan embedding teks.

  • Menggunakan kembali instance Example Store yang ada: Instance Example Store dirancang untuk digunakan oleh beberapa agen, sehingga Anda dapat mengakses contoh yang disimpan di seluruh aplikasi LLM. Anda tidak dapat mengubah model penyematan saat menggunakan kembali instance Contoh Store yang ada.

Prasyarat

Sebelum menggunakan contoh Python di halaman ini, instal dan lakukan inisialisasi Vertex AI SDK untuk Python di lingkungan Python lokal Anda.

  1. Jalankan perintah berikut untuk menginstal Vertex AI SDK untuk Python untuk Example Store.

    pip install --upgrade google-cloud-aiplatform>=1.87.0
  2. Gunakan contoh kode berikut untuk mengimpor dan melakukan inisialisasi SDK untuk Example Store.

    import vertexai
    from vertexai.preview import example_stores
    
    vertexai.init(
      project="PROJECT_ID",
      location="LOCATION"
    )
    

    Ganti kode berikut:

    • PROJECT_ID: Project ID Anda.

    • LOCATION: Region Anda. Hanya us-central1 yang didukung.

Membuat instance Example Store

Gunakan contoh berikut untuk membuat instance Example Store untuk project dan lokasi yang ditentukan. Perhatikan bahwa pembuatan instance Example Store memerlukan waktu beberapa menit.

Python

Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Python di Panduan memulai Vertex AI menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat Dokumentasi referensi API Python Vertex AI.

Untuk melakukan autentikasi ke Vertex AI, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.

import vertexai
from vertexai.preview import example_stores

vertexai.init(
    project="PROJECT_ID",
    location="LOCATION"
)

my_example_store = example_stores.ExampleStore.create(
    example_store_config=example_stores.ExampleStoreConfig(
        vertex_embedding_model="EMBEDDING_MODEL"
    )
)

Ganti kode berikut:

  • PROJECT_ID: Project ID Anda.
  • LOCATION: Region tempat Anda ingin membuat contoh toko. Satu-satunya wilayah yang didukung adalah us-central1.
  • EMBEDDING_MODEL: Model penyematan yang digunakan instance Example Store untuk menentukan contoh yang relevan dengan kueri pengguna. Example Store mendukung model penyematan berikut:
    • textembedding-gecko@003
    • text-embedding-004
    • text-multilingual-embedding-002

REST

Untuk membuat resource ExampleStore, kirim permintaan POST menggunakan metode exampleStores.create.

Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:

  • PROJECT_ID: Project ID Anda.
  • LOCATION: Region tempat Anda ingin membuat instance Contoh Store. Satu-satunya wilayah yang didukung adalah us-central1.
  • DISPLAY_NAME: Nama instance Example Store.
  • EMBEDDING_MODEL: Model penyematan yang digunakan instance Example Store untuk menentukan contoh yang relevan dengan kueri pengguna. Example Store mendukung model penyematan berikut:
    • textembedding-gecko@003
    • text-embedding-004
    • text-multilingual-embedding-002

Metode HTTP dan URL:

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores

Isi JSON permintaan:

{
  "display_name": "DISPLAY_NAME",
  "example_store_config": {"vertex_embedding_model": EMBEDDING_MODEL}
}

Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:

curl

Simpan isi permintaan dalam file bernama request.json, dan jalankan perintah berikut:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores"

PowerShell

Simpan isi permintaan dalam file bernama request.json, dan jalankan perintah berikut:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores" | Select-Object -Expand Content

Anda akan menerima respons JSON yang mirip dengan berikut ini, dengan EXAMPLE_STORE_ID mewakili ID instance Example Store.

Menggunakan kembali instance Example Store yang ada

Gunakan contoh berikut untuk menggunakan kembali instance Example Store yang ada untuk project dan lokasi yang ditentukan.

Python

Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Python di Panduan memulai Vertex AI menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat Dokumentasi referensi API Python Vertex AI.

Untuk melakukan autentikasi ke Vertex AI, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.

import vertexai
from vertexai.preview import example_stores

vertexai.init(
    project="PROJECT_ID",
    location="LOCATION"
)

example_store = example_stores.ExampleStore(
    "EXAMPLE_STORE_NAME")

Ganti kode berikut:

  • PROJECT_ID: Project ID Anda.
  • LOCATION: Region tempat Anda ingin membuat contoh toko. Satu-satunya wilayah yang didukung adalah us-central1.
  • EXAMPLE_STORE_NAME: Nama instance Example Store yang ingin Anda gunakan kembali.

Langkah berikutnya