Halaman ini diterjemahkan oleh Cloud Translation API.

Menggunakan agen Pipeline Kueri LlamaIndex

Sebelum memulai

Tutorial ini mengasumsikan bahwa Anda telah membaca dan mengikuti petunjuk dalam:

Mengembangkan agen LlamaIndexQueryPipeline: untuk mengembangkan agent sebagai instance LlamaIndexQueryPipelineAgent.
Autentikasi pengguna untuk mengautentikasi sebagai pengguna guna membuat kueri agen.
Impor dan inisialisasi SDK untuk melakukan inisialisasi klien guna mendapatkan instance yang di-deploy (jika diperlukan).

Mendapatkan instance agen

Untuk membuat kueri LlamaIndexQueryPipelineAgent, Anda harus membuat instance baru atau mendapatkan instance yang ada terlebih dahulu.

Untuk mendapatkan LlamaIndexQueryPipelineAgent yang sesuai dengan ID resource tertentu:

Vertex AI SDK untuk Python

Jalankan kode berikut:

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

agent = client.agent_engines.get(name="projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID")

print(agent)

di mana

PROJECT_ID adalah Google Cloud project ID yang digunakan untuk mengembangkan dan men-deploy agen, dan
LOCATION adalah salah satu wilayah yang didukung.
RESOURCE_ID adalah ID agen yang di-deploy sebagai resource reasoningEngine.

Library permintaan Python

Jalankan kode berikut:

from google import auth as google_auth
from google.auth.transport import requests as google_requests
import requests

def get_identity_token():
    credentials, _ = google_auth.default()
    auth_request = google_requests.Request()
    credentials.refresh(auth_request)
    return credentials.token

response = requests.get(
f"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID",
    headers={
        "Content-Type": "application/json; charset=utf-8",
        "Authorization": f"Bearer {get_identity_token()}",
    },
)

REST API

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

Saat menggunakan Vertex AI SDK untuk Python, objek agent sesuai dengan class AgentEngine yang berisi hal berikut:

agent.api_resource dengan informasi tentang agen yang di-deploy. Anda juga dapat memanggil agent.operation_schemas() untuk menampilkan daftar operasi yang didukung agen. Lihat Operasi yang didukung untuk mengetahui detailnya.
agent.api_client yang memungkinkan interaksi layanan sinkron
agent.async_api_client yang memungkinkan interaksi layanan asinkron

Bagian selanjutnya mengasumsikan bahwa Anda memiliki instance AgentEngine, yang diberi nama agent.

Operasi yang didukung

Operasi berikut didukung untuk LlamaIndexQueryPipelineAgent:

query: untuk mendapatkan respons terhadap kueri secara sinkron.

Metode query mendukung jenis argumen berikut:

input: pesan yang akan dikirim ke agen.

Membuat kueri agen

Perintah:

agent.query(input="What is Paul Graham's life in college?")

setara dengan berikut (dalam bentuk lengkap):

agent.query(input={"input": "What is Paul Graham's life in college?"})

Untuk menyesuaikan kamus input, lihat Menyesuaikan template perintah.

Anda juga dapat menyesuaikan perilaku agen di luar input dengan meneruskan argumen kata kunci tambahan ke query().

response = agent.query(
    input={
      "input" = [
        "What is Paul Graham's life in college?",
        "How did Paul Graham's college experience shape his career?",
        "How did Paul Graham's college experience shape his entrepreneurial mindset?",
      ],
    },
    batch=True  # run the pipeline in batch mode and pass a list of inputs.
)
print(response)

Lihat kode QueryPipeline.run untuk mengetahui daftar lengkap parameter yang tersedia.