Menggunakan agen

Menggunakan Agent Platform SDK

Saat menggunakan Agent Platform SDK, kode untuk membuat kueri agen sama terlepas dari apakah kode tersebut berjalan secara lokal atau di-deploy dari jarak jauh. Karena kumpulan operasi yang didukung berbeda-beda di setiap framework, kami memberikan petunjuk penggunaan untuk template khusus framework:

Framework Deskripsi
Agent Development Kit Dirancang berdasarkan praktik terbaik internal Google untuk developer yang membuat aplikasi AI atau tim yang perlu membuat prototipe dan men-deploy solusi berbasis agen yang andal dengan cepat.
Agent2Agent (pratinjau) Protokol Agent2Agent (A2A) adalah standar terbuka yang dirancang untuk memungkinkan komunikasi dan kolaborasi yang lancar antar-agen AI.
LangChain Lebih mudah digunakan untuk kasus penggunaan dasar karena konfigurasi dan abstraksi yang telah ditentukan sebelumnya.
LangGraph Pendekatan berbasis grafik untuk menentukan alur kerja, dengan kemampuan human-in-the-loop dan rewind/replay yang canggih.
AG2 (sebelumnya AutoGen) AG2 menyediakan framework percakapan multi-agen sebagai abstraksi tingkat tinggi untuk membangun alur kerja LLM.
LlamaIndex (pratinjau) Pipeline kueri LlamaIndex menawarkan antarmuka tingkat tinggi untuk membuat alur kerja Retrieval-Augmented Generation (RAG).
Custom Agen yang dikembangkan dan di-deploy tanpa menggunakan template khusus framework.
Kontrak runtime Spesifikasi HTTP API untuk agen berbasis penampung kustom.

Menggunakan agen yang ditayangkan di localhost

Jika Anda menayangkan agen melalui server API yang memproses permintaan di http://localhost:PORT_NUMBER, Anda akan mengirim permintaan ke

http://localhost:PORT_NUMBER/API_PATH

di mana

  • PORT_NUMBER adalah nomor port yang digunakan server untuk memproses permintaan (misalnya, 8080)
  • API_PATH adalah jalur endpoint API yang sesuai (seperti run atau run_sse)

Menggunakan agen yang di-deploy melalui API yang mendasarinya

Jika Anda telah men-deploy agen, Anda akan mengirim permintaan ke endpoint yang sesuai:

https://LOCATION-aiplatform.googleapis.com/reasoningEngines/v1/projects/PROJECT_NUMBER/locations/<var>LOCATION</var>/reasoningEngines/RESOURCE_ID/api/API_PATH

di mana

  • PROJECT_ID adalah Google Cloud project ID tempat Anda men-deploy agen
  • LOCATION adalah region tempat agen di-deploy
  • RESOURCE_ID adalah ID agen yang di-deploy sebagai reasoningEngine resource
  • API_PATH adalah jalur endpoint API yang sesuai

Endpoint ini setara dengan mengganti URL dasar localhost dengan URL dasar agen yang di-deploy. Jika Anda men-deploy penampung kustom, endpoint API serta struktur permintaan dan respons ditentukan oleh kontrak runtime.

Untuk memberikan beberapa contoh, jika Anda men-deploy server API ADK dari Dockerfile atau Image Penampung, panggil endpoint API sebagai berikut:

Menjalankan agen (respons tunggal) 

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID/api/run -d '{
  "appName": "my_sample_agent",
  "userId": "u_123",
  "sessionId": "s_abc",
  "newMessage": {
    "role": "user",
    "parts": [{"text": "What is the capital of France?"}]
  }
}'

Menjalankan agen (streaming) 

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID/api/run_sse -d '{
  "appName": "my_sample_agent",
  "userId": "u_123",
  "sessionId": "s_abc",
  "newMessage": {
    "role": "user",
    "parts": [{"text": "What is the weather in New York?"}]
  },
  "streaming": true
}'

Menggunakan agen yang di-deploy di Google Cloud konsol

Untuk agen yang di-deploy dan dikembangkan menggunakan Agent Development Kit (ADK), Anda dapat menggunakan Google Cloud konsol untuk berinteraksi dengan agen:

  1. Di Google Cloud konsol, buka halaman Agent Platform Deployments.

    Buka Deployment Agent Platform

    Runtime yang merupakan bagian dari project yang dipilih akan muncul dalam daftar. Anda dapat menggunakan kolom Filter untuk memfilter daftar berdasarkan kolom yang Anda tentukan.

  2. Klik nama runtime Anda.

  3. Klik tab Playground.

  4. Anda dapat Type a message untuk berinteraksi dengan agen, dan klik New Session untuk memulai sesi baru dengan agen.

  5. Jika mengaktifkan pelacakan melalui OpenTelemetry, Anda dapat melihat detail tentang perilaku agen selama interaksi:

    • Trace: Pelacakan percakapan Anda dengan agen.

    • Event: Grafik API yang dipanggil dan detail peristiwa selama percakapan Anda dengan agen.

    • State: Informasi tentang status agen selama percakapan Anda.

    • Sesi: Daftar sesi yang terkait dengan agen Anda. Untuk mengetahui informasi selengkapnya, lihat Mengelola menggunakan Google Cloud konsol atau panggilan API

Dukungan Playground

Anda dapat menggunakan framework berikut untuk mencoba agen:

Framework Chat dengan agen Lihat sesi
Agent Development Kit (ADK) Didukung Didukung. Memerlukan agen untuk menerapkan Sesi Agent Platform untuk persistensi.
Agent2Agent (A2A) Didukung. Memerlukan agen untuk menerapkan Sesi Agent Platform untuk persistensi. Didukung. Memerlukan agen untuk menggunakan Sesi Agent Platform, dan agen harus mengirim nilai user_id sebagai bagian dari objek konteks. Untuk mengetahui contoh cara meneruskan nilai user_id sebagai bagian dari eksekutor agen, lihat notebook Memulai A2A.

Langkah berikutnya