Usar um agente do LangGraph

Antes de começar

Este tutorial pressupõe que você leu e seguiu as instruções em:

Criar um agente LangGraph: para criar agent como uma instância de LanggraphAgent.
Autenticação do usuário para se autenticar como um usuário para consultar o agente.
Importar e inicializar o SDK para inicializar o cliente para receber uma instância implantada (se necessário).

Receber uma instância de um agente

Para consultar um LanggraphAgent, primeiro crie uma nova instância ou receba uma instância atual.

Para receber o LanggraphAgent que corresponde a um ID de recurso específico:

SDK da plataforma de agentes

Execute o seguinte código:

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

agent = client.agent_engines.get(name="projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID")

print(agent)

em que

PROJECT_ID é o Google Cloud ID do projeto em que você cria e implanta agentes e
LOCATION é uma das regiões aceitas.
RESOURCE_ID é o ID do agente implantado como um reasoningEngine recurso.

Biblioteca de solicitações do Python

Execute o seguinte código:

from google import auth as google_auth
from google.auth.transport import requests as google_requests
import requests

def get_identity_token():
    credentials, _ = google_auth.default()
    auth_request = google_requests.Request()
    credentials.refresh(auth_request)
    return credentials.token

response = requests.get(
f"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID",
    headers={
        "Content-Type": "application/json; charset=utf-8",
        "Authorization": f"Bearer {get_identity_token()}",
    },
)

API REST

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

Ao usar o SDK da plataforma de agentes, o objeto agent corresponde a uma AgentEngine classe que contém o seguinte:

agent.api_resource com informações sobre o agente implantado. Também é possível chamar agent.operation_schemas() para retornar a lista de operações que o agente aceita. Consulte Operações aceitas para mais detalhes.
agent.api_client que permite interações de serviço síncronas
agent.async_api_client que permite interações de serviço assíncronas

O restante desta seção pressupõe que você tenha uma instância AgentEngine, nomeada como agent.

Operações aceitas

As seguintes operações são aceitas para LanggraphAgent:

query: para receber uma resposta a uma consulta de forma síncrona.
stream_query: para transmitir uma resposta a uma consulta.
get_state: para receber um checkpoint específico.
get_state_history: para listar os checkpoints de uma linha de execução.
update_state: para criar ramificações correspondentes a diferentes cenários.

Transmitir uma resposta a uma consulta

Para transmitir uma resposta, use o LanggraphAgent.stream_query método.

O LangGraph aceita vários modos de transmissão. Os principais são:

values: esse modo transmite o estado completo do gráfico após cada nó ser chamado.
updates: esse modo transmite atualizações para o estado do gráfico após cada nó ser chamado.

Para transmitir values (correspondente ao estado completo do gráfico):

for state_values in agent.stream_query(
    input=inputs,
    stream_mode="values",
    config={"configurable": {"thread_id": "streaming-thread-values"}},
):
    print(state_values)

Para transmitir updates (correspondente a atualizações do estado do gráfico):

for state_updates in agent.stream_query(
    input=inputs,
    stream_mode="updates",
    config={"configurable": {"thread_id": "streaming-thread-updates"}},
):
    print(state_updates)

Human in the loop

No LangGraph, um aspecto comum do human-in-the-loop é adicionar pontos de interrupção para interromper a sequência de ações do agente e fazer com que um humano retome o fluxo em um momento posterior.

Revisão

É possível definir pontos de interrupção usando os interrupt_before= ou interrupt_after= argumentos ao chamar .query ou .stream_query:

from langchain.load import load as langchain_load

response = agent.query(
    input=inputs,
    interrupt_before=["tools"], # after generating the function call, before invoking the function
    interrupt_after=["tools"], # after getting a function response, before moving on
    config={"configurable": {"thread_id": "human-in-the-loop-deepdive"}},
)

langchain_load(response['messages'][-1]).pretty_print()

O resultado será semelhante ao seguinte:

================================== Ai Message ==================================
Tool Calls:
  get_exchange_rate (12610c50-4465-4296-b1f3-d751ec959fd5)
 Call ID: 12610c50-4465-4296-b1f3-d751ec959fd5
  Args:
    currency_from: USD
    currency_to: SEK

Aprovação

Para aprovar a chamada de ferramenta gerada e retomar o restante da execução, transmita None para a entrada e especifique a linha de execução ou o checkpoint dentro da config:

from langchain.load import load as langchain_load

response = agent.query(
    input=None,  # Continue with the function call
    interrupt_before=["tools"], # after generating the function call, before invoking the function
    interrupt_after=["tools"], # after getting a function response, before moving on
    config={"configurable": {"thread_id": "human-in-the-loop-deepdive"}},
)

langchain_load(response['messages'][-1]).pretty_print()

O resultado será semelhante ao seguinte:

================================= Tool Message =================================
Name: get_exchange_rate

{"amount": 1.0, "base": "USD", "date": "2024-11-14", "rates": {"SEK": 11.0159}}

Histórico

Para listar todos os checkpoints de uma determinada linha de execução, use o LanggraphAgent.get_state_history método:

for state_snapshot in agent.get_state_history(
    config={"configurable": {"thread_id": "human-in-the-loop-deepdive"}},
):
    if state_snapshot["metadata"]["step"] >= 0:
        print(f'step {state_snapshot["metadata"]["step"]}: {state_snapshot["config"]}')
        state_snapshot["values"]["messages"][-1].pretty_print()
        print("\n")

A resposta será semelhante à seguinte sequência de saídas:

step 3: {'configurable': {'thread_id': 'human-in-the-loop-deepdive', 'checkpoint_ns': '', 'checkpoint_id': '1efa2e95-ded5-67e0-8003-2d34e04507f5'}}
================================== Ai Message ==================================

The exchange rate from US dollars to Swedish krona is 1 USD to 11.0159 SEK.

step 2: {'configurable': {'thread_id': 'human-in-the-loop-deepdive', 'checkpoint_ns': '', 'checkpoint_id': '1efa2e95-d189-6a77-8002-5dbe79e2ce58'}}
================================= Tool Message =================================
Name: get_exchange_rate

{"amount": 1.0, "base": "USD", "date": "2024-11-14", "rates": {"SEK": 11.0159}}

step 1: {'configurable': {'thread_id': 'human-in-the-loop-deepdive', 'checkpoint_ns': '', 'checkpoint_id': '1efa2e95-cc7f-6d68-8001-1f6b5e57c456'}}
================================== Ai Message ==================================
Tool Calls:
  get_exchange_rate (12610c50-4465-4296-b1f3-d751ec959fd5)
 Call ID: 12610c50-4465-4296-b1f3-d751ec959fd5
  Args:
    currency_from: USD
    currency_to: SEK

step 0: {'configurable': {'thread_id': 'human-in-the-loop-deepdive', 'checkpoint_ns': '', 'checkpoint_id': '1efa2e95-c2e4-6f3c-8000-477fd654cb53'}}
================================ Human Message =================================

What is the exchange rate from US dollars to Swedish currency?

Receber a configuração de uma etapa

Para receber um checkpoint anterior, especifique o checkpoint_id (e checkpoint_ns). Primeiro, volte à etapa 1, quando a chamada de ferramenta foi gerada:

snapshot_config = {}
for state_snapshot in agent.get_state_history(
    config={"configurable": {"thread_id": "human-in-the-loop-deepdive"}},
):
    if state_snapshot["metadata"]["step"] == 1:
        snapshot_config = state_snapshot["config"]
        break

print(snapshot_config)

O resultado será semelhante ao seguinte:

{'configurable': {'thread_id': 'human-in-the-loop-deepdive',
  'checkpoint_ns': '',
  'checkpoint_id': '1efa2e95-cc7f-6d68-8001-1f6b5e57c456'}}

Viagem no tempo

Para receber um checkpoint, use o LanggraphAgent.get_state método:

# By default, it gets the latest state [unless (checkpoint_ns, checkpoint_id) is specified]
state = agent.get_state(config={"configurable": {
    "thread_id": "human-in-the-loop-deepdive",
}})

print(f'step {state["metadata"]["step"]}: {state["config"]}')
state["values"]["messages"][-1].pretty_print()

Por padrão, ele recebe o checkpoint mais recente (por carimbo de data/hora). O resultado será semelhante ao seguinte:

step 3: {'configurable': {'thread_id': 'human-in-the-loop-deepdive', 'checkpoint_ns': '', 'checkpoint_id': '1efa2e95-ded5-67e0-8003-2d34e04507f5'}}
================================== Ai Message ==================================

The exchange rate from US dollars to Swedish krona is 1 USD to 11.0159 SEK.

Receber o checkpoint de uma configuração

Para uma determinada configuração (por exemplo, snapshot_config da configuração de uma etapa), é possível receber o checkpoint correspondente:

state = agent.get_state(config=snapshot_config)
print(f'step {state["metadata"]["step"]}: {state["config"]}')
state["values"]["messages"][-1].pretty_print()

O resultado será semelhante ao seguinte:

step 1: {'configurable': {'thread_id': 'human-in-the-loop-deepdive', 'checkpoint_ns': '', 'checkpoint_id': '1efa2e95-cc7f-6d68-8001-1f6b5e57c456'}}
================================== Ai Message ==================================
Tool Calls:
  get_exchange_rate (12610c50-4465-4296-b1f3-d751ec959fd5)
 Call ID: 12610c50-4465-4296-b1f3-d751ec959fd5
  Args:
    currency_from: USD
    currency_to: SEK

Repetir

Para repetir de um determinado estado, transmita a configuração de estado (ou seja, state["config"]) para o agente. A configuração de estado é um dicionário semelhante a este:

{'configurable': {'thread_id': 'human-in-the-loop-deepdive',
  'checkpoint_ns': '',
  'checkpoint_id': '1efa2e95-cc7f-6d68-8001-1f6b5e57c456'}}

Para repetir de state["config"] (em que uma chamada de ferramenta foi gerada), especifique None na entrada:

from langchain.load import load as langchain_load

for state_values in agent.stream_query(
    input=None, # resume
    stream_mode="values",
    config=state["config"],
):
    langchain_load(state_values["messages"][-1]).pretty_print()

Isso resultará em algo semelhante à seguinte sequência de saídas:

================================== Ai Message ==================================
Tool Calls:
  get_exchange_rate (12610c50-4465-4296-b1f3-d751ec959fd5)
 Call ID: 12610c50-4465-4296-b1f3-d751ec959fd5
  Args:
    currency_from: USD
    currency_to: SEK

================================= Tool Message =================================
Name: get_exchange_rate

{"amount": 1.0, "base": "USD", "date": "2024-11-14", "rates": {"SEK": 11.0159}}

================================== Ai Message ==================================

The exchange rate from US dollars to Swedish krona is 1 USD to 11.0159 SEK.

Ramificação

É possível ramificar checkpoints anteriores para testar cenários alternativos usando o LanggraphAgent.update_state método:

branch_config = agent.update_state(
    config=state["config"],
    values={"messages": [last_message]}, # the update we want to make
)

print(branch_config)

O resultado será semelhante ao seguinte:

{'configurable': {'thread_id': 'human-in-the-loop-deepdive',
  'checkpoint_ns': '',
  'checkpoint_id': '1efa2e96-0560-62ce-8002-d1bb48a337bc'}}

Podemos consultar o agente com branch_config para retomar do checkpoint com o estado atualizado:

from langchain.load import load as langchain_load

for state_values in agent.stream_query(
    input=None, # resume
    stream_mode="values",
    config=branch_config,
):
    langchain_load(state_values["messages"][-1]).pretty_print()

Isso resultará em algo semelhante à seguinte sequência de saídas:

================================== Ai Message ==================================
Tool Calls:
  get_exchange_rate (12610c50-4465-4296-b1f3-d751ec959fd5)
 Call ID: 12610c50-4465-4296-b1f3-d751ec959fd5
  Args:
    currency_date: 2024-09-01
    currency_from: USD
    currency_to: SEK

================================= Tool Message =================================
Name: get_exchange_rate

{"amount": 1.0, "base": "USD", "date": "2024-08-30", "rates": {"SEK": 10.2241}}

================================== Ai Message ==================================

The exchange rate from US dollars to Swedish krona on 2024-08-30 was 1 USD to 10.2241 SEK.

Usar um agente do LangGraph Mantenha tudo organizado com as coleções Salve e categorize o conteúdo com base nas suas preferências.

Antes de começar

Receber uma instância de um agente

SDK da plataforma de agentes

Biblioteca de solicitações do Python

API REST

Operações aceitas

Transmitir uma resposta a uma consulta

Human in the loop

Revisão

Aprovação

Histórico

Receber a configuração de uma etapa

Viagem no tempo

Receber o checkpoint de uma configuração

Repetir

Ramificação

A seguir

Usar um agente do LangGraph