Google uses AI technology to translate content into your preferred language. AI translations can contain errors.

最適化された関数を使用してクエリを高速化する

最適化された関数を使用すると、より小さく高速なプロキシモデルを使用してほとんどのクエリを処理し、必要に応じてより大きな LLM にフォールバックできます。このアプローチにより、運用コストが削減され、クエリの応答性が向上します。最適化された関数は、行ごとの分類タスクやフィルタリングタスクでの LLM の使用を最小限に抑えます。これらのタスクは、プロキシモデルでより適切に処理できます。

ai.if() などの AlloyDB AI 関数は、大規模言語モデル（LLM）へのリモート呼び出しにより、レイテンシが高くなることがあります。最適化された関数は、小規模でローカルにトレーニングされたプロキシモデルを使用してクエリを処理することで、このレイテンシの問題に対処します。これらのモデルは、LLM の出力を信頼できる情報源として使用し、データのサンプルでトレーニングされます。

精度チェックは、LLM を使用して行のサンプルに対して実行時に行われます。このチェックを行うため、AlloyDB は LLM を使用してサンプル行のラベルを生成し、それらをプロキシモデルの予測と比較して精度を確認します。精度チェックに失敗すると、クエリは LLM を使用するようにフォールバックします。

最適化された関数を使用すると、AlloyDB は次の処理を行います。

プロキシモデルをトレーニングする: AlloyDB は、データのサンプルで軽量なプロキシモデルをトレーニングします。これは、PREPARE ステートメントと ai.if() 関数を使用して、最適化されたクエリのモデルをトレーニングするときにバックグラウンドで発生します。
クエリを実行する: EXECUTE ステートメントを使用すると、AlloyDB はトレーニング済みのプロキシモデルを使用してクエリをローカルで処理します。
LLM にフォールバックする: モデルの精度が低い場合や、AlloyDB がモデルを見つけられない場合、AlloyDB は自動的に LLM の使用にフォールバックします。

最適化された関数のフロー図

始める前に

最適化された関数を使用する前に、次の操作を行います。

psql を使用してデータベースに接続するか、AlloyDB Studio を使用して postgres ユーザーとして、またはデータが存在するテーブルにアクセスできるユーザーとして接続します。
google_ml_integration 拡張機能がインストールされ、バージョン 1.5.8 以降で使用可能であることを確認します。
```
SELECT extversion FROM pg_extension WHERE extname = 'google_ml_integration';
extversion
------------
1.5.8
(1 row)
```
注: 拡張機能を更新するには、ALTER EXTENSION google_ml_integration UPDATE; ステートメントを実行します。
Gemini Enterprise Agent Platform で動作するように AlloyDB を構成します。詳細については、データベースを Agent Platform と統合するをご覧ください。
次のデータベースフラグが有効になっていることを確認します。詳細については、インスタンスのデータベースフラグを構成するをご覧ください。
- google_ml_integration.enable_model_support
- google_ml_integration.enable_ai_query_engine
- google_ml_integration.enable_cost_optimized_ai_functions
クエリするテーブルのエンベディングを生成します。詳細については、テーブルの自動エンベディングを生成して管理するをご覧ください。
次の点を考慮してください。
- ソースデータ列の型は TEXT または VARCHAR である必要があります。
- 最適化された AI 関数に入力を提供するエンベディング列は、REAL[] 型または VECTOR 型である必要があります。
- 最適化された関数は、Agent Platform の生成モデルが利用可能なリージョンでのみ使用できます。使用可能なリージョンの一覧については、デプロイとエンドポイントをご覧ください。

最適化された関数を使用する

最適化された関数を使用するには、ai.if() 関数で PREPARE ステートメントと EXECUTE ステートメントを使用します。最適化された関数の使用方法の例を次に示します。

restaurant_reviews テーブルを作成します。ソースデータを保持する review 列の型は TEXT で、クエリに使用される review_embedding 列の型は VECTOR(768) です。
```
CREATE TABLE restaurant_reviews (
    id SERIAL,
    name VARCHAR(64),
    city VARCHAR(64),
    review TEXT,
    review_embedding VECTOR(768)
);
```
注: ソースデータからエンベディングを生成する方法については、テーブルの自動エンベディングを生成して管理するをご覧ください。
ai.if() 関数を含む PREPARE ステートメントを使用して、クエリで最適化された関数を使用する必要があることを示します。このステートメントは、バックグラウンドでモデルの非同期トレーニングをトリガーします。

モデルは、次の条件でのみトレーニングされます。
- クエリに ai.if() 関数が 1 つだけ存在する。
- ai.if() がサブクエリ内にない。
```
PREPARE positive_reviews_query AS
SELECT r.name, r.city
FROM restaurant_reviews r
WHERE ai.if('Is the following a positive review? Review: ' || r.review, r.review_embedding)
GROUP BY r.name, r.city
HAVING COUNT(*) > 500;
```
EXECUTE ステートメントを使用してクエリを実行します。PREPARE ステートメントは現在のセッションに固有であるため、同じ接続で EXECUTE ステートメントを実行する必要があります。
```
EXECUTE positive_reviews_query;
```
注: 他の接続でも、まったく同じクエリを実行して、最適化された関数のメリットを享受できます。たとえば、別の接続で同じクエリを実行できます。
```
conn2=> SELECT r.name, r.city
    FROM restaurant_reviews r
    WHERE ai.if('Is the following a positive review? Review: ' || r.review, r.review_embedding)
    GROUP BY r.name, r.city
    HAVING COUNT(*) > 500;
```
次のいずれかの条件が満たされた場合、トレーニング済みのプロキシモデルは使用されません。
- ai.if() で参照されているコンテンツ列またはエンベディング列が変更されます。両方の列は同じテーブルに属している必要があります。
- コンテンツ列に提供されるプロンプトが変更されます。
- クエリの構造が変更され、異なる query_id が生成されます。
- クエリの開始時に、クエリが精度チェックのしきい値を満たしていない。
このような場合、クエリは LLM の使用にフォールバックし、AlloyDB は警告を返します。
省略可。モデルのトレーニング中にも精度チェックが実行されるため、データベース環境全体の精度検証チェックを無効にするには、次のコマンドを実行します。
```
ALTER DATABASE DATABASE_NAME SET google_ml_integration.runtime_accuracy_check = off;
```
DATABASE_NAME は、データベースの名前に置き換えます。

プロキシモデルを再トレーニングする

基盤となるテーブルデータが大幅に変更された場合は、PREPARE ステートメントを再度実行して、プロキシモデルを再トレーニングできます。クエリを再準備すると、新しいトレーニングリクエストが開始され、既存のプロキシモデルが置き換えられます。

制限事項

ソースコンテンツ列、エンベディング列、または ai.if() 関数に指定されたプロンプトを変更する場合は、新しい PREPARE ステートメントを発行する必要があります。AlloyDB は、プロンプトと入力データの独自の組み合わせの動作を近似するように最適化された関数をトレーニングします。

次のステップ

最適化された関数のトラブルシューティング。