Bereitstellungsmodi in RAG Engine auf der Gemini Enterprise Agent Platform

Die RAG Engine auf der Gemini Enterprise Agent Platform bietet verschiedene Bereitstellungsmodi für den Betrieb Ihrer RAG-Instanzen. Ihre Wahl des Bereitstellungsmodus bestimmt, wo Ihre Daten gespeichert werden, wie dieser Speicher skaliert wird, wenn Ihre Daten wachsen, und welches Maß an Infrastrukturverwaltung von Ihnen erforderlich ist. Wenn Sie die Funktionsweise dieser Modi verstehen, können Sie die richtige Balance aus Einfachheit, Skalierbarkeit und Kosten für Ihr Projekt wählen.

RAG Engine bietet zwei Bereitstellungsmodi: Serverlos und Spanner. Sie können nahtlos zwischen beiden Modi wechseln. Die Daten in den einzelnen Modi bleiben voneinander isoliert.

Verfügbare Bereitstellungsmodi

In diesem Abschnitt werden die beiden Bereitstellungsmodi für die RAG Engine erläutert:

Serverloser Modus

Der serverlose Modus ist die günstigste und empfohlene Methode für den Einstieg in die RAG Engine. Sie bietet eine vollständig verwaltete, globale, unternehmensgerechte Datenbank, die die gesamte Datenbankbereitstellung und -skalierung abstrahiert.

  • Am besten geeignet für: die meisten Nutzer, schnelles Onboarding und nahtlose Skalierung, ohne dass Infrastrukturkonfigurationen verwaltet werden müssen.
  • Wichtige Funktionen: Keine Stufenverwaltung erforderlich. Es wird automatisch die RAG-verwaltete Vektorsuche als Standard-Vektordatenbank verwendet, um eine optimierte und sofort einsatzbereite RAG-Umgebung zu bieten.

Im serverlosen Modus dient die verwaltete RAG-Datenbank zum Verwalten von RAG-Betriebsabläufen und zum Speichern von RAG-Ressourcen. Zu diesen Ressourcen gehören unter anderem RagCorpus, RagFiles, RagMetadata und DataSchema. Sie können jedoch nicht mehr für die Einbettungsindexierung und die Vektorsuche verwendet werden.

Nutzer müssen immer eine andere Vektordatenbank separat auswählen. Im serverlosen Modus stellt die RAG Engine standardmäßig eine Vector Search 2.0-Sammlung in Ihrem Projekt für die Einbettungsindexierung und Vektorsuche bereit. Im Vergleich zum Cloud Spanner-Modus bietet die Bereitstellung der Vektorsuche 2.0 in Ihrem Projekt vollständige Transparenz und Kontrolle über die Nutzung und Kosten der Vektordatenbank. Einen detaillierten Vergleich finden Sie im Abschnitt Spanner-Modus im Vergleich zum serverlosen Modus.

Cloud Spanner-Modus

Im Cloud Spanner-Modus wird eine dedizierte Cloud Spanner-Infrastruktur speziell als Grundlage für Ihre RAG Engine-Bereitstellung zugewiesen. Sie ist für Arbeitslasten konzipiert, die bestimmte Compliance-Funktionen (wie CMEK) oder dedizierte, isolierte Datenbankinstanzen erfordern. Der Spanner-Modus wird als Standard zugewiesen, wenn kein Modus explizit ausgewählt ist.

Wenn Sie den Spanner-Modus verwenden, müssen Sie Ihre Infrastruktur verwalten, indem Sie eine Leistungsstufe auswählen:

  • Basis-Stufe (Standard): Eine feste, kostengünstige Stufe mit geringer Rechenleistung, die sich für Tests, kleine Datenmengen oder Arbeitslasten eignet, die nicht latenzempfindlich sind.
  • Skalierte Stufe: Bietet Leistung auf Produktionsniveau mit Autoscaling-Funktion. Sie eignet sich für Kunden mit großen Datenmengen oder leistungsempfindlichen Arbeitslasten.

Datenisolation und Wechseln des Modus

Mit der RAG Engine können Sie den Bereitstellungsmodus Ihres Projekts wechseln, solange im aktiven Bereitstellungsmodus keine Vorgänge ausgeführt werden. Sie können Daten in beiden Modi haben. Es kann jedoch immer nur ein Modus aktiv sein und die Daten sind strikt zwischen den Bereitstellungsmodi isoliert.

Als hilfreiches Tool können Sie sich vorstellen, dass Ihr Projekt so funktioniert, als hätte es zwei völlig separate Back-Ends. Die von Ihnen erstellten Ressourcen (Korpora, importierte und hochgeladene Dateien sowie geparste Einbettungen) sind dauerhaft an den Bereitstellungsmodus gebunden, der während ihrer Erstellung aktiv war. Alle Abrufanfragen, die entweder direkt oder über Gemini gestellt werden, sind ebenfalls auf die Korpora und Dateien beschränkt, die im aktuellen Bereitstellungsmodus vorhanden sind. Wenn du zwischen den beiden Modi wechselst, werden deine Daten nicht übertragen oder aus dem anderen Modus gelöscht.

/gemini-enterprise-agent-platform/images/rag-engine-deployment-modes.png

Wie im Diagramm dargestellt:

  • Einheitliche API: Sie verwenden genau dieselben Agent Platform RAG APIs, um Ressourcen zu erstellen und zu verwalten. Die API leitet Ihre Anfragen automatisch an das Backend weiter, das mit Ihrem aktiven Bereitstellungsmodus verknüpft ist.
  • Sichtbarkeit: Wenn der serverlose Modus aktiv ist, kann Ihre Anwendung nur RagCorpus A und B sehen und mit ihnen interagieren. RagCorpus C, der im Spanner-Modus erstellt wurde, bleibt sicher gespeichert, ist aber vollständig ausgeblendet und für Ihre Anwendung nicht zugänglich, bis Sie den Modus Ihres Projekts wieder auf Spanner umstellen.
  • Kein Datenverlust: Beim Wechseln des Modus werden Ihre Daten nicht gelöscht. Es ändert sich nur, welches „Backend“ die API ansieht.

Bereitstellungsmodus verwalten

Der Bereitstellungsmodus ist eine Einstellung auf Projektebene. Sie können den aktuellen Modus mit den APIs GetRagEngineConfig und UpdateRagEngineConfig aufrufen oder ändern. Auf der Seite Zwischen Modi wechseln finden Sie weitere Informationen dazu, wie Sie zwischen den Bereitstellungsmodi wechseln und eine geeignete Stufe für Ihren Spanner-Modus auswählen.

Daten löschen und Abrechnung beenden

Da die Daten zwischen den Modi isoliert sind, unterscheiden sich die Prozesse zum Bereinigen von Ressourcen und zum Beenden der Abrechnung je nach Speicherort der Daten geringfügig.

  • Serverlose Daten löschen: Der aktive Modus muss auf „Serverlos“ festgelegt sein. Rufen Sie die ListRagCorpora API auf, um Ihre Ressourcen aufzurufen, und löschen Sie dann jeden Korpus manuell mit der DeleteRagCorpus API.
  • Spanner-Daten löschen (Deprovisionierung): Achten Sie darauf, dass der aktive Modus auf Spanner festgelegt ist. Aktualisieren Sie Ihre RagEngineConfig und legen Sie die Spanner-Stufe auf Unprovisioned fest. Dadurch werden Ihre dedizierte Cloud Spanner-Instanz und alle darin enthaltenen RAG-Daten sofort gelöscht. Die Abrechnung für den Cloud Spanner-Modus wird beendet. Hinweis: Daten, die mit der nicht bereitgestellten Stufe gelöscht wurden, können nicht wiederhergestellt werden.

Cloud Spanner-Modus im Vergleich zum serverlosen Modus

Funktion Serverloser Modus Cloud Spanner-Modus
Kosten
  • Kostenlos für Ressourcenverwaltung und Orchestrierung.
  • Die Vektordatenbank wird direkt gemäß der Nutzerauswahl abgerechnet.
  • Die Preise hängen von der gewählten Stufe ab. Umfasst Ressourcenverwaltung und Orchestrierung.
  • Die Kosten für die Vektordatenbank werden für alle Korpora mit RagManagedDb als ausgewählter Vektordatenbank übernommen.
  • Für die restlichen Korpora wird die Vektordatenbank direkt gemäß der Nutzerauswahl der Datenbank abgerechnet.
Skalierung Vollständig verwaltetes Autoscaling Die Auswahl der Stufe muss konfiguriert werden, es wird jedoch eine Autoscaling-Stufe angeboten.
Isolation Speicher ist nicht isoliert Bietet Speicher- und Leistungsisolation.
CMEK Derzeit kein CMEK Bietet CMEK-Unterstützung
VPC-Sicherheitskontrollen Unterstützt Unterstützt
Unterstützte Vektordatenbanken
  • Managed Vector Search 2.0 (Standard)
  • Pinecone
  • Weaviate
  • RagManagedDb (Standard)
  • Verwaltete Vektorsuche 2.0
  • Vektorsuche 1.0
  • Pinecone
  • Weaviate

Nächste Schritte