Mit VPC Service Controls können Sie das Risiko der Daten-Exfiltration aus der Gemini Enterprise Agent Platform reduzieren. Verwenden Sie VPC Service Controls, um einen Dienstperimeter zu erstellen, der die von Ihnen angegebenen Ressourcen und Daten schützt. Wenn Sie beispielsweise VPC Service Controls zum Schutz der Agent Platform verwenden, können die folgenden Artefakte Ihren Dienstperimeter nicht verlassen:
- Trainingsdaten für ein AutoML- oder benutzerdefiniertes Modell
- Von Ihnen erstellte Modelle
- Modelle, nach denen Sie mit Neural Architecture Search auf der Agent Platform gesucht haben
- Anfragen für Online-Inferenzen
- Ergebnisse einer Batchinferenzanfrage
- Gemini-Modelle
Zugriff auf Google APIs steuern
Die Agent Platform APIs, wie unter Über lokale und Multi-Cloud-Umgebungen auf die Gemini Enterprise Agent Platform zugreifen beschrieben, umfassen eine Reihe von Zugriffsoptionen, darunter das öffentliche Internet, Private Service Connect für Google APIs und den privater Google-Zugriff.
Öffentlicher Zugriff
Standardmäßig sind diese öffentlichen APIs über das Internet erreichbar. Für die Verwendung sind jedoch IAM-Berechtigungen erforderlich. Funktionen wie Private Service Connect für Google APIs und der privater Google-Zugriff ermöglichen zwar die private Kommunikation über hybride Netzwerkarchitekturen, sie beseitigen jedoch nicht die öffentliche Internetzugänglichkeit für Agent Platform APIs.
Wenn Sie eine detaillierte Kontrolle über den API-Zugriff einrichten und die Offenlegung im öffentlichen Internet explizit einschränken möchten, ist die Implementierung von VPC Service Controls unerlässlich. Wenn Sie einen VPC Service Controls-Perimeter (VPC-SC) einrichten und Gemini Enterprise in die geschützten Dienste aufnehmen, wird der gesamte öffentliche Internetzugriff auf Ihre Agent Platform-Instanz automatisch blockiert. Nutzer, die versuchen, programmatisch oder über die Google Cloud Console auf Agent Platform-Dienste zuzugreifen, erhalten daher keinen Zugriff, es sei denn, sie sind in einer Zulassungsliste enthalten.
Wenn Sie den Zugriff für autorisierte Quellen außerhalb des Perimeters wiederherstellen möchten (z. B. Nutzer in Ihren Unternehmensbüros), finden Sie unter Zugriff auf geschützte Ressourcen von außerhalb eines VPC Service Controls-Perimeters über öffentliche Endpunkte zulassen eine Anleitung zur Bereitstellung.
Privater Zugriff
Organisationen, die öffentliche Google APIs auf den privaten Zugriff beschränken müssen, können VPC Service Controls in Kombination mit Private Service Connect für Google APIs (VPC Service Controls-Bundle) oder privater Google-Zugriff verwenden. Bei der Bereitstellung über ein Hybridnetzwerk und innerhalb von Google Cloudermöglichen beide Optionen den privaten Zugriff auf Google APIs von lokalen Standorten aus. Private Service Connect für Google APIs bietet jedoch auch die Möglichkeit, eine benutzerdefinierte IP-Adresse und einen DNS-Endpunktnamen zu definieren.
Als Best Practice sollten Sie die eingeschränkte virtuelle IP (VIP) mit Private Service Connect für Google APIs oder privater Google-Zugriff verwenden, um eine private Netzwerkroute für Anfragen an Dienste von Google Cloud bereitzustellen, ohne die Anfragen im Internet verfügbar zu machen. Die eingeschränkte VIP unterstützt alle APIs, die VPC Service Controls schützen kann und die Überlegungen für lokale und VPC-Netzwerke erfordern. Nachfolgend sehen Sie einige Beispiele:
- Multicloud-Zugriff auf geschützte Ressourcen von einem privaten Endpunkt außerhalb eines VPC Service Controls-Perimeters zulassen
- Informationen zur Verwendung eines Kunden-PSC-Google-API-Endpunkts (VPC-Netzwerkbeispiel)
- Beispiel für ein lokales Netzwerk
API-Zugriff über den Zugriff auf private Dienste steuern
Die folgenden Agent Platform APIs, die mit Zugriff auf private Dienste bereitgestellt werden, erfordern zusätzliche Netzwerkkonfiguration, wenn sie in einer mit VPC Service Controls geschützten Umgebung implementiert werden:
- Vektorsuche (Indexabfrage)
- Benutzerdefiniertes Training (Datenebene)
- Agent Platform-Pipelines
- Private Endpunkte für Onlinevorhersagen
Agent Platform Pipelines ist beispielsweise ein von Google verwalteter (Ersteller-)Dienst, der in einem Einzelmandantenprojekt und VPC-Netzwerk bereitgestellt wird und die Möglichkeit bietet, unterstützte Dienste basierend auf den Anforderungen des Nutzers zu skalieren. Die Kommunikation zwischen den Ersteller- und Nutzernetzwerken wird über VPC-Netzwerk-Peering hergestellt, mit Ausnahme des ausgehenden Internet-Traffics, der über das Erstellernetzwerk weitergeleitet wird.
Im Erstellernetzwerk gibt es eine Standardroute, die ausgehenden Internet-Traffic sowie uneingeschränkten Zugriff auf Google APIs ermöglicht. Wenn Sie das Erstellernetzwerk so aktualisieren möchten, dass es die eingeschränkte VIP unterstützt, müssen Sie VPC Service Controls für Peerings aktivieren. Dadurch werden die folgenden Aktionen für alle unterstützten Dienste ausgeführt, die in Ihrem Erstellernetzwerk für Dienstnetzwerke bereitgestellt werden:
- Entfernt die IPv4-Standardroute (Ziel
0.0.0.0/0, nächster Hop „Standard-Internetgateway“). - Erstellt von Cloud DNS verwaltete private Zonen und autorisiert diese Zonen für das VPC-Netzwerk des Diensterstellers. Die Zonen umfassen
googleapis.com,pkg.dev,gcr.iound andere erforderliche Domains oder Hostnamen für Google APIs und Google-Dienste, die mit VPC Service Controls kompatibel sind. - Eintragsdaten in den Zonen lösen alle Hostnamen in
199.36.153.4,199.36.153.5,199.36.153.6und199.36.153.7auf.
Eine alternative Methode zum Entfernen der Standardroute aus dem Erstellernetzwerk, ohne dass sich dies auf vorhandene von Google verwaltete Dienste auswirkt, ist die Verwendung von HA VPN über Cloud Interconnect. Dies umfasst die folgenden Schritte:
- Stellen Sie zusätzlich zu HA VPN ein Dienste-VPC-Netzwerk im Nutzer-VPC-Netzwerk bereit.
- Stellen Sie von Google verwaltete Dienste im VPC-Netzwerk für Dienste bereit.
- Aktivieren Sie VPC Service Controls für Peerings.
- Bewerben Sie das Subnetz für den Zugriff auf private Dienste als benutzerdefiniertes Route Advertisement vom Cloud Router, wenn die verwalteten Dienste lokal erreichbar sein müssen.
- Aktualisieren Sie das VPC-Netzwerk-Peering für Service Networking mit der Option Benutzerdefinierte Routen exportieren.
Unterstützung von VPC Service Controls für Abstimmungspipelin es für generative KI
Unterstützung von VPC Service Controls wird in der Abstimmungspipeline der folgenden Modelle bereitgestellt:
- Die
Gemini 2.5-Modellfamilie. text-bison for PaLM 2BERTT5- Die
textembedding-gecko-Modellfamilie.
VPC Service Controls mit Gemini Enterprise Agent Platform-Pipelines verwenden
Der Dienstperimeter blockiert den Zugriff von der Agent-Plattform auf APIs und Dienste von Drittanbietern im Internet. Wenn Sie Google Cloud -Pipeline-Komponenten verwenden oder eigene benutzerdefinierte Pipeline-Komponenten erstellen, um sie mit Agent Platform-Pipelines zu verwenden, können Sie keine PyPI-Abhängigkeiten aus der öffentlichen Python Package Index (PyPI)-Registry installieren. Stattdessen müssen Sie einen der folgenden Schritte ausführen:
Benutzerdefinierte Container verwenden
Als Best Practice für Produktionssoftware sollten Komponentenautoren containerisierte Python-Komponenten verwenden und die Abhängigkeiten in ihr Container-Image einbauen, damit während einer Pipelineausführung keine Live-Installation erforderlich ist. Eine Möglichkeit, dies zu tun, ist:
- Erstellen Sie ein eigenes Container-Image mit vorinstalliertem Kubeflow Pipelines SDK und anderen Paketen. Sie können beispielsweise
us-docker.pkg.dev/vertex-ai/training/tf-cpu.2-17:latestals Basisebene Ihres Images verwenden und eine zusätzliche Ebene hinzufügen, um die Pakete beim Erstellen des Containers zu installieren. Aktualisieren Sie den Code für die Komponentendefinition, um den Pfad
base_imageund das Flaginstall_kfp_packageaufFalsefestzulegen. Dieses Flag weist den KFP-Compiler an, keinen „pip install kfp“-Befehl in die Container-Befehlszeile einzufügen, da das Kubeflow Pipelines SDK-Paket bereits im Image installiert ist. Beispiel:@component( base_image='gcr.io/deeplearning-platform-release/tf-cpu.2-17', install_kfp_package=False, ) def my_component(...): ...
Pakete aus einem Artifact Registry-Repository installieren
Alternativ können Sie ein Artifact Registry-Repository in Ihrem Projekt erstellen, Python-Pakete darin speichern und Ihre Agent Platform-Umgebung so konfigurieren, dass Pakete daraus installiert werden, wie in diesem Abschnitt beschrieben. Weitere Informationen finden Sie unter Python-Pakete verwalten.
Rollen und Berechtigungen konfigurieren
- Das Dienstkonto für Ihre Agent Platform-Umgebung muss die Rolle
iam.serviceAccountUserhaben. - Wenn Sie benutzerdefinierte PyPI-Pakete aus einem Repository im Netzwerk Ihres Projekts installieren und dieses Repository keine öffentliche IP-Adresse hat:
- Weisen Sie dem Dienstkonto der Umgebung Berechtigungen für den Zugriff auf dieses Repository zu.
- Achten Sie darauf, dass die Verbindung zu diesem Repository in Ihrem Projekt konfiguriert ist.
Repository erstellen
- Erstellen Sie ein Artifact Registry-Repository im VPC-Modus in Ihrem Projekt.
- Speichern Sie die erforderlichen Python-Pakete im Repository.
Konfigurieren Sie die Agent Platform-Umgebung für die Installation aus dem Repository:
Wenn Sie benutzerdefinierte PyPI-Pakete aus einem oder mehreren Artifact Registry-Repositories installieren möchten, führen Sie einen Aufruf wie den folgenden an @dsl.component aus:
@dsl.component(packages_to_install=["tensorflow"],
pip_index_urls=['https://us-central1-python.pkg.dev/mygcpproject1/pypi-repo1/simple', 'https://us-central1-python.pkg.dev/mygcpproject2/pypi-repo2/simple'],)
def hello_world(text: str) -> str:
import my_package
import tensorflow
return my_package.hello_world(text)
VPC Service Controls mit PSC-Schnittstelle verwenden
Die folgenden Agent Platform APIs, die mit der Private Service Connect-Schnittstelle bereitgestellt werden, erfordern eine zusätzliche Netzwerkkonfiguration, wenn sie in einer mit VPC Service Controls geschützten Umgebung implementiert werden:
- Benutzerdefiniertes Training (Datenebene)
- Agent Platform-Pipelines
- Private Endpunkte für Online-Inferenz
- Agent Runtime
Ob der Dienst der Agent Platform-Produzenten auf das öffentliche Internet zugreifen kann, hängt von der Sicherheitskonfiguration Ihres Projekts ab, insbesondere davon, ob Sie VPC Service Controls verwenden:
Ohne VPC Service Controls: Der von Google verwaltete Mandant, der die Agent Platform hostet, behält seinen Standard-Internetzugriff bei. Dieser ausgehende Traffic wird direkt aus der sicheren, von Google verwalteten Umgebung ausgegeben, in der Ihr Erstellerdienst ausgeführt wird. Eine Ausnahme von diesem Verhalten ist die Agent Runtime, die keinen ausgehenden Internet-Traffic bietet. Stattdessen müssen Sie eine Proxy-VM mit einer RFC 1918-Adresse für ausgehenden Internet-Traffic bereitstellen.
Mit VPC Service Controls: Wenn sich Ihr Projekt in einem VPC Service Controls-Perimeter (VPC-SC) befindet, wird der standardmäßige Internetzugriff der von Google verwalteten Umgebung, in der die Agent Platform gehostet wird, blockiert. Diese Einschränkung ist eine Sicherheitsmaßnahme, die Daten-Exfiltration verhindern soll. Damit die Agent Platform in diesem Szenario auf das öffentliche Internet zugreifen kann, müssen Sie explizit einen sicheren Pfad für ausgehenden Traffic konfigurieren, der den Traffic über Ihr VPC-Netzwerk weiterleitet.
Die empfohlene Methode umfasst Folgendes:
- Bereitstellung eines Proxyservers innerhalb Ihres VPC-Perimeters in einem RFC 1918-Subnetz.
- Erstellen eines Cloud NAT-Gateways, damit die Proxy-VM das Internet erreichen kann.
- Definieren des Proxyservers (IP-Adresse oder FQDN) in Ihrer Laufzeitumgebung.
Für diese Aufgabe gibt es keinen vorgeschriebenen oder bevorzugten Netzwerkproxy. Sie können jede geeignete Lösung verwenden. Beispiele: Squid-Proxy, HAProxy, Envoy und TinyProxy.
Dienstperimeter erstellen
Eine Übersicht zum Erstellen eines Dienstperimeters finden Sie unter Dienstperimeter erstellen in der Dokumentation zu VPC Service Controls.
Eingeschränkte Dienste zum Perimeter hinzufügen
Beim Einrichten eines Dienstperimeters empfehlen wir, alle eingeschränkten Dienste als Sicherheits-Best-Practice einzubeziehen. Dieser umfassende Ansatz trägt dazu bei, potenzielle Sicherheitslücken und unbefugten Zugriff zu minimieren. Es kann jedoch Szenarien geben, in denen Ihre Organisation spezifische Anforderungen zum Schutz der Gemini Enterprise Agent Platform und der damit verbundenen APIs hat. In solchen Fällen können Sie flexibel nur die spezifischen Agent Platform APIs auswählen und einbinden, die für Ihre Vorgänge erforderlich sind.
Zu den Agent Platform APIs, die Sie in Ihren Dienstperimeter einbinden können, gehören:
- Die Gemini Enterprise Agent Platform unterstützt die folgenden Dienste und Funktionen:
- Batchinferenz
- Datasets
- Agent Platform Feature Store (Bigtable-Onlinebereitstellung)
- Agent Platform Feature Store (optimierte Onlinebereitstellung) (Eingestellt)
- Generative KI auf der Gemini Enterprise Agent Platform (Gemini)
- Model Registry
- Onlineinferenz
- Modellabstimmung öffnen
- Semantische Governance-Richtlinie
- Engine für semantische Governance-Richtlinien
- Vektorsuche (Indexerstellung)
- Vektorsuche (Indexabfrage)
- Benutzerdefiniertes Training (Steuerungsebene)
- Benutzerdefiniertes Training (Datenebene)
- Agent Platform-Pipelines
- Private Endpunkte für Online-Inferenz
- Colab Enterprise
- Agent Runtime
- Verwaltete Trainingscluster
- Agent Platform-Sandboxes
- Die Notebooks API unterstützt den folgenden Dienst:
- Gemini Enterprise Agent Platform Workbench
Beschränkungen
Die folgenden Einschränkungen gelten bei der Verwendung von VPC Service Controls:
- Das Live-Abrufen von URL-Kontext ist für VPC-SC-Projekte deaktiviert, um Daten-Exfiltration zu verhindern.
- Zum Hinzufügen von Daten-Labels müssen Sie die IP-Adressen der Labelersteller einer Zugriffsebene hinzufügen.
- Bei Google Cloud -Pipeline-Komponenten starten die Komponenten Container, die ihr Basis-Image auf alle Anforderungen prüfen.
Das KFP-Paket sowie alle im Argument
packages_to_installaufgeführten Pakete sind die Anforderungen für einen Container. Wenn die angegebenen Anforderungen nicht im Basis-Image (entweder bereitgestellt oder benutzerdefiniert) vorhanden sind, versucht die Komponente, sie aus dem Python Package Index (PyPI) herunterzuladen. Da der Dienstperimeter den Zugriff von der Gemini Enterprise Agent Platform auf APIs und Dienste von Drittanbietern im Internet blockiert, schlägt der Download mitConnection to pypi.org timed outfehl. Informationen dazu, wie Sie diesen Fehler vermeiden können, finden Sie unter VPC Service Controls mit Agent Platform-Pipelines verwenden. - Wenn Sie VPC Service Controls mit benutzerdefinierten Kerneln in Agent Platform Workbench verwenden, müssen Sie stattdessen DNS-Peering so konfigurieren, dass Anfragen für
*.notebooks.googleusercontent.coman das Subnetz 199.36.153.8/30 (private.googleapis.com) anstelle von 199.36.153.4/30 (restricted.googleapis.com) gesendet werden. - Wenn Sie VPC Service Controls mit Gemini Enterprise Agent Platform Inference verwenden, müssen Endpunkte erstellt werden, nachdem das Projekt dem Dienstperimeter hinzugefügt wurde. Wenn ein Endpunkt in einem Projekt erstellt wird, das nicht Teil eines Dienstperimeters ist, und dieses Projekt anschließend einem Dienstperimeter hinzugefügt wird, schlägt der Versuch, ein Modell auf diesem Endpunkt bereitzustellen, fehl. Wenn der Endpunkt ein freigegebener öffentlicher Endpunkt ist, schlägt das Senden einer Anfrage an den Endpunkt ebenfalls fehl. Ebenso schlägt der Versuch fehl, ein Modell auf einem Endpunkt bereitzustellen, wenn der Endpunkt in einem Projekt erstellt wurde, das Teil eines Dienstperimeters war, und das Projekt danach entfernt wird.
- Wenn Sie VPC Service Controls mit Agent Runtime verwenden, muss das Projekt Teil eines Dienstperimeters sein, bevor Sie den Agenten bereitstellen. Wenn ein Agent bereitgestellt wird, bevor das Projekt einem Perimeter hinzugefügt wird, wird der Agent nicht durch VPC Service Controls geschützt und hat weiterhin Zugriff auf das öffentliche Internet.
- Öffentliche 1-Klick-Bereitstellungen (dedizierter Endpunkt) von Model Garden werden in einer VPC-SC-Umgebung nicht unterstützt. Verwenden Sie stattdessen einen privaten Endpunkt, der VPC Service Controls unterstützt. Weitere Informationen finden Sie unter Modell auf einem privaten Endpunkt bereitstellen.
- Anfrage- und Antwort-Logging ist mit VPC Service Controls nicht verfügbar.
Nächste Schritte
- Sehen Sie sich das Video VPC Service Controls: How to segment your cloud projects in gemeinsam genutzte VPC an.
- Sehen Sie sich das Video Anleitung: Probelaufmodus in VPC Service Controls verwenden an.
- Sehen Sie sich das Video VPC Service Controls: Private IP support to create granular access controls an.
- VPC Service Controls
- Weitere Informationen zu den erforderlichen Rollen für VPC Service Controls
- Fehlerbehebung bei VPC Service Controls-Problemen
- Proxy-VM bereitstellen, um über die VPC des Kunden auf das Internet zuzugreifen