Die Anthropic Claude-Modelle in Google Cloud bieten vollständig verwaltete und serverlose Modelle als APIs. Wenn Sie ein Claude-Modell auf der Agent Platform verwenden möchten, senden Sie eine Anfrage direkt an den API-Endpunkt der Agent Platform. Da die Anthropic Claude-Modelle eine verwaltete API verwenden, muss keine Infrastruktur bereitgestellt oder verwaltet werden. Wenn Sie stattdessen die Claude-Entwicklerplattform von Anthropic auf einer von Anthropic verwalteten Infrastruktur verwenden möchten, lesen Sie den Hilfeartikel Claude-Modelle in Google Cloud verwenden (von Anthropic verwaltet).
Sie können Ihre Claude-Antworten streamen, um die vom Endnutzer wahrgenommene Latenz zu reduzieren. Eine gestreamte Antwort verwendet vom Server gesendete Ereignisse (SSE, Server-Sent Events), um die Antwort schrittweise zu streamen.
Sie zahlen für Claude-Modelle, sobald Sie sie verwenden (Pay-as-you-go), oder Sie zahlen eine feste Gebühr, wenn Sie bereitgestellten Durchsatz verwenden. Die Preise für Pay-as-you-go finden Sie auf der Preisseite für Google Cloud unter „Anthropic Claude-Modelle“.
Verfügbare Claude-Modelle auf Google Cloud
Die folgenden Modelle sind von Anthropic zur Verwendung in der Gemini Enterprise Agent Platform verfügbar. Rufen Sie die zugehörige Model Garden-Modellkarte auf, um auf ein Claude-Modell in Google Cloud zuzugreifen.
Die Claude-Modelle von Anthropic unterstützen das Logging von Anfragen und Antworten in der Agent Platform. Aktivieren Sie das 30-tägige Anfrage-Antwort-Logging Ihrer Prompt- und Vervollständigungsaktivitäten, um einen Missbrauch des Modells durch Ihre Nutzer zu verfolgen. Weitere Informationen finden Sie unter Anfragen und Antworten protokollieren.
Wenn Sie die Anzahl der Tokens, die Latenz und Fehler für jede Claude-Anfrage protokollieren möchten, ohne Prompts oder Antworten zu speichern, lesen Sie den Abschnitt Metadaten von Inferenzanfragen protokollieren. Informationen zu Claude-Feldnamen finden Sie unter Tokenanzahl für Claude-Modelle.
Aktivierungsstatus des Modells prüfen
Die Aktivierung von Partnermodellen ist projektspezifisch und wird über Google Cloud Marketplace-Berechtigungen und nicht über eine projektweite Agent Platform API-Einstellung verwaltet. Informationen zu den erforderlichen Rollen und Organisationsrichtlinien finden Sie unter Nutzern Zugriff auf Partnermodelle gewähren.
Wenn Sie prüfen möchten, ob ein Claude-Modell aktiviert ist, wählen Sie Ihr Projekt in derGoogle Cloud Console aus und öffnen Sie die Modellkarte in Model Garden:
Wenn das Modell für das Projekt aktiviert ist, werden auf der Modellkarte Nutzungsaktionen wie Code ansehen oder Notebook öffnen angezeigt.
Wenn das Modell für das Projekt nicht aktiviert ist, wird auf der Modellkarte Aktivieren oder Zugriff anfordern angezeigt.
Das Auflisten aktivierter Partnermodelle für ein Projekt mit der Google Cloud CLI oder der Agent Platform API wird nicht unterstützt. Mit dem Befehl gcloud ai model-garden models list wird der öffentliche Model Garden-Katalog aufgelistet, anstatt nach Cloud Marketplace-Berechtigungen für Ihr Projekt zu filtern.
Claude Fable-Modelle
Claude Opus-Modelle
Claude Sonnet-Modelle
Claude Haiku-Modelle
Claude-Modelle in Google Cloud (von Anthropic verwaltet)
Claude-Modelle in Google Cloud (von Anthropic verwaltet) ist ein Dienst, mit dem Sie die Claude-Entwicklerplattform von Anthropic in Google Cloudverwenden können. Damit können Sie am selben Tag der Veröffentlichung durch Anthropic auf die neuesten Funktionen von Anthropic zugreifen, einschließlich neuer Modelle und Forschungsvorschauen.
Weitere Informationen finden Sie unter Claude-Modelle in Google Cloud verwenden (von Anthropic verwaltet).