Trainieren und bewerten

Mit Document AI können Sie neue Prozessorversionen mit Ihren eigenen Trainingsdaten trainieren und die Qualität Ihrer Prozessorversion anhand Ihrer eigenen Testdaten bewerten.

Das ist nützlich, wenn Sie einen benutzerdefinierten Prozessor verwenden möchten. Es gibt einen Document AI-Prozessor für Ihren Dokumenttyp, aber Sie können eine benutzerdefinierte Version davon weiter trainieren, um sie an Ihre Anforderungen anzupassen.

Training und Bewertung werden in der Regel gemeinsam durchgeführt, um eine hochwertige, nutzbare Prozessorversion zu erhalten.

Document AI

Mit Document AI können Sie einen eigenen benutzerdefinierten Extraktor erstellen, der Entitäten aus Dokumenten eines bestimmten Typs extrahiert, z. B. die Artikel in einem Menü oder den Namen und die Kontaktdaten aus einem Lebenslauf.

Im Gegensatz zu anderen Prozessoren werden benutzerdefinierte Prozessoren nicht mit vortrainierten Prozessorversionen geliefert und können daher keine Dokumente verarbeiten, bis Sie eine Version von Grund auf trainiert haben.

Informationen zu den ersten Schritten mit Document AI finden Sie unter Benutzerdefinierten Prozessor erstellen.

Prozessor weiter trainieren

Sie können neue Prozessorversionen weiter trainieren , um die Genauigkeit bei Ihren Daten zu verbessern, zusätzliche benutzerdefinierte Felder aus Ihren Dokumenten zu extrahieren und Unterstützung für neue Sprachen hinzuzufügen.

Beim Uptraining wird Transfer Learning auf vortrainierte Prozessorversionen von Google angewendet. Im Allgemeinen sind weniger Daten erforderlich als beim Training von Grund auf.

Informationen zu den ersten Schritten finden Sie unter Vortrainierten Prozessor weiter trainieren.

Unterstützte Prozessoren

Nicht alle Spezialprozessoren unterstützen das Uptraining. Dies sind die Prozessoren, die das Uptraining unterstützen.

Überlegungen und Empfehlungen zu Daten

Die Qualität und Menge Ihrer Daten bestimmen die Qualität des Trainings, des Uptrainings und der Bewertung.

Eine Reihe repräsentativer, realer Dokumente zu erhalten und genügend hochwertige Labels bereitzustellen ist oft der zeitaufwendigste und ressourcenintensivste Teil des Prozesses.

Anzahl der Dokumente

Wenn alle Ihre Dokumente ein ähnliches Format haben (z. B. ein festes Formular mit sehr geringen Abweichungen), sind weniger Dokumente erforderlich, um eine hohe Genauigkeit zu erzielen. Je größer die Abweichung, desto mehr Dokumente sind erforderlich.

Die folgenden Diagramme geben eine grobe Schätzung der Anzahl der Dokumente, die für einen benutzerdefinierten Dokumentextraktor erforderlich sind, um einen bestimmten Qualitätswert zu erreichen.

Geringe Abweichung	Hohe Abweichung

Daten-Labeling

Überlegen Sie sich, welche Optionen Sie zum Labeln von Dokumenten haben, und stellen Sie sicher, dass Sie genügend Ressourcen haben, um die Dokumente in Ihrem Dataset zu annotieren.

Modelle trainieren

Benutzerdefinierte Extraktorprozessoren können je nach Anwendungsfall und verfügbaren Trainingsdaten verschiedene Modelltypen verwenden.

• Benutzerdefiniertes Modell: Modell mit gelabelten Trainingsdaten.
  • Vorlagenbasiert: Dokumente mit einem festen Layout.
  • Modellbasiert: Dokumente mit einigen Layoutabweichungen.
• Generatives KI-Modell: basiert auf vortrainierten Foundation Models, für die nur ein minimales zusätzliches Training erforderlich ist.

In der folgenden Tabelle sehen Sie, welche Anwendungsfälle zu den einzelnen Modelltypen passen.

	Benutzerdefiniertes Modell		Generative KI
	Vorlagenbasiert	Modellbasiert
Layoutabweichung	Keine	Niedrig bis mittel	Hoch
Menge an Freiformtext (z. B. Absätze in einem Vertrag)	Niedrig	Niedrig	Hoch
Erforderliche Menge an Trainingsdaten	Niedrig	Hoch	Niedrig
Genauigkeit bei begrenzten Trainingsdaten	Höher	Niedriger	Höher

Informationen zum Feinabstimmen eines Prozessors mit Eigenschaftsbeschreibungen

Wann ein anderer Prozessor verwendet werden sollte

In einigen Fällen sollten Sie möglicherweise andere Optionen als Document AI Document AI Workbench in Betracht ziehen oder Ihren Workflow anpassen.

• Bestimmte textbasierte Eingabeformate (.txt, .html, .docx, .md usw.) werden von Document AI Document AI Workbench nicht unterstützt. Erwägen Sie andere vorgefertigte oder benutzerdefinierte Angebote zur Sprachverarbeitung in Google Cloud, z. B. die Cloud Natural Language API.
• Das Schema für benutzerdefinierte Dokumentextraktoren unterstützt bis zu 150 Entitätslabels. Wenn Ihre Geschäftslogik mehr als 150 Entitäten in der Schemadefinition erfordert, sollten Sie mehrere Prozessoren trainieren, die jeweils auf eine Teilmenge von Entitäten ausgerichtet sind.

Prozessor trainieren

Angenommen, Sie haben bereits einen Prozessor erstellt, der Training oder Uptraining unterstützt, und Ihr Dataset gelabelt. Dann können Sie eine neue Prozessorversion von Grund auf trainieren. Alternativ können Sie eine neue Prozessorversion auf Basis einer vorhandenen weiter trainieren.

Prozessorversion trainieren

Web-UI

1. Wechseln Sie in der Google Cloud console zum Tab Trainieren des Prozessors.

   Zur Prozessorgalerie

2. Klicken Sie auf Schema bearbeiten , um die Seite Labels verwalten zu öffnen. Überprüfen Sie die Labels des Prozessors.

   Die Labels, die zum Zeitpunkt des Trainings aktiviert sind, bestimmen die Entitäten, die von Ihrer neuen Prozessorversion extrahiert werden. Wenn ein Label im Schema inaktiv ist, wird es von der Prozessorversion nicht extrahiert, auch wenn die Dokumente gelabelt sind.

3. Klicken Sie auf dem Tab Trainieren auf Labelstatistiken ansehen und überprüfen Sie Ihr Test- und Trainingsset. Dokumente, die automatisch gelabelt, nicht gelabelt, oder nicht zugewiesen sind, werden vom Training und der Bewertung ausgeschlossen.

4. Klicken Sie auf Neue Version trainieren.

   Der Versionsname definiert das name Feld der processorVersion.

   

5. Klicken Sie auf Training starten und warten Sie, bis Ihre neue Prozessorversion trainiert und bewertet wurde.

   Sie können den Trainingsfortschritt auf dem Tab Versionen verwalten verfolgen:

   

6. Klicken Sie auf den Tab Bewerten und testen , um zu sehen, wie gut Ihre neue Prozessorversion im Testset abgeschnitten hat. Weitere Informationen finden Sie unter Prozessorversion bewerten.

Python

Weitere Informationen finden Sie in der Document AI Python API Referenzdokumentation.

Richten Sie zur Authentifizierung bei Document AI die Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.

from typing import Optional

from google.api_core.client_options import ClientOptions
from google.cloud import documentai  # type: ignore

# TODO(developer): Uncomment these variables before running the sample.
# project_id = 'YOUR_PROJECT_ID'
# location = 'YOUR_PROCESSOR_LOCATION' # Format is 'us' or 'eu'
# processor_id = 'YOUR_PROCESSOR_ID'
# processor_version_display_name = 'new-processor-version'
# train_data_uri = 'gs://bucket/directory/' # (Optional)
# test_data_uri = 'gs://bucket/directory/' # (Optional)


def train_processor_version_sample(
    project_id: str,
    location: str,
    processor_id: str,
    processor_version_display_name: str,
    train_data_uri: Optional[str] = None,
    test_data_uri: Optional[str] = None,
) -> None:
    # You must set the api_endpoint if you use a location other than 'us', e.g.:
    opts = ClientOptions(api_endpoint=f"{location}-documentai.googleapis.com")

    client = documentai.DocumentProcessorServiceClient(client_options=opts)

    # The full resource name of the processor
    # e.g. `projects/{project_id}/locations/{location}/processors/{processor_id}
    parent = client.processor_path(project_id, location, processor_id)

    processor_version = documentai.ProcessorVersion(
        display_name=processor_version_display_name
    )

    # If train/test data is not supplied, the default sets in the Cloud Console will be used
    input_data = documentai.TrainProcessorVersionRequest.InputData(
        training_documents=documentai.BatchDocumentsInputConfig(
            gcs_prefix=documentai.GcsPrefix(gcs_uri_prefix=train_data_uri)
        ),
        test_documents=documentai.BatchDocumentsInputConfig(
            gcs_prefix=documentai.GcsPrefix(gcs_uri_prefix=test_data_uri)
        ),
    )

    request = documentai.TrainProcessorVersionRequest(
        parent=parent, processor_version=processor_version, input_data=input_data
    )

    operation = client.train_processor_version(request=request)
    # Print operation details
    print(operation.operation.name)
    # Wait for operation to complete
    response = documentai.TrainProcessorVersionResponse(operation.result())

    metadata = documentai.TrainProcessorVersionMetadata(operation.metadata)

    print(f"New Processor Version:{response.processor_version}")
    print(f"Training Set Validation: {metadata.training_dataset_validation}")
    print(f"Test Set Validation: {metadata.test_dataset_validation}")

Prozessorversion bereitstellen und verwenden

Sie können Ihre Prozessorversionen wie jede andere Prozessorversion bereitstellen und verwalten. Weitere Informationen finden Sie unter Prozessorversionen verwalten.

Nach der Bereitstellung können Sie eine Verarbeitungsanfrage an Ihren benutzerdefinierten Prozessor senden.

Prozessor deaktivieren oder löschen

Wenn Sie einen Prozessor nicht mehr verwenden möchten, können Sie ihn deaktivieren oder löschen. Wenn Sie einen Prozessor deaktivieren, können Sie ihn wieder aktivieren. Wenn Sie einen Prozessor löschen, kann er nicht wiederhergestellt werden.

1. Klicken Sie im linken Bereich auf Document AI und dann auf Meine Prozessoren.

2. Klicken Sie rechts neben dem Prozessornamen auf das Dreipunkt-Menü. Klicken Sie auf Prozessor deaktivieren oder Prozessor löschen.

Weitere Informationen finden Sie unter Prozessorversionen verwalten.

Feinabgestimmte Prozessorversion aktualisieren

Sie können feinabgestimmte benutzerdefinierte Extraktor prozessorversionen auf eine neuere Basisversion aktualisieren. Die Konfigurationen der neueren Basisversion basieren auf der älteren. Dabei werden die Trainingsdaten des Prozessors aus den ursprünglichen Versionen verwendet.

1. Wechseln Sie in der Google Google Cloud console zum Tab Bereitstellen und verwenden des Prozessors und wählen Sie das Kästchen für eine unterstützte Prozessorversion für das Upgrade aus. Darauf basiert die Konfiguration der neuen Prozessorversion.

   

2. Wählen Sie das aktivierte Upgrade aus. Geben Sie den Namen und die Basisversion für die neue Prozessorversion ein.

   

3. Klicken Sie auf Upgrade und warten Sie, bis Ihre neue Prozessorversion trainiert wurde.

Hinweis: Dies wird für das Upgrade von pretrained-foundation-model-v1.4-2025-02-05 auf pretrained-foundation-model-v1.5-2025-05-05 unterstützt.

Upgrade mit der API

Sie können auch API-Aufrufe verwenden, um feinabgestimmte benutzerdefinierte Extraktor Prozessorversionen auf eine neuere Basis version zu aktualisieren.

curl

In diesem Beispiel wird gezeigt, wie Sie einen vorhandenen feinabgestimmten processor mit dem Feld FoundationModelTuningOptions in der TrainingMethod migrieren.

Ersetzen Sie diese Werte in den folgenden Anweisungen durch die Informationen auf dem Tab Google Cloud console Übersicht in der Document AI Console für Ihren Prozessor:

• LOCATION: Der Standort Ihres Prozessors location.
• PROJECT_ID: Ihre Projekt-ID
• PROCESSOR_ID: Ihre Prozessor-ID
• DISPLAY_NAME: Der neue Anzeigename Ihres Prozessors
• BASE_PROCESSOR_VERSION: Der Name der Prozessorversion des aktuellen Modells

• PROCESSOR_VERSION: Die ID Ihres aktuellen Prozessors, der aktualisiert werden soll

  curl -X POST -v -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    "https://LOCATION-documentai.googleapis.com/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions:train" \
    -d '{
    "processor_version": {
      "display_name": "DISPLAY_NAME"
    },
    "base_processor_version": "projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/BASE_PROCESSOR_VERSION",
    "foundation_model_tuning_options": {
    "train_steps": 10,
    "learning_rate_multiplier": 1,
    "previous_fine_tuned_processor_version_name": "projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/PROCESSOR_VERSION",
    }
  }'

Verschlüsselung von Trainingsdaten

Document AI-Trainingsdaten werden in Cloud Storage gespeichert und können bei Bedarf mit kundenverwalteten Verschlüsselungsschlüsseln verschlüsselt werden.

Löschen von Trainingsdaten

Nach Abschluss eines Document AI-Trainingsjobs laufen alle in Cloud Storage gespeicherten Trainingsdaten nach einer Aufbewahrungsfrist von zwei Tagen ab. Bei nachfolgenden Daten löschvorgängen wird der unter Datenlöschung Google Cloud beschriebene Prozess berücksichtigt.

Preise

Für Training oder Uptraining fallen keine Kosten an. Sie zahlen für Hosting und Vorhersage. Weitere Informationen finden Sie unter Document AI – Preise.