Verantwortungsbewusste Anwendung von KI

Große Sprachmodelle (LLMs, Large Language Models) können Sprache übersetzen, Texte zusammenfassen, kreative Werke schreiben, Code generieren, Powerbots und virtuelle Assistenten generieren und Suchmaschinen und Empfehlungssysteme ergänzen. Die sich entwickelnden Fähigkeiten und Anwendungen bergen jedoch die Gefahr von Fehlanwendungen, Missbrauch und unbeabsichtigten oder unvorhergesehenen Folgen. LLMs können unerwartete Ausgaben generieren, einschließlich Text, der anstößig, beleidigend oder sachlich falsch ist.

Die Vielseitigkeit von LLMs macht es schwierig, genau zu sagen, welche Arten von unbeabsichtigten oder unvorhergesehenen Ausgaben diese Modelle produzieren könnten. Angesichts dieser Risiken und Komplexitäten wurden generative KI-APIs der Gemini Enterprise Agent Platform gemäß der KI-Grundsätze von Google entwickelt. Es ist jedoch wichtig, dass Entwickler ihre Modelle verstehen und testen, um sie sicher und verantwortungsbewusst bereitzustellen. Zur Unterstützung von Entwicklern verfügt Vertex AI Studio über eine integrierte Inhaltsfilterung. Unsere generativen KI-APIs haben Sicherheitsattributbewertungen, mit denen Kunden die Sicherheitsfilter von Google testen und Konfidenzwerte definieren können, die für ihren Anwendungsfall und ihr Unternehmen geeignet sind. Informationen zur Verwendung von Sicherheitsfiltern und ‑attributen für eine API finden Sie unter Gemini API in Agent Platform.

Wenn unsere generativen APIs in Ihren Anwendungsfall und Ihren Kontext eingebunden werden, müssen möglicherweise zusätzliche Überlegungen und Einschränkungen für die verantwortungsbewusste Anwendung von KI berücksichtigt werden. Wir empfehlen unseren Kunden, empfohlene Vorgehensweisen in Sachen Fairness, Interpretierbarkeit, Datenschutz und Sicherheit zu fördern. Kunden sind weiterhin für die Einhaltung der Google Cloud-Richtlinie zur zulässigen Nutzung (Acceptable Use Policy, AUP), der Richtlinie zur unzulässigen Nutzung von generativer KI und aller anderen dienstspezifischen Nutzungsbedingungen oder relevanten Anforderungen für die Nutzung von KI-/ML- und generativen KI-Diensten verantwortlich.

Modelleinschränkungen

Bei der Verwendung von generativen KI-Modellen können Sie unter anderem die folgenden Einschränkungen sehen:

  • Grenzfälle: Grenzfälle beziehen sich auf ungewöhnliche, seltene oder außergewöhnliche Situationen, die in den Trainingsdaten nicht gut dargestellt werden. Diese Fälle können zu Einschränkungen bei der Leistung des Modells führen, z. B. Modellselbstüberschätzung, Fehlinterpretation des Kontexts oder unangemessene Ausgaben.

  • Modellhalluzinationen, Fundierung und Fakten: Generative KI-Modelle benötigen einen Kontext, der auf realen Informationen, physischen Eigenschaften und einem genauen Verständnis Ihrer spezifischen Daten basiert, um die Wahrscheinlichkeit zu verringern, dass das Modell ungenaue, irrelevante oder unsinnige Ausgaben erzeugt. Weitere Informationen zur Fundierung in der Agent Platform finden Sie im Fundierungs-Überblick.

  • Datenqualität und Abstimmung: Die Qualität, Genauigkeit und Verzerrung der Eingabeaufforderung oder Dateneingabe in ein Modell können erhebliche Auswirkungen auf die Qualität der Antworten haben. Wenn Nutzer ungenaue oder falsche Daten oder Eingabeaufforderungen eingeben, kann die Modell eine suboptimale Leistung oder falsche Modellausgaben liefern.

  • Vorurteile: Generative KI-Modelle können versehentlich vorhandene Vorurteile in den Trainingsdaten verstärken. Dies kann zu Ergebnissen führen, die gesellschaftliche Vorurteile und die ungleiche Behandlung bestimmter Gruppen weiter verstärken.

  • Sprachqualität: Die Modelle liefern zwar beeindruckende mehrsprachige Fähigkeiten in den von uns ausgewerteten Benchmarks, die meisten unserer Benchmarks (einschließlich aller Fairness-Auswertungen) sind jedoch in der englischen Sprache. eine Weitere Informationen finden Sie im Google Research-Blog.

    • Die von Modellen für generative KI gelieferte Dienstqualität ist möglicherweise nicht für alle Nutzer einheitlich. Beispielsweise ist die Texterzeugung für einige Dialekte oder Sprachvarianten aufgrund ihres geringen Vorkommens in den Trainingsdaten möglicherweise nicht so effektiv. Die Leistung ist bei anderen Sprachen als der Englischen und bei weniger stark repräsentierten englischen Sprachvarianten möglicherweise geringer.

  • Fairness-Benchmarks und Untergruppen: Die Fairness-Analysen des Google Research-Teams für unsere generativen KI-Modelle bieten keine vollständige Darstellung der verschiedenen potenziellen Risiken. Beispielsweise konzentrieren wir uns auf Vorurteile im Hinblick auf Geschlecht, ethnische Herkunft, Ethnie und Religion. Die Analyse erfolgt jedoch nur für englischsprachige Daten und die Modellausgaben. Weitere Informationen finden Sie im Google Research-Team-Blog.

  • Eingeschränkte Fachkenntnisse: Generative KI-Modelle haben vielleicht nicht die erforderlichen Kenntnisse, um hochspezialisierte oder technische Themen mit genauen und detaillierten Antworten zu liefern. Dies kann zu oberflächlichen oder falschen Informationen führen. Bei spezialisierten, komplexen Anwendungsfällen sollte die Modelle auf domainspezifische Daten abgestimmt sein und eine sinnvolle menschliche Überwachung im Zusammenhang mit der Möglichkeit haben, die Rechte von Einzelnen wesentlich zu beeinflussen.

  • Länge und Struktur der Ein- und Ausgaben: Generative KI-Modelle haben eine maximale Eingabe- und Ausgabetokengrenze. Wenn die Ein- oder Ausgabe diesen Grenzwert überschreitet, werden unsere Sicherheitsklassifikatoren nicht angewendet. Dies kann zu einer geringeren Modellleistung führen. Modelle, die auf der Agent Platform gehostet werden, sind zwar für eine Vielzahl an Textformaten ausgelegt. Ihre Leistung kann jedoch beeinträchtigt werden, wenn die Eingabedaten eine ungewöhnliche oder komplexe Struktur haben.

Um diese Technologie sicher und verantwortungsvoll zu nutzen, ist es wichtig, neben den integrierten technischen Sicherheitsmaßnahmen weitere Risiken zu berücksichtigen, die für Anwendungsfall, Nutzer und Geschäftskontext spezifisch sind.

Wir empfehlen Folgendes:

  1. Bewerten Sie die Sicherheitsrisiken Ihrer Anwendung.
  2. Führen Sie für Ihren Anwendungsfall geeignete Sicherheitstests durch.
  3. Konfigurieren Sie bei Bedarf Sicherheitsfilter.
  4. Holen Sie Nutzerfeedback ein und überwachen Sie Inhalte.

Missbrauchsüberwachung

Google Cloud hat Prozesse entwickelt, die zur Erkennung von potenziellem Missbrauch und Verstößen gegen unsere Nutzungsbedingungen für generative KI-Dienste eingesetzt werden können. Weitere Informationen zu diesen Prozessen sowie zu den strengeren Anforderungen speziell für Modelle oder Funktionen, die als „Advanced AI“ gekennzeichnet sind, finden Sie in unserer Dokumentation zur Missbrauchsüberwachung.

Missbrauch melden

Sie können einen mutmaßlichen Missbrauch des Dienstes oder eine generierte Ausgabe mit unangemessenen oder ungenauen Informationen über das folgende Formular melden: Einen mutmaßlichen Missbrauch inGoogle Cloud melden.

Zusätzliche Ressourcen