AI responsabile

I modelli linguistici di grandi dimensioni (LLM) possono tradurre lingue, riassumere testi, generare contenuti creativi, generare codice, supportare chatbot e assistenti virtuali e integrare motori di ricerca e sistemi di consigli. Allo stesso tempo, essendo una tecnologia ancora in fase iniziale, le sue capacità e i suoi utilizzi in evoluzione generano un potenziale di applicazioni errate, usi impropri e conseguenze non volute o impreviste. I modelli linguistici di grandi dimensioni possono generare output imprevisti, inclusi testi offensivi, insensibili o oggettivamente scorretti.

Inoltre, l'incredibile versatilità degli LLM rende difficile prevedere esattamente quali tipi di output non voluti o imprevisti potrebbero produrre. Dati questi rischi e queste complessità, le API di AI generativa della piattaforma agentica Gemini Enterprise sono progettate in base ai principi di Google AI. Tuttavia, è importante che gli sviluppatori comprendano e testino i propri modelli per eseguire il deployment in modo sicuro e responsabile. Per aiutare gli sviluppatori, Gemini Enterprise Agent Platform Studio include il filtro dei contenuti integrato e le nostre API di AI generativa hanno la valutazione degli attributi di sicurezza per aiutare i clienti a testare i filtri di sicurezza di Google e definire le soglie di attendibilità adatte al loro caso d'uso e alla loro attività. Per saperne di più, consulta la sezione Filtri e attributi di sicurezza.

Quando le nostre API generative sono integrate nel tuo caso d'uso e nel tuo contesto unici, potrebbe essere necessario considerare ulteriori limitazioni e considerazioni sull'AI responsabile. Invitiamo i clienti a promuovere le pratiche consigliate per l'equità, l'interpretabilità, la privacy e la sicurezza .

Filtri e attributi di sicurezza

Per scoprire come utilizzare i filtri e gli attributi di sicurezza per un'API, consulta API Gemini in Gemini Enterprise Agent Platform.

Limiti del modello

I limiti che puoi riscontrare quando utilizzi i modelli di AI generativa includono (ma non sono limitati a):

  • Casi limite: i casi limite si riferiscono a situazioni insolite, rare o eccezionali che non sono ben rappresentate nei dati di addestramento. Questi casi possono portare a limitazioni nel rendimento del modello, come un'eccessiva sicurezza del modello, un'interpretazione errata del contesto o output inappropriati.

  • Allucinazioni, grounding e oggettività del modello: i modelli di AI generativa possono mancare di oggettività nella conoscenza del mondo reale, nelle proprietà fisiche o nella comprensione accurata. Questa limitazione può portare ad allucinazioni del modello, che si riferiscono a casi in cui può generare output che sembrano plausibili ma sono oggettivamente scorretti, irrilevanti, inappropriati o privi di senso. Per ridurre questa probabilità, puoi ancorare i modelli ai tuoi dati specifici. Per saperne di più sul grounding in Gemini Enterprise Agent Platform, consulta la panoramica sul grounding.

  • Qualità e ottimizzazione dei dati: la qualità, l'accuratezza e il bias del prompt o dei dati inseriti in un modello possono avere un impatto significativo sul suo rendimento. Se gli utenti inseriscono dati o prompt imprecisi o errati, il modello può avere un rendimento non ottimale o output errati.

  • Amplificazione del bias: i modelli di AI generativa possono amplificare involontariamente i bias esistenti nei dati di addestramento, portando a output che possono rafforzare ulteriormente i pregiudizi sociali e il trattamento iniquo di determinati gruppi.

  • Qualità della lingua: sebbene i modelli offrano funzionalità multilingue impressionanti rispetto ai benchmark che abbiamo valutato, la maggior parte dei nostri benchmark (incluse tutte le valutazioni di equità) sono in lingua inglese. Per saperne di più, consulta il blog di Google Research.

    • I modelli di AI generativa possono fornire una qualità del servizio incoerente a utenti diversi. Ad esempio, la generazione di testo potrebbe non essere efficace per alcuni dialetti o varietà linguistiche a causa della sottorappresentazione nei dati di addestramento. Il rendimento può essere peggiore per le lingue non inglesi o le varietà di lingua inglese con una rappresentazione inferiore.

  • Benchmark e sottogruppi di equità: le analisi di equità di Google Research dei nostri modelli di AI generativa non forniscono un resoconto esaustivo dei vari potenziali rischi. Ad esempio, ci concentriamo sui bias lungo gli assi di genere, razza, etnia e religione, ma eseguiamo l'analisi solo sui dati e sugli output del modello in lingua inglese. Per saperne di più, consulta il blog di Google Research.

  • Competenza di dominio limitata: i modelli di AI generativa possono mancare della profondità di conoscenza necessaria per fornire risposte accurate e dettagliate su argomenti altamente specializzati o tecnici, portando a informazioni superficiali o errate. informazioni. Per casi d'uso specializzati e complessi, i modelli devono essere ottimizzati per i dati specifici del dominio e deve essere presente una supervisione umana significativa nei contesti con il potenziale di influire in modo sostanziale sui diritti individuali.

  • Lunghezza e struttura di input e output: i modelli di AI generativa hanno un limite massimo di token di input e output. Se l'input o l'output supera questo limite, i nostri classificatori di sicurezza non vengono applicati, il che potrebbe in definitiva portare a un rendimento scadente del modello. Sebbene i nostri modelli siano progettati per gestire un'ampia gamma di formati di testo, il loro rendimento può essere influenzato se i dati di input hanno una struttura insolita o complessa.

Per utilizzare questa tecnologia in modo sicuro e responsabile, oltre alle protezioni tecniche integrate, è importante considerare anche altri rischi specifici per il tuo caso d'uso, i tuoi utenti e il tuo contesto aziendale.

Ti consigliamo di seguire questi passaggi:

  1. Valuta i rischi per la sicurezza della tua applicazione.
  2. Esegui test di sicurezza appropriati per il tuo caso d'uso.
  3. Se necessario, configura i filtri di sicurezza.
  4. Richiedi il feedback degli utenti e monitora i contenuti.

Segnala abuso

Puoi segnalare sospetti abusi del Servizio o qualsiasi output generato che contenga materiale inappropriato o informazioni inaccurate utilizzando il seguente modulo: Segnala sospetti abusi su Google Cloud.

Risorse aggiuntive