I modelli linguistici di grandi dimensioni (LLM) possono tradurre lingue, riassumere testi, generare contenuti creativi, generare codice, supportare chatbot e assistenti virtuali e integrare motori di ricerca e sistemi di consigli. Tuttavia, le loro capacità e i loro utilizzi in evoluzione generano un potenziale di applicazioni errate, usi impropri e conseguenze non volute o impreviste. Gli LLM possono generare output imprevisti, inclusi testi offensivi, insensibili o fattualmente errati.
La versatilità degli LLM rende difficile prevedere esattamente i tipi di output non voluti o imprevisti che potrebbero produrre. Dati questi rischi e queste complessità, le API di AI generativa di Gemini Enterprise Agent Platform sono progettate tenendo presenti i Principi di AI di Google. Tuttavia, è importante che gli sviluppatori comprendano e testino i propri modelli per eseguire il deployment in modo sicuro e responsabile. Per aiutare gli sviluppatori, Vertex AI Studio include il filtro dei contenuti e le nostre API di AI generativa hanno la valutazione degli attributi di sicurezza per aiutare i clienti a testare i filtri di sicurezza di Google e definire le soglie di attendibilità adatte al loro caso d'uso e alla loro attività. Per scoprire come utilizzare gli attributi e i filtri di sicurezza per un'API, consulta API Gemini in Agent Platform.
Quando le nostre API generative vengono integrate nel tuo caso d'uso e nel tuo contesto unici, potrebbe essere necessario considerare ulteriori aspetti di AI responsabile e limitazioni. Invitiamo i clienti a promuovere le pratiche consigliate per equità, interpretabilità, privacy e sicurezza raccomandate pratiche . I clienti rimangono inoltre responsabili del rispetto delle Google Cloud's Norme di utilizzo accettabile (AUP), delle Norme relative all'uso vietato dell'AI generativa e di eventuali altri Termini specifici del servizio o requisiti pertinenti per l'utilizzo dei servizi di AI/ML e AI generativa.
Limiti del modello
I limiti che potresti riscontrare quando utilizzi i modelli di AI generativa includono (ma non sono limitati a):
Casi limite: i casi limite si riferiscono a situazioni insolite, rare o eccezionali che non sono ben rappresentate nei dati di addestramento. Questi casi possono portare a limitazioni nel rendimento del modello, come un'eccessiva sicurezza del modello, un'errata interpretazione del contesto o output inappropriati.
Allucinazioni, fondatezza e veridicità del modello: i modelli di AI generativa richiedono un contesto basato su informazioni del mondo reale, proprietà fisiche e una comprensione accurata dei dati specifici per ridurre la probabilità che il modello produca output imprecisi, irrilevanti o privi di senso. Per scoprire di più sulla fondatezza in Agent Platform, consulta la panoramica sulla fondatezza.
Qualità e ottimizzazione dei dati: la qualità, l'accuratezza e i pregiudizi del prompt o dei dati inseriti in un modello possono avere un impatto significativo sulla qualità delle risposte. Se gli utenti inseriscono dati o prompt imprecisi o errati, il modello può avere un rendimento non ottimale o output errati.
Amplificazione dei pregiudizi: i modelli di AI generativa possono amplificare involontariamente i pregiudizi esistenti nei dati di addestramento, portando a output che possono rafforzare ulteriormente i pregiudizi sociali e il trattamento iniquo di determinati gruppi.
Qualità della lingua: sebbene i modelli offrano funzionalità multilingue impressionanti nei benchmark che abbiamo valutato, la maggior parte dei nostri benchmark (incluse tutte le valutazioni di equità) sono in lingua inglese. Per maggiori informazioni, consulta il blog di Google Research.
- I modelli di AI generativa possono fornire una qualità del servizio non uniforme a utenti diversi. Ad esempio, la generazione di testo potrebbe non essere efficace per alcuni dialetti o varietà linguistiche a causa della sottorappresentazione nei dati di addestramento. Il rendimento può essere peggiore per le lingue non inglesi o le varietà di lingua inglese con una rappresentazione inferiore.
Benchmark e sottogruppi di equità: le analisi di equità di Google Research sui nostri modelli di AI generativa non forniscono un resoconto esaustivo dei vari potenziali rischi. Ad esempio, ci concentriamo sui pregiudizi relativi a genere, razza, etnia e religione, ma eseguiamo l'analisi solo sui dati e sugli output del modello in lingua inglese. Per maggiori informazioni, consulta il Google Research blog.
Competenza di dominio limitata: i modelli di AI generativa possono non avere la profondità di informazioni necessaria per fornire risposte accurate e dettagliate su argomenti altamente specializzati o tecnici, portando a informazioni superficiali o errate. informazioni. Per i casi d'uso specializzati e complessi, i modelli devono essere ottimizzati per i dati specifici del dominio e deve essere presente una supervisione umana significativa nei contesti con il potenziale di influire in modo sostanziale sui diritti individuali.
Lunghezza e struttura di input e output: i modelli di AI generativa hanno un limite massimo di token di input e output. Se l'input o l'output supera questo limite, i nostri classificatori di sicurezza non vengono applicati, il che potrebbe portare a un rendimento scadente del modello. Sebbene i modelli ospitati su Agent Platform siano progettati per gestire un'ampia gamma di formati di testo, il loro rendimento può essere influenzato se i dati di input hanno una struttura insolita o complessa.
Pratiche consigliate
Per utilizzare questa tecnologia in modo sicuro e responsabile, oltre alle misure di salvaguardia tecniche integrate, è importante considerare anche altri rischi specifici per il tuo caso d'uso, i tuoi utenti e il tuo contesto aziendale.
Ti consigliamo di seguire questi passaggi:
- Valuta i rischi per la sicurezza della tua applicazione.
- Esegui test di sicurezza appropriati per il tuo caso d'uso.
- Se necessario, configura i filtri di sicurezza.
- Richiedi il feedback degli utenti e monitora i contenuti.
Monitoraggio degli abusi
Google Cloud ha creato processi che possono essere utilizzati per rilevare potenziali abusi e violazioni dei nostri termini relativi all'utilizzo dei servizi di AI generativa. Puoi scoprire di più su questi processi, nonché sui requisiti più rigorosi specifici per i modelli o le funzionalità designati come "AI avanzata", nella nostra documentazione sul monitoraggio degli abusi.
Segnala abuso
Puoi segnalare sospetti abusi del Servizio o qualsiasi output generato che contenga materiale inappropriato o informazioni imprecise utilizzando il seguente modulo: Segnala sospetti abusi su Google Cloud.
Risorse aggiuntive
- Scopri di più sui consigli di Google per le pratiche di AI responsabile.
- Leggi il nostro blog, Un'agenda condivisa per il progresso dell'AI responsabile