Questo documento descrive come sono progettati i prodotti Gemini in Google Cloud, come Gemini Code Assist, in considerazione delle funzionalità, dei limiti e dei rischi associati all'AI generativa.
Funzionalità e rischi dei modelli linguistici di grandi dimensioni
I modelli linguistici di grandi dimensioni (LLM) possono svolgere molte attività utili, ad esempio:
- Tradurre le lingue.
- Riassumere il testo.
- Generare codice e scrittura creativa.
- Alimentare chatbot e assistenti virtuali.
- Integrare motori di ricerca e sistemi di suggerimenti.
Allo stesso tempo, le funzionalità tecniche in evoluzione degli LLM creano il potenziale per applicazioni errate, usi impropri e conseguenze non volute o impreviste.
Gli LLM possono generare output imprevisti, inclusi testi offensivi, insensibili o oggettivamente errati. Poiché gli LLM sono incredibilmente versatili, può essere difficile prevedere esattamente i tipi di output non voluti o imprevisti che potrebbero produrre.
Dati questi rischi e queste complessità, prodotti come Gemini Code Assist sono progettati tenendo conto dei principi dell'AI di Google. Tuttavia, è importante che gli utenti comprendano alcuni dei limiti dei prodotti Gemini per lavorare in modo sicuro e responsabile.
Limitazioni dei prodotti Gemini in Google Cloud
Alcune delle limitazioni che potresti riscontrare utilizzando i prodotti Gemini in Google Cloud includono (ma non sono limitate a) le seguenti:
Casi limite. I casi limite si riferiscono a situazioni insolite, rare o eccezionali che non sono ben rappresentate nei dati di addestramento. Questi casi possono portare a limitazioni nell'output dei modelli Gemini, come l'eccessiva sicurezza del modello, l'errata interpretazione del contesto o output inappropriati.
Allucinazioni, fondatezza e oggettività del modello. I modelli Gemini potrebbero non avere fondatezza e oggettività nella conoscenza del mondo reale, nelle proprietà fisiche o nella comprensione accurata. Questa limitazione può portare ad allucinazioni del modello, in cui Gemini potrebbe generare output che sembrano plausibili ma sono oggettivamente errati, irrilevanti, inappropriati o privi di senso. Le allucinazioni possono includere anche la creazione di link a pagine web che non esistono e non sono mai esistite. Per maggiori informazioni, consulta Scrivi prompt migliori per Gemini in Google Cloud.
Qualità e ottimizzazione dei dati. La qualità, l'accuratezza e il bias dei dati dei prompt inseriti nei prodotti Gemini in Google Cloud possono avere un impatto significativo sul suo rendimento. Se gli utenti inseriscono prompt imprecisi o errati, Gemini potrebbe restituire risposte non ottimali o false.
Amplificazione del bias. I modelli linguistici possono amplificare inavvertitamente i bias esistenti nei dati di addestramento, portando a output che potrebbero rafforzare ulteriormente i pregiudizi sociali e il trattamento iniquo di determinati gruppi.
Qualità della lingua. Sebbene i prodotti Gemini in Google Cloud offrano funzionalità multilingue impressionanti nei benchmark rispetto ai quali abbiamo eseguito la valutazione, la maggior parte dei nostri benchmark (incluse tutte le valutazioni di equità) sono in inglese americano.
I modelli linguistici potrebbero fornire una qualità del servizio incoerente a utenti diversi. Ad esempio, la generazione di testo potrebbe non essere efficace per alcuni dialetti o varietà linguistiche perché sono sottorappresentati nei dati di addestramento. Il rendimento potrebbe essere peggiore per le lingue non inglesi o le varietà di lingua inglese con una rappresentazione inferiore.
Benchmark di equità e sottogruppi. Le analisi di equità dei modelli Gemini di Google Research non forniscono un resoconto esaustivo dei vari rischi potenziali. Ad esempio, ci concentriamo sui bias relativi a genere, razza, etnia e religione, ma eseguiamo l'analisi solo sui dati e sugli output del modello in lingua inglese americana.
Competenza di dominio limitata. I modelli Gemini sono stati addestrati su Google Cloud tecnologia, ma potrebbero non avere la profondità di conoscenza necessaria per fornire risposte accurate e dettagliate su argomenti altamente specializzati o tecnici, portando a informazioni superficiali o errate.
Quando utilizzi il riquadro Gemini nella Google Cloud console, Gemini non è a conoscenza del contesto del tuo ambiente specifico, quindi non può rispondere a domande come "Quando ho creato l'ultima volta una VM?"
In alcuni casi, i prodotti Gemini in Google Cloud viano un segmento specifico del contesto al modello per ricevere una risposta specifica del contesto, ad esempio quando fai clic sul pulsante Suggerimenti per la risoluzione dei problemi nella pagina del servizio Error Reporting.
Filtro di sicurezza e tossicità di Gemini
I prompt e le risposte per i prodotti Gemini in Google Cloud, come Gemini Code Assist, vengono controllati rispetto a un elenco completo di attributi di sicurezza, a seconda dei casi per ogni caso d'uso. Questi attributi di sicurezza mirano a filtrare i contenuti che violano le nostre Norme di utilizzo accettabile. Se un output è considerato dannoso, la risposta verrà bloccata.
Passaggi successivi
- Scopri di più su come Gemini cita le fonti quando ti aiuta a generare codice.