Google Cloud con Gemini e AI responsabile

I prodotti Gemini in Google Cloud, come Gemini Code Assist, incorporano principi di progettazione dell'AI responsabile per aiutarti a orientarti tra le funzionalità, i limiti e i rischi dell'AI generativa. Comprendere questi controlli di sicurezza e limiti operativi ti consente di valutare e implementare l'assistenza AI nei tuoi workflow.

Funzionalità e rischi dei modelli linguistici di grandi dimensioni

I modelli linguistici di grandi dimensioni (LLM) possono svolgere molte attività utili, ad esempio:

  • Tradurre la lingua.
  • Riassumi il testo.
  • Generare codice e scrittura creativa.
  • Potenziare chatbot e assistenti virtuali.
  • Integrano i motori di ricerca e i sistemi di suggerimenti.

Allo stesso tempo, le capacità tecniche in evoluzione degli LLM creano il potenziale di applicazioni errate, usi impropri e conseguenze non volute o impreviste.

I modelli LLM possono generare output inaspettati, inclusi testi offensivi, insensibili o errati dal punto di vista dei fatti. Poiché gli LLM sono incredibilmente versatili, può essere difficile prevedere esattamente quali tipi di output indesiderati o imprevisti potrebbero produrre.

Dati questi rischi e queste complessità, prodotti come Gemini Code Assist sono progettati in base ai principi dell'AI di Google. Tuttavia, è importante che gli utenti comprendano alcune limitazioni dei prodotti Gemini per lavorare in modo sicuro e responsabile.

Limitazioni dei prodotti Gemini in Google Cloud

Alcune delle limitazioni che potresti riscontrare durante l'utilizzo dei prodotti Gemini in Google Cloud includono (a titolo esemplificativo):

  • Casi limite. I casi limite si riferiscono a situazioni insolite, rare o eccezionali che non sono ben rappresentate nei dati di addestramento. Questi casi possono portare a limitazioni nell'output dei modelli Gemini, come eccessiva sicurezza del modello, interpretazione errata del contesto o output inappropriati.

  • Allucinazioni, fondatezza e oggettività del modello. I modelli Gemini potrebbero non essere basati su fatti e conoscenze del mondo reale, proprietà fisiche o comprensione accurata. Questa limitazione può portare ad allucinazioni del modello, in cui Gemini potrebbe generare output che sembrano plausibili, ma sono errati, irrilevanti, inappropriati o privi di senso. Le allucinazioni possono anche includere la creazione di link a pagine web che non esistono e non sono mai esistite. Per maggiori informazioni, consulta Scrivere prompt migliori per Gemini in Google Cloud.

  • Qualità e ottimizzazione dei dati. La qualità, l'accuratezza e la distorsione dei dati del prompt inseriti nei prodotti Gemini in Google Cloud possono influire in modo significativo sulle prestazioni. Se gli utenti inseriscono prompt imprecisi o errati, Gemini potrebbe restituire risposte non ottimali o false.

  • Amplificazione dei bias. I modelli linguistici possono amplificare inavvertitamente i bias esistenti nei dati di addestramento, portando a risultati che potrebbero rafforzare ulteriormente i pregiudizi sociali e il trattamento iniquo di determinati gruppi.

  • Qualità della lingua. Sebbene i prodotti Gemini in Google Cloud offrano funzionalità multilingue impressionanti nei benchmark che abbiamo valutato, la maggior parte dei nostri benchmark (incluse tutte le valutazioni di equità) sono in inglese americano.

    I modelli linguistici potrebbero fornire una qualità del servizio non uniforme a utenti diversi. Ad esempio, la generazione di testo potrebbe non essere efficace per alcuni dialetti o varianti linguistiche perché sono sottorappresentati nei dati di addestramento. Il rendimento potrebbe essere peggiore per le lingue diverse dall'inglese o per le varietà della lingua inglese con una rappresentazione minore.

  • Benchmark e sottogruppi di equità. Le analisi dell'equità dei modelli Gemini di Google Research non forniscono un resoconto esaustivo dei vari potenziali rischi. Ad esempio, ci concentriamo sui bias lungo gli assi di genere, etnia, razza e religione, ma eseguiamo l'analisi solo sui dati e sugli output del modello in inglese americano.

  • Competenze limitate nel dominio. I modelli Gemini sono stati addestrati sulla Google Cloud tecnologia, ma potrebbero non avere la profondità di conoscenza necessaria per fornire risposte accurate e dettagliate su argomenti altamente specializzati o tecnici, il che potrebbe portare a informazioni superficiali o errate.

    Quando utilizzi il riquadro Gemini nella console Google Cloud , Gemini non è consapevole del contesto del tuo ambiente specifico, quindi non può rispondere a domande come "Quando ho creato l'ultima volta una VM?"

    In alcuni casi, i prodotti Gemini Google Cloud inviano un segmento specifico del tuo contesto al modello per ricevere una risposta specifica per il contesto, ad esempio quando fai clic sul pulsante Suggerimenti per la risoluzione dei problemi nella pagina del servizio di Error Reportingori.

Filtro per la sicurezza e la tossicità di Gemini

I prompt e le risposte per i prodotti Gemini in Google Cloud, come Gemini Code Assist, vengono controllati in base a un elenco completo di attributi di sicurezza, a seconda dei casi d'uso. Questi attributi di sicurezza hanno lo scopo di filtrare i contenuti che violano le nostre Norme di utilizzo accettabile. Se un output è considerato dannoso, la risposta verrà bloccata.

Passaggi successivi