Esta página foi traduzida pela API Cloud Translation.

Execute a inferência de MDIs no Cloud Run com o TGI do Hugging Face

O exemplo seguinte mostra como executar um serviço de back-end que executa o conjunto de ferramentas de inferência de geração de texto (TGI) do Hugging Face com o Llama 3. O Hugging Face TGI é um grande modelo de linguagem (GML) aberto que pode ser implementado e publicado no serviço Cloud Run com GPUs ativadas.

Exceto em caso de indicação contrária, o conteúdo desta página é licenciado de acordo com a Licença de atribuição 4.0 do Creative Commons, e as amostras de código são licenciadas de acordo com a Licença Apache 2.0. Para mais detalhes, consulte as políticas do site do Google Developers. Java é uma marca registrada da Oracle e/ou afiliadas.

Última atualização 2025-12-04 UTC.

Execute a inferência de MDIs no Cloud Run com o TGI do Hugging Face Mantenha tudo organizado com as coleções Salve e categorize o conteúdo com base nas suas preferências.