Model Llama yang di-deploy sendiri

Llama adalah kumpulan model terbuka yang dikembangkan oleh Meta yang dapat Anda sesuaikan dan deploy di Gemini Enterprise Agent Platform. Llama menawarkan model teks generatif dan multimodal yang telah dilatih dan disesuaikan dengan instruksi.

Llama 4

Rangkaian model Llama 4 adalah kumpulan model multimodal yang menggunakan arsitektur Mixture-of-Experts (MoE). Dengan menggunakan arsitektur MoE, model dengan jumlah parameter yang sangat besar dapat mengaktifkan subset parameter tersebut untuk input tertentu, sehingga menghasilkan inferensi yang lebih efisien. Selain itu, Llama 4 menggunakan penggabungan awal, yang mengintegrasikan informasi teks dan visual dari tahap pemrosesan awal. Metode ini memungkinkan model Llama 4 memahami hubungan yang kompleks dan bernuansa antara teks dan gambar secara lebih efektif. Model Garden di Gemini Enterprise Agent Platform menawarkan dua model Llama 4: Llama 4 Scout dan Llama 4 Maverick.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama 4 di Model Garden atau lihat postingan blog Memperkenalkan Llama 4 di Gemini Enterprise Agent Platform.

Llama 4 Maverick

Llama 4 Maverick adalah model Llama 4 terbesar dan menawarkan kemampuan coding, penalaran, dan gambar. Model ini memiliki 17 miliar parameter aktif dari total 400 miliar parameter dengan 128 pakar. Llama 4 Maverick menggunakan lapisan padat dan MoE yang bergantian, dengan setiap token mengaktifkan pakar bersama ditambah salah satu dari 128 pakar yang dirutekan. Saat melakukan deployment mandiri dari Model Garden, Anda dapat men-deploy model terlatih (llama-4-maverick-17b-128e), model yang disesuaikan dengan petunjuk dalam presisi BF16 (llama-4-maverick-17b-128e-instruct), atau model yang disesuaikan dengan petunjuk dengan kuantisasi FP8 (llama-4-maverick-17b-128e-instruct-fp8). Endpoint MaaS terkelola (llama-4-maverick-17b-128e-instruct-maas) menyajikan model yang disesuaikan dengan petunjuk dalam presisi FP8 tetap. Model ini dilatih sebelumnya dalam 200 bahasa dan dioptimalkan untuk interaksi chat melalui pipeline pasca-pelatihan.

Llama 4 Maverick bersifat multimodal dan memiliki jendela konteks 1 juta token. Model ini cocok untuk pemberian teks gambar, analisis visual, penjawaban pertanyaan visual, pembuatan teks kreatif, asisten AI serbaguna, dan aplikasi chat yang kompleks.

Llama 4 Scout

Llama 4 Scout adalah model MoE berefisiensi tinggi dengan jendela konteks 10 juta token. Model ini memiliki 17 miliar parameter aktif dari total 109 miliar parameter dengan 16 pakar. Saat melakukan deployment mandiri dari Model Garden, Anda dapat men-deploy model terlatih (llama-4-scout-17b-16e) atau model yang disesuaikan dengan petunjuk (llama-4-scout-17b-16e-instruct). Endpoint MaaS terkelola (llama-4-scout-17b-16e-instruct-maas) menyajikan model yang disesuaikan dengan petunjuk dalam presisi FP8 tetap. Llama 4 Scout cocok untuk tugas pengambilan dalam konteks panjang dan tugas yang memerlukan penalaran atas sejumlah besar informasi, seperti merangkum beberapa dokumen besar, menganalisis log interaksi pengguna yang ekstensif untuk personalisasi, dan penalaran di seluruh codebase besar.

Llama 3.3

Llama 3.3 adalah model khusus teks 70B yang telah disesuaikan dengan instruksi dan memberikan performa yang lebih baik dibandingkan dengan Llama 3.1 70B dan Llama 3.2 90B saat digunakan untuk aplikasi khusus teks. Selain itu, untuk beberapa aplikasi, Llama 3.3 70B mendekati performa Llama 3.1 405B.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama 3.3 di Model Garden.

Llama 3.2

Llama 3.2 memungkinkan developer membangun dan men-deploy model dan aplikasi AI generatif terbaru yang menggunakan kemampuan Llama untuk memicu inovasi baru, seperti penalaran gambar. Llama 3.2 juga dirancang agar lebih mudah diakses untuk aplikasi di perangkat. Daftar berikut menyoroti fitur Llama 3.2:

  • Menawarkan pengalaman AI yang lebih pribadi dan dipersonalisasi, dengan pemrosesan di perangkat untuk model yang lebih kecil.
  • Menawarkan model yang dirancang agar lebih efisien, dengan latensi yang lebih rendah dan performa yang lebih baik, sehingga cocok untuk berbagai aplikasi.
  • Dibangun di atas Llama Stack, yang memudahkan pembuatan dan deployment aplikasi. Llama Stack adalah antarmuka standar untuk membangun komponen toolchain kanonis dan aplikasi agen.
  • Mendukung tugas vision, dengan arsitektur model baru yang mengintegrasikan representasi encoder gambar ke dalam model bahasa.

Model 1B dan 3B adalah model khusus teks ringan yang mendukung kasus penggunaan di perangkat seperti pengambilan pengetahuan lokal multibahasa, ringkasan, dan penulisan ulang.

Model Llama 11B dan 90B adalah model multimodal berukuran kecil dan sedang dengan penalaran gambar. Misalnya, model ini dapat menganalisis data visual dari diagram untuk memberikan respons yang lebih akurat dan mengekstrak detail dari gambar untuk menghasilkan deskripsi teks.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama 3.2 di Model Garden.

Pertimbangan

Saat menggunakan 11B dan 90B, tidak ada batasan saat Anda mengirim perintah khusus teks. Namun, jika Anda menyertakan gambar dalam perintah, gambar tersebut harus berada di awal perintah, dan Anda hanya dapat menyertakan satu gambar. Misalnya, Anda tidak dapat menyertakan beberapa teks, lalu gambar.

Llama 3.1

Koleksi model bahasa besar (LLM) multibahasa Llama 3.1 adalah koleksi model generatif terlatih dan yang telah disesuaikan dengan instruksi dalam ukuran 8B, 70B, dan 405B (input dan output teks). Model khusus teks yang disesuaikan dengan petunjuk Llama 3.1 (8B, 70B, 405B) dioptimalkan untuk kasus penggunaan dialog multibahasa dan mengungguli banyak model chat open source dan tertutup yang tersedia dalam tolok ukur industri umum.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama 3.1 di Model Garden.

Llama 3

Model Llama 3 yang telah disesuaikan dengan instruksi adalah kumpulan LLM yang dioptimalkan untuk kasus penggunaan dialog. Model Llama 3 mengungguli banyak model chat open source yang tersedia dalam tolok ukur industri umum.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama 3 di Model Garden.

Llama 2

LLM Llama 2 adalah kumpulan model teks generatif terlatih dan yang telah disesuaikan, dengan ukuran mulai dari 7 miliar hingga 70 miliar parameter.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama 2 di Model Garden.

Code Llama

Model Code Llama Meta dirancang untuk sintesis, pemahaman, dan instruksi kode.

Untuk mengetahui informasi selengkapnya, lihat kartu model Code Llama di Model Garden.

Llama Guard 3

Llama Guard 3 dikembangkan berdasarkan kemampuan Llama Guard 2, dengan menambahkan tiga kategori baru: Pencemaran Nama Baik, Pemilu, dan Penyalahgunaan Penafsir Kode. Selain itu, model ini bersifat multibahasa dan memiliki format perintah yang konsisten dengan model instruksi Llama 3 atau yang lebih baru.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama Guard di Model Garden.

Resource

Untuk mengetahui informasi selengkapnya tentang Model Garden, lihat Menjelajahi model AI di Model Garden.