Model partner OpenAI tersedia dalam Pratinjau Pribadi di Gemini Enterprise Agent Platform. Anda dapat memanggil model ini melalui OpenAI Responses API.
Meminta akses Pratinjau Pribadi
Untuk meminta akses Pratinjau Pribadi ke model partner OpenAI, hubungi tim akun Google Cloud Anda. Jika kebijakan organisasi Anda membatasi akses model, izinkan model dalam kebijakan tersebut.
Model OpenAI yang tersedia
Model partner OpenAI yang tersedia di Gemini Enterprise Agent Platform mencakup model unggulan di seluruh rangkaian Astra, Sol, Terra, dan Luna. Model unggulan ini memiliki kemampuan inti berikut:
- Jendela konteks 1.050.000 token: Mendukung hingga 922.000 token input dan 128.000 token output.
- Input multimodal: Menerima input teks dan gambar, serta menampilkan output teks.
- Upaya penalaran yang dapat dikonfigurasi: Mengontrol jumlah token penalaran yang dihasilkan selama inferensi.
- Endpoint multi-region: Mendukung endpoint global (
global) dan endpoint multi-region AS (us). - Tingkat harga konteks panjang: Permintaan yang melebihi 272.000 token input akan ditagih berdasarkan tarif harga konteks panjang.
Kelompok model
OpenAI mengelompokkan model ini ke dalam empat kelompok yang berbeda:
- Kelompok GPT Astra: Model partner dengan kemampuan tertinggi untuk penalaran multi-langkah yang kompleks, tugas engineering yang sulit, dan alur kerja agen jangka panjang.
- Kelompok GPT Sol: Model partner unggulan yang dibuat untuk coding otonom, orkestrasi alat agen, dan workload analisis yang kompleks.
- Rangkaian GPT Terra: Model penalaran dengan throughput tinggi dan biaya seimbang yang dibuat untuk workload perusahaan umum dan otomatisasi bervolume tinggi.
- Rangkaian GPT Luna: Model partner berlatensi rendah yang dioptimalkan untuk bantuan coding interaktif yang cepat dan beban kerja perusahaan yang sensitif terhadap latensi.
Model GPT Astra
gpt-6-astra)
Model partner dengan kemampuan tertinggi dari OpenAI (gpt-6-astra), yang dibuat untuk penalaran multi-langkah yang kompleks, tugas engineering yang sulit, dan alur kerja agen jangka panjang.
Model GPT Sol
gpt-6.1-sol)
Model partner unggulan dari OpenAI (gpt-6.1-sol), yang dibuat untuk coding otonom, orkestrasi alat agentic, dan workload analisis yang kompleks.
Model GPT Terra
gpt-6.1-terra)
Model penalaran dengan throughput tinggi dan biaya seimbang dari OpenAI (gpt-6.1-terra), yang dibuat untuk workload perusahaan umum dan otomatisasi bervolume tinggi.
Model GPT Luna
gpt-6-luna)
Model partner berlatensi rendah dari OpenAI (gpt-6-luna), yang dioptimalkan untuk asisten coding interaktif yang cepat dan workload perusahaan yang sensitif terhadap latensi.
Ketersediaan fitur
Model OpenAI di Agent Platform mengekspos OpenAI Responses API sekaligus melakukan autentikasi dengan kredensial Google Cloud Identity and Access Management (IAM) dan OAuth 2.0. Selama Pratinjau Pribadi, sebagian alat, endpoint, dan fitur yang dihosting dari OpenAI API langsung tidak didukung di Agent Platform. Untuk mengetahui perincian kemampuan secara mendetail, lihat panduan Ketersediaan Fitur Pratinjau Pribadi OpenAI.
| Fitur atau kemampuan | Direct OpenAI API | Agent Platform (Pratinjau Pribadi) | Detail |
|---|---|---|---|
| Permintaan dan endpoint API | |||
| Responses API | Didukung | Didukung | Tersedia di publishers/openai/v1/responses pada endpoint multi-region global dan us. Lihat Call Responses API. |
| Respons aliran data | Didukung | Didukung | Melakukan streaming peristiwa teks dan alat inkremental menggunakan peristiwa yang dikirim server (SSE). |
| Chat Completions, Assistants, Decisions, dan Sandbox API | Didukung | Tidak didukung | Hanya Responses API yang tersedia di Pratinjau Pribadi. Chat Completions, Assistants, Decisions API, Sandbox API, dan sandbox eksekusi kode jarak jauh tidak didukung. |
| API batch, latar belakang, dan Realtime (WebSocket) | Didukung | Tidak didukung | Batch Asinkron, mode latar belakang, melanjutkan streaming, penghitungan token input, dan Realtime API (koneksi WebSocket) tidak didukung. |
| Output dan penalaran | |||
| Pemanggilan fungsi dan output terstruktur | Didukung | Didukung | Mendukung panggilan fungsi paralel dan asinkron sisi klien, output terstruktur Skema JSON, dan mode JSON. |
| Upaya penalaran yang dapat dikonfigurasi | Didukung | Didukung | Mendukung tingkat upaya penalaran dan token penalaran terenkripsi di seluruh giliran. |
| Mode penalaran mentah dan ringkasan | Didukung | Tidak didukung | Mode penalaran mentah dan ringkasan penalaran tidak didukung. |
| Alat dan integrasi | |||
| Alat dan penelusuran sisi klien | Didukung | Didukung | Mendukung panggilan fungsi sisi klien, panggilan alat paralel, argumen fungsi terstruktur, alat kustom, penelusuran alat sisi klien, MCP yang dijalankan klien, dan alat shell sisi klien. |
| Alat OpenAI dan Penelusuran Web yang dihosting | Didukung | Tidak didukung | Penelusuran Web yang dihosting, Penelusuran File, Code Interpreter, Vector Store, dan server MCP jarak jauh tidak didukung. Alat dijalankan di sisi klien. |
| Codex CLI dan Aplikasi Desktop Codex | Didukung | Didukung (mode API) | Berjalan secara lokal di workstation developer terhadap endpoint Agent Platform menggunakan kredensial OAuth Google Cloud . Hosted Codex Cloud tidak didukung. |
| Dokumen dan media | |||
| Input file dan gambar multimodal | Didukung | Didukung | Mendukung input gambar inline dan ekstraksi teks PDF langsung. |
| Status percakapan dan caching | |||
| Pemadatan percakapan | Didukung | Didukung | Mendukung endpoint POST .../responses/compact mandiri untuk mengompresi histori percakapan menjadi item pemadatan terenkripsi. |
| Penyimpanan perintah dalam cache | Didukung | Didukung | Mendukung caching awalan otomatis dan kontrol prompt-cache eksplisit dalam memori volatil. |
| Mode Flex | Didukung | Tidak didukung | Harga dan eksekusi mode fleksibel OpenAI tidak didukung. |
| Ketersediaan regional dan perusahaan | |||
| Ketersediaan regional (APAC dan EU) | Didukung | Tidak didukung | Hanya endpoint global dan endpoint multi-region us yang tersedia dalam Pratinjau Pribadi. Endpoint APAC, EU, dan satu region tidak tersedia. |
| Model lama, media, Cyber, dan khusus | Didukung | Tidak didukung | Model lama (seperti GPT-4, GPT-4o, dan GPT-3.5), model gambar (seperti DALL-E), model suara dan audio (seperti Whisper dan TTS), model Cyber, dan model khusus lainnya tidak didukung. Hanya model partner GPT 6.0 dan 6.1 yang ditentukan yang didukung. |
| Model Armor | Tidak berlaku | Tidak didukung | Filter keamanan Model Armor tidak tersedia untuk model partner OpenAI selama Pratinjau Pribadi. |
| FedRAMP High | Tidak berlaku | Tidak didukung | Otorisasi FedRAMP High tidak didukung untuk model partner OpenAI selama Pratinjau Pribadi. |
Logging data, retensi data, dan tanpa peninjauan manual
Secara default, Google Cloud mencatat dan menyimpan perintah dan respons hingga 30 hari untuk pemantauan penyalahgunaan. Selama Pratinjau Pribadi, Google maupun OpenAI tidak melakukan peninjauan manual terhadap perintah atau respons pelanggan.
- Retensi keamanan default selama 30 hari di dalam Google Cloud: Model partner OpenAI di Agent Platform ditetapkan sebagai model "AI Lanjutan" berdasarkan Adendum Keamanan AI Lanjutan Google. Mengaktifkan model ini memerlukan izin project satu kali di Model Garden. Izin ini memungkinkan Google Cloud mencatat perintah dan respons hingga 30 hari di penyimpanan AS milik Google semata-mata untuk mendeteksi penyalahgunaan dan pelanggaran kebijakan.
- Tidak ada peninjauan manual selama Pratinjau Pribadi: Selama Pratinjau Pribadi, baik Google maupun OpenAI tidak menggunakan petugas peninjau untuk menilai perintah pelanggan, input file, atau respons model. Pengklasifikasi otomatis dan sistem keamanan mengevaluasi permintaan dalam batas inferensi.
- Tidak ada pelatihan model: Baik Google maupun OpenAI tidak menggunakan perintah, input, atau respons pelanggan untuk melatih, menyesuaikan, atau meningkatkan kualitas model AI/ML apa pun.
Untuk mengetahui detail tambahan, lihat Pemantauan penyalahgunaan.
Zero Data Retention (ZDR)
Zero Data Retention (ZDR) dikonfigurasi di level project Google Cloud dan nonaktif secara default untuk semua model partner OpenAI di Agent Platform. Hingga ZDR disetujui dan aktif untuk project Anda, permintaan tetap tunduk pada log pemantauan penyalahgunaan selama 30 hari berdasarkan Adendum Keamanan AI Lanjutan. Selain itu, mengaktifkan model di Model Garden masih akan menampilkan dialog izin Adendum.
Persetujuan ZDR OpenAI API langsung yang ada atau setelan store: false dalam
permintaan API tidak mengonfigurasi ZDR di Agent Platform. Menetapkan
store: false akan mengonfigurasi permintaan menjadi stateless, tetapi tidak memberikan atau
menjamin ZDR. ZDR memerlukan persetujuan tingkat project dari OpenAI dan
konfirmasi selama orientasi.
Arti ZDR di Agent Platform
Saat ZDR disetujui dan didistribusikan untuk project Google Cloud , komitmen Kontrol Data API OpenAI berlaku bersama dengan penegakan Google Cloud :
- Pemrosesan real-time tanpa persistensi dalam penyimpanan: Perintah pelanggan, input file, dan respons model diproses secara real-time. Data tersebut tidak disimpan di persistent disk atau dipertahankan dalam log pemantauan penyalahgunaan selama 30 hari, dan tidak melalui peninjauan manual.
- Caching perintah dalam memori sementara: Caching perintah otomatis menyimpan representasi awalan nilai kunci turunan yang dienkripsi secara ketat dalam RAM volatil. Data yang di-cache tidak pernah ditulis ke persistent disk dan dihapus secara otomatis dalam waktu 24 jam.
- Telemetri operasional dan metadata penagihan: Metrik operasional standar seperti jumlah permintaan, latensi, dan jumlah token terus dicatat untuk pengelolaan kuota dan penagihan.
Meminta ZDR dan memverifikasi aktivasi
Untuk mengaktifkan ZDR untuk project Google Cloud Anda, ikuti langkah-langkah berikut:
- Hubungi tim akun Google Cloud Anda dan berikan project ID dan nomor projectGoogle Cloud yang ingin Anda cakup dalam ZDR.
- Tim akun Google Cloud Anda mengirimkan permintaan Anda ke OpenAI. OpenAI akan meninjau dan memutuskan apakah akan menyetujui ZDR untuk organisasi dan project yang Anda tentukan.
- Setelah OpenAI menyetujui ZDR dan memberikan konfirmasi, Google Cloud akan menerapkan konfigurasi ZDR ke project Google Cloud Anda yang disetujui. Konfigurasi ini didistribusikan ke semua infrastruktur penayangan dalam waktu 24 jam.
- Setelah distribusi selesai, ZDR akan aktif untuk projectGoogle Cloud yang disetujui. Pastikan ZDR aktif dengan memeriksa banner Zero Data Retention active di halaman model di Model Garden. Dalam project ZDR aktif, perintah dan respons model dikecualikan dari log keamanan 30 hari. Dialog izin Adendum Keamanan AI Lanjutan tidak lagi muncul saat mengaktifkan model.
Lihat juga Agent Platform dan retensi data nol.
Langkah berikutnya
- Pelajari cara menggunakan Responses API.
- Konfigurasikan alat developer di Menghubungkan OpenAI Codex ke Google Cloud.
- Tinjau Pemantauan penyalahgunaan dan Retensi data nol.
- Bandingkan fitur dalam panduan Ketersediaan Fitur Pratinjau Pribadi OpenAI.
- Pelajari panduan OpenAI OpenAI on Google Cloud dan Connect Codex to Google Cloud Vertex AI.