Batas Rate & Tingkat Penggunaan
Pahami tingkat penggunaan, batas rate, kuota, dan arsitektur sistem
Batas Rate Spesifik Produk
Untuk batas rate dan tingkat penggunaan yang spesifik untuk setiap produk, lihat halaman dokumentasi khusus di bawah ini.
Apa itu Tingkat Penggunaan?
Tingkat penggunaan menentukan berapa banyak dokumen yang dapat Anda proses dan berapa throughput yang Anda terima berdasarkan paket langganan Immenzo Anda. Saat Anda beralih dari Basic ke Pro ke Enterprise, Anda membuka kuota bulanan yang lebih tinggi, rate request yang lebih tinggi, dan akses ke fitur operasional tingkat lanjut.
Anda dapat melihat tingkat dan penggunaan Anda saat ini di bagian Penggunaan & Batas di dashboard Immenzo Anda.
Progresi Tingkat
Immenzo menggunakan paket langganan alih-alih pembelian kredit untuk menentukan tingkat Anda. Tingkat didasarkan pada langganan aktif Anda, bukan pengeluaran seumur hidup. Mengubah paket segera memindahkan Anda ke tingkat yang sesuai.
Cara Kerja Tingkat
Peningkatan otomatis
Saat Anda upgrade dari Basic ke Pro atau Enterprise, batas Anda meningkat secara otomatis.
Batas lebih tinggi di tingkat lebih tinggi
Pro dan Enterprise menerima lebih banyak dokumen per bulan dan rate request yang lebih tinggi.
Stabil per periode tagihan
Batas Anda tetap untuk siklus tagihan saat ini kecuali Anda mengubah paket.
Batas Rate berdasarkan Produk
Immenzo menampilkan batas dalam dokumen per bulan dan permintaan per menit. Perlakukan 1 permintaan ≈ 1 dokumen untuk sebagian besar alur kerja.
Basic – Hingga 300 dokumen/bulan untuk klinik kecil yang menguji atau menjalankan alur pemrosesan dokumen terbatas.
Pro – Hingga 5.000 dokumen/bulan untuk rumah sakit yang mengganti 1-2 staf entri data.
Enterprise – 50.000+ dokumen/bulan dengan batas kustom, kontrak, dan SLA.
Batas Rate Pencarian
Beberapa operasi internal Immenzo (seperti deteksi template dan pencarian pengetahuan) menggunakan kapasitas "pencarian" internal bersama.
Cara Kerja Pembatasan Rate
Immenzo menggunakan pembatas rate gaya leaky-bucket yang memungkinkan burst sambil menerapkan rate jangka panjang yang ketat.
Kapasitas bucket
Jumlah maksimum permintaan yang dapat Anda kirim secara instan (burst Anda).
Rate pengisian ulang
Seberapa cepat token permintaan ditambahkan kembali seiring waktu.
Ketersediaan token
Setiap permintaan yang masuk mengonsumsi satu token; jika tidak ada token tersisa, permintaan ditolak dengan error 429.
Implementasi Teknis
Secara konseptual, Anda dapat membayangkan pembatas sebagai ember yang menampung sejumlah token tetap. Token dihapus saat Anda mengirim permintaan, dan token baru ditambahkan dengan rate tetap sampai ember penuh lagi.
// Example: 10 requests/minute limit
{
capacity: 10, // Max tokens (burst capacity)
refill_rate: 10, // Tokens per minute
refill_interval: 6000 // 1 token every 6 seconds
}
// Scenarios:
// ✓ Burst: Send 10 requests instantly if bucket is full
// ✓ Steady: ~1 request every 6 seconds = always accepted
// ✗ Over limit: Faster than refill = 429 errorsApa yang Terjadi Saat Anda Mencapai Batas Rate?
Anda menerima respons HTTP 429 Too Many Requests.
Token terus terisi ulang sesuai dengan rate yang dikonfigurasi paket Anda.
Segera setelah token tersedia lagi, permintaan baru diterima segera.
Contoh Waktu Pemulihan
- Pada 10 request/menit: sekitar 1 token setiap 6 detik.
- Pada 100 request/menit: sekitar 1 token setiap 0,6 detik.
- Pada 1000 request/menit: sekitar 1 token setiap 60 ms.
Batasan API Eksternal
Layanan kami bergantung pada infrastruktur AI eksternal dengan batas rate mereka sendiri.
HuggingFace Spaces (ImmenzoAI)
Gradio API - Vision AI- Rate limitBest-effort
- Max retries3 attempts
- Cold startMay sleep if idle
- BackoffExponential
Meningkatkan Tingkat Anda
Periksa paket saat ini
Buka bagian Tagihan & Penggunaan di dashboard Immenzo untuk melihat paket Anda saat ini, sisa kuota, dan batas rate.
Ubah paket Anda
Beralih ke Basic, Pro, atau Enterprise melalui halaman tagihan atau dengan menghubungi sales untuk ketentuan Enterprise khusus.
Verifikasi batas baru
Setelah upgrade, batas yang lebih tinggi langsung berlaku. Konfirmasi kuota dan rate request baru Anda di dashboard Penggunaan & Batas.
Tingkat yang lebih tinggi secara signifikan meningkatkan pengalaman Immenzo Anda dengan meningkatkan kapasitas dokumen bulanan dan throughput real-time, yang sangat penting untuk beban kerja rumah sakit produksi.