Gemma-4-31B¶
Bu makalede
Bilgi
Gemma 4-31B, en karmaşık görevleri çözmek için tasarlanmış, Gemma 4 ailesindeki en büyük ve en güçlü modeldir. MoE sürümünün aksine, bu model 30,7 milyar parametreli klasik bir Dense mimarisi kullanır; olağanüstü kararlılık ve muhakeme derinliği sağlar. Çalıştırma Ubuntu 22.04 tabanlıdır ve önemli miktarda hesaplama kaynağı gerektirir: tam operasyon için yaklaşık 62 GB VRAM gerekir; ancak, 4-bit kuantizasyonu ile model, 20 GB belleğe sahip sistemlerde başarıyla çalışır. Open WebUI ile entegrasyon, veriler üzerinde tam kontrolü korurken modelle etkileşim kurmak için kullanışlı bir arayüz sağlar.
Temel Özellikler¶
- Güçlü Dense Mimari: Model, en yüksek kalitede üretim ve analiz sunan dense açık ağırlıklı (open-weights) kategorisinde lider konumundadır;
- Yerleşik Çok Modluluk (Multimodality): Mimari; metin çıktısı ile birlikte metin ve görüntü girişlerinin eşzamanlı işlenmesini destekler;
- Devasa Bağlam Penceresi: 256K token'a kadar destek, tüm kod depolarının veya uzun belgelerin belleğe yüklenmesine olanak tanır;
- Düşünme Modu (Thinking Mode): Model, nihai cevabı oluşturmadan önce ara muhakeme adımları üretebilir;
- Agentic Yetenekler: Yerleşik fonksiyon çağırma desteği, otonom yapay zeka ajanlarının oluşturulmasını kolaylaştırır;
- Open WebUI Entegrasyonu: 8080 portu üzerinden modelle kolay etkileşim için modern bir web arayüzü sağlar, veri ve istek işleme üzerinde tam kontrol sağlar;
- Ölçeklenebilirlik: Çoklu GPU konfigürasyonları desteği ve optimal performans için yükü birkaç GPU arasında dağıtabilme yeteneği;
- Güvenlik ve Kontrol: Tam yerel çalıştırma veri gizliliğini sağlarken,
OLLAMA_HOSTveOLLAMA_ORIGINSayarları ağ güvenliğini garanti eder; - Performans: İstek işlemeyi hızlandırmak ve model operasyonunu optimize etmek için
LLAMA_FLASH_ATTENTIONteknolojisini kullanır; - Hata Toleransı: Konteynerlar ve servisler için yerleşik bir otomatik yeniden başlatma sistemi istikrarlı çalışma sağlar.
Çalıştırma Özellikleri¶
| ID | Yazılım Adı | Uyumlu OS | VM | BM | VGPU | GPU | Min CPU (Çekirdekler) | Min RAM (GB) | Min HDD/SSD (GB) | Özel Alan Adı | Aktif |
|---|---|---|---|---|---|---|---|---|---|---|---|
| 647 | Gemma-4-31b | Ubuntu 22.04 | + | + | + | + | 8 | 12 | 40 | Hayır | SİPARİŞ VER |
Not
Aksi belirtilmedikçe, varsayılan olarak yazılımın en son sürümünü geliştiricinin web sitesinden veya işletim sistemi depolarından yükleriz.
Gemma-4-31B Çalıştırıldıktan Sonra Başlangıç¶
Ödeme tamamlandıktan sonra, sunucu hazır olduğuna dair bir bildirim kayıt sırasında sağlanan e-posta adresine gönderilecektir. Bu bildirim; VPS IP adresini, sunucuya bağlanmak için kullanıcı adı ve şifreyi ve Open WebUI paneline erişim için bir bağlantı içerecektir. Müşteriler donanımlarını Server Control Panel and API — Invapi üzerinden yönetirler.
-
Sunucu işletim sistemine erişim için yetkilendirme bilgileri (örneğin, SSH yoluyla) size bir e-posta ile gönderilecektir.
-
Open WebUI web arayüzü ile Ollama kontrol paneline erişim bağlantısı: Invapi kontrol panelinin Configuration >> Tags sekmesinde webpanel etiketi altında bulunur.
https://gemma31b<Invapi'den gelen_Server_ID>.hostkey.comşeklinde formatlanmış olan tam bağlantı, sunucu teslimatında sağlanan e-postada gönderilir.
webpanel etiketindeki bağlantıya tıkladıktan sonra, chatbot için bir yönetici kullanıcı adı, e-posta ve şifre oluşturmanız gereken Get started with Open WebUI yetkilendirme penceresi açılacaktır; ardından Create Admin Account düğmesine tıklamanız gerekecektir:
Dikkat
İlk kullanıcı kayıt olduktan sonra, sistem onlara otomatik olarak Administrator rolünü atar. Kayıt süreci üzerinde güvenlik ve kontrol sağlamak için, sonraki tüm kayıt isteklerinin Open WebUI arayüzünden bir yönetici hesabı üzerinden onaylanması gerekir.
Not
Open WebUI aracılığıyla Ollama kontrol paneli ile nasıl çalışılacağına dair ayrıntılı açıklama AI Chatbot on Your Own Server makalesinde bulunabilir.
Not
Optimal performans için, büyük bağlamları ve paralel istekleri işlemek için pay bırakacak şekilde, minimum gereksinim olan 24 GB VRAM'den daha fazla belleğe sahip bir GPU kullanılması önerilir. Temel Ollama ve Open WebUI ayarlarıyla ilgili ayrıntılı bilgiler Ollama developer documentation ve Open WebUI developer documentation adreslerinde bulunabilir.