Qwen3-32B¶

Bu makalede

• Qwen3-32B'nin Ana Özellikleri
• Çalıştırma Özellikleri
• Qwen3-32B Dağıtıldıktan Sonra Başlangıç
• API Kullanarak Qwen3-32B ile Bir Sunucu Siparişi

Qwen3-32B'nin Ana Özellikleri¶

• Çok Dilli Mimari: Model 32 milyar parametreye sahiptir ve 36 trilyon kelime üzerinde eğitilerek 119 dili ve lehçeyi destekler; bu sayede kültürel nüansları anlama ve yüksek kaliteli çeviri sağlar;
• Çalışma Modları: Hem derin düşünme (düşünme modu) hem de hızlı yanıt (düşünmeme modu) için optimize edilmiştir, bu da çeşitli görev türlerine uyum sağlamasına olanak tanır;
• Open Web UI ile Entegrasyon: 8080. port üzerinden modelle kolay etkileşim için modern bir web arayüzü sağlar, veri ve istek işleme üzerinde tam kontrolü güvence altına alır;
• Ölçeklenebilirlik: Mevcut kaynaklara bağlı olarak bellek kullanımını optimize etmek için farklı düzeylerde kuantizasyonu (FP16, 8-bit, 4-bit) destekler;
• Güvenlik ve Kontrol: Tamamen yerel dağıtım veri gizliliğini sağlar, OLLAMA_HOST ve OLLAMA_ORIGINS ayarları ise ağ güvenliğini garanti eder;
• Yüksek Performans: Yüksek performanslı tüketici GPU'larında saniyede yaklaşık 34 token hızına ulaşır, bu da modeli yerel kullanım için uygun hale getirir;
• Hata Toleransı: Otomatik konteyner ve hizmet yeniden başlatma sistemi, kararlı çalışmayı sağlar.
• Kullanım Örnekleri:
  • Müşteri Desteği: Birden fazla dili destekleyerek kullanıcı sorularına yanıtların otomasyonu;
  • Eğitim: Eğitim materyallerinin oluşturulması, karmaşık görevlerin çözülmesine yardımcı olma;
  • Programlama: Çeşitli programlama dillerini destekleyerek kod üretimi ve analizi;
  • Çok Dilli İçerik: Kültürel özellikleri göz önünde bulundurarak metinlerin oluşturulması ve çevrilmesi.

Çalıştırma Özellikleri¶

• İşletim sistemi ile birlikte kurulum süresi 20-40 dakika;
• Ollama sunucusu, Qwen3-32B modelini GPU/RAM belleğinde yükler ve çalıştırır;
• Open WebUI, Ollama sunucusuna bağlı bir web uygulaması olarak dağıtılır;
• Kullanıcılar, Open WebUI web arayüzü üzerinden modelle etkileşime girer, istek gönderir ve yanıt alır;
• Tüm hesaplamalar ve veri işleme, çok dilli destekle sunucuda yerel olarak gerçekleşir;
• Yöneticiler, OpenWebUI araçları aracılığıyla modeli belirli görevler için yapılandırabilir.

Qwen3-32B Dağıtıldıktan Sonra Başlangıç¶

Siparişin ödeme işlemi tamamlandıktan sonra, kayıt sırasında belirtilen e-posta adresine sunucunun çalışmaya hazır olduğuna dair bir bildirim gönderilecektir. Bu bildirimde VPS IP adresi, sunucuya bağlanmak için kullanıcı adı ve şifre ile OpenWebUI paneline erişim bağlantısı yer alacaktır. Şirketimizin müşterileri ekipmanları sunucu yönetim paneli ve API — Invapi üzerinden yönetir.

• Sunucunun işletim sistemine erişim için kimlik doğrulama verileri (örneğin SSH üzerinden) aldığınız e-postada size gönderilecektir.
• Open WebUI web arayüzüne sahip Ollama yönetim paneline erişim bağlantısı: Invapi kontrol panelinin Configuration >> Tags sekmesindeki webpanel etiketinde bulunur. Sunucu teslim edildiğinde e-posta ile https://qwen3-32b<Server_ID_from_Invapi>.hostkey.in biçiminde tam bağlantı gönderilir.

webpanel etiketindeki bağlantıya tıkladıktan sonra Get started with Open WebUI giriş penceresi açılır; burada sohbet botunuz için bir yönetici hesap adı, e-posta ve şifre oluşturmanız ve ardından Create Admin Account düğmesine tıklamanız gerekir:

Başarılı kayıt işleminden sonra Open WebUI'nin ana arayüzü açılacaktır:

API Kullanarak Qwen3-32B ile Bir Sunucu Siparişi¶