Qwen3-32B¶

Bu makalede

• Qwen3-32B'nin Temel Özellikleri
• Çalıştırma Özellikleri
• Qwen3-32B Kurulumu Sonrası Başlangıç
• API Kullanarak Qwen3-32B Sunucusu Sipariş Etme

Qwen3-32B'nin Temel Özellikleri¶

• Çok Dilli Mimari: Model 32 milyar parametreye sahiptir, 36 trilyon kelime ile eğitilmiştir ve 119 dil ile lehçeyi destekleyerek kültürel nüansların anlaşılmasını ve yüksek kaliteli çeviri yapılmasını sağlar;
• Çalışma Modları: Hem derin akıl yürütme (düşünme modu) hem de hızlı yanıtlar (düşünme modu olmayan mod) için optimize edilmiştir, bu da çeşitli görev türlerine uyum sağlamasına olanak tanır;
• Open Web UI ile Entegrasyon: Port 8080 üzerinden modelle kolay etkileşim için modern bir web arayüzü sağlar, veriler ve istek işleme üzerinde tam kontrol sağlar;
• Ölçeklenebilirlik: Mevcut kaynaklara bağlı olarak bellek kullanımı optimizasyonu için farklı kuantizasyon seviyelerini (FP16, 8-bit, 4-bit) destekler;
• Güvenlik ve Kontrol: Tam yerel kurulum veri gizliliğini sağlar, OLLAMA_HOST ve OLLAMA_ORIGINS ayarları ise ağ güvenliğini garanti eder;
• Yüksek Performans: Yüksek performanslı tüketici GPU'larında saniyede yaklaşık 34 token elde eder, bu da modeli yerel kullanım için uygulanabilir kılar;
• Hata Toleransı: Otomatik konteyner ve servis yeniden başlatma sistemi yerleşik olarak gelir ve kararlı çalışma sağlar.
• Kullanım Örnekleri:
  • Müşteri Desteği: Çoklu dil desteği ile kullanıcı sorularına yanıtların otomasyonu;
  • Eğitim: Eğitim materyallerinin oluşturulması, karmaşık görevlerin çözümünde yardım;
  • Programlama: Çeşitli programlama dillerini destekleyen kod üretimi ve analizi;
  • Çok Dilli İçerik: Kültürel özellikleri göz önünde bulunduran metinlerin oluşturulması ve çevrilmesi.

Çalıştırma Özellikleri¶

• Ollama sunucusu LLM'yi belleğe yükler ve çalıştırır;
• Open WebUI, Ollama sunucusuna bağlı bir web uygulaması olarak kurulur;
• Kullanıcılar, istek gönderip yanıtlar alarak Open WebUI web arayüzü üzerinden LLM ile etkileşime girer;
• Tüm hesaplamalar ve veri işleme sunucuda yerel olarak gerçekleşir. Yöneticiler, OpenWebUI araçları aracılığıyla LLM'yi belirli görevler için yapılandırabilir.

Qwen3-32B Kurulumu Sonrası Başlangıç¶

Kayıt sırasında belirtilen e-posta adresine sipariş ödemesi yapıldıktan sonra, sunucunun çalışmaya hazır olduğuna dair bir bildirim gönderilecektir. Bu bildirim VPS IP adresinin yanı sıra sunucuya bağlanmak için kullanıcı adı ve şifreyi ve OpenWebUI paneline erişim için bir bağlantı içerecektir. Şirketimizin müşterileri, donanımı sunucu yönetim panelinde ve API'de — Invapi üzerinden yönetirler.

• Sunucunun işletim sistemine erişim için kimlik doğrulama verileri (örneğin SSH üzerinden) size alınan e-postada gönderilecektir.
• Open WebUI web arayüzüne sahip Ollama yönetim paneline erişim bağlantısı: Invapi kontrol panelindeki Configuration >> Tags sekmesindeki webpanel etiketindedir. https://qwen3-32b<Invapi'den gelen_Server_ID>.hostkey.in biçimindeki tam bağlantı, sunucu teslimatında e-posta ile gönderilir.

webpanel etiketindeki bağlantıya tıkladıktan sonra, chatbot'unuz için bir yönetici hesabı adı, e-posta ve şifre oluşturmanız gereken bir Get started with Open WebUI giriş penceresi açılacaktır; ardından Create Admin Account butonuna basın:

Başarılı kayıttan sonra Open WebUI'ın ana arayüzü açılacaktır:

API Kullanarak Qwen3-32B Sunucusu Sipariş Etme¶

Bu yazılımı API kullanarak kurmak için bu talimatları izleyin.