Ana içeriğe geç

Qwen3-32B

Bu makalede

Bilgi

Qwen3-32B, Ollama platformu üzerinden yerel dağıtım için önemli hesaplama kaynakları gerektiren Qwen serisinin ileri düzey bir dili modelidir. Dağıtım modern sistemlerde NVIDIA grafik hızlandırıcılarını kullanarak gerçekleştirilir. Open Web UI ile entegrasyon, veriler üzerinde tam kontrol sağlarken modelle etkileşim kurmanın kolay bir arayüzünü sunar.

Qwen3-32B'nin Ana Özellikleri

  • Çokdilli Mimari: Model 32 milyar parametreye sahip olup, 36 trilyon kelime üzerinde eğitilmiş 119 dil ve lehçeyi destekler; kültürel ince ayrıntıları anlama ve yüksek kaliteli çeviri sağlar;
  • Çalışma Modları: Derinlemesine akıl yürütme (düşünme modu) ve hızlı yanıtlar için optimize edilmiş (düşünmeme modu), farklı görev türlerine uyum sağlar;
  • Open Web UI ile Entegrasyon: Modelle etkileşim kurmak için modern bir web arayüzü sunar ve port 8080 üzerinden veri ve istek işleme üzerinde tam kontrol sağlar;
  • Ölçeklenebilirlik: Kullanılabilir kaynaklara bağlı olarak bellek kullanımını optimize etmek için farklı seviyelerde kuantizasyon (FP16, 8-bit, 4-bit) destekler;
  • Güvenlik ve Kontrol: Tam yerel dağıtım veri gizliliğini sağlar; OLLAMA_HOST ve OLLAMA_ORIGINS ayarları ağ güvenliğini garanti eder;
  • Yüksek Performans: Yüksek performanslı tüketici GPU'larında yaklaşık 34 token/saniye hızı elde ederek modelin yerel kullanımını mümkün kılar;
  • Dayanıklılık: Sistem içinde otomatik konteyner ve hizmet yeniden başlatmalarının bir sistemini barındırarak stabil çalışmayı sağlar.
  • Kullanım Örnekleri:
    • Müşteri Destek: Çok dilli destekle kullanıcı sorularına otomatik yanıtlar;
    • Eğitim: Eğitim materyallerinin oluşturulması, karmaşık görevlerde yardım sağlama;
    • Programlama: Farklı programlama dillerini destekleyerek kod üretimi ve analizi;
    • Çokdilli İçerik: Kültürel özelikleri göz önünde bulundurarak metin oluşturma ve çevirisi.

Çalıştırma Özellikleri

ID Uyumlu OS VM BM VGPU GPU Min CPU (Çekirdekler) Min RAM (GB) Min HDD/SSD (GB) Aktif
334 Ubuntu 22.04 - - + + 4 64 - Evet
  • İşletim sistemi ile birlikte kurulum süresi 20-40 dakika;
  • Ollama sunucusu Qwen3-32B modelini GPU/RAM belleğinde yükler ve çalıştırır;
  • Open WebUI, Ollama sunucusuna bağlı bir web uygulaması olarak dağıtılır;
  • Kullanıcılar, modelle etkileşim kurmak için Open WebUI web arayüzünden istek gönderir ve yanıtlar alır;
  • Tüm hesaplamalar ve veri işlemeleri sunucuda yerel olarak gerçekleştirilir ve çok dilli destek sağlar;
  • Yöneticiler, OpenWebUI araçları kullanarak modeli belirli görevler için yapılandırabilir.

Qwen3-32B Dağıtıldıktan Sonra Başlangıç

Sipariş ödemesinden sonra işlem e-postasına hazır çalışma durumundaki sunucu hakkında bildirim gönderilecektir. Sunucunun IP adresi, sunucuya bağlanmak için kullanıcı adı ve şifre ile birlikte OpenWebUI paneline erişim linki dahil edilecektir. Şirketimizin müşterileri ekipmanını sunucu yönetim paneli ve APIInvapi üzerinden yönetir.

  • Sunucunun işletim sistemine erişim kimlik bilgileri (örneğin, SSH aracılığıyla), alınan e-posta yoluyla size gönderilecektir.
  • Ollama yönetim paneline Open WebUI web arayüzüyle erişim linki: Invapi kontrol panelinde webpanel etiketinde bulunan Info >> Tags sekmesinde yer alır. Formatta https://qwen3-32b<Server_ID_from_Invapi>.hostkey.in sunucu teslimatında e-posta yoluyla gönderilen tam link.

Etiket webpanel üzerinden bağlantıya tıkladıktan sonra Get started with Open WebUI oturum açma penceresi açılacak, burada chatbot'unuz için bir yönetici hesabı adı, e-posta ve şifre oluşturmanız gerekir, ardından Create Admin Account düğmesine tıklamanız gerekir:

Dikkat

İlk kullanıcıyı kaydettikten sonra sistem onlara otomatik olarak bir yönetici rolü atar. Kayıt işlemini güvenli hale getirmek ve kontrol etmek için, tüm sonraki kayıt istekleri, yönetici hesabından OpenWebUI üzerinden onaylanmalıdır.

Başarılı kayıttan sonra Open WebUI'nin ana arayüzü açılacaktır:

Not

Ollama yönetim paneli ile Open WebUI çalışma özelliklerinin ayrıntılı açıklaması Kendi Sunucunuzda AI Chatbot başlıklı makalede bulunabilir.

Not

En iyi performans için, 16 GB video belleği minimum gereksinimi olan bir GPU'nun üzerinde daha fazla bellek önerilir; bu, büyük bağlamların işlenmesi ve eşzamanlı istekler için bir tampon sağlayacaktır. Ollama ve Open WebUI'nin temel ayarları hakkında detaylı bilgi Ollama geliştirici belgelerinde ve Open WebUI geliştirici belgelerinde bulunabilir.

API Kullanarak Qwen3-32B ile Sunucu Siparişi Verme

Bu yazılımı API kullanarak kurmak için bu talimatları izleyin.


Bu sayfanın bazı içeriği AI ile oluşturulmuş veya çevrilmiştir.