Qwen3-32B¶

Bu makalede

• Qwen3-32B'nin Temel Özellikleri
• Çalıştırma Özellikleri
• Qwen3-32B Kurulumundan Sonra Başlangıç
• API Kullanarak Qwen3-32B Sunucusu Sipariş Etme

Qwen3-32B'nin Temel Özellikleri¶

• Çok Dilli Mimari: Model 32 milyar parametreye sahiptir, 36 trilyon kelime ile eğitilmiştir ve 119 dil ile lehçeyi destekleyerek kültürel nüansların anlaşılmasını ve yüksek kaliteli çeviri yapılmasını sağlar;
• Çalışma Modları: Hem derin akıl yürütme (thinking mode) hem de hızlı yanıtlar (non-thinking mode) için optimize edilmiştir, bu da çeşitli görev türlerine uyum sağlamasına olanak tanır;
• Open Web UI ile Entegrasyon: 8080 portu üzerinden modelle kolay etkileşim için modern bir web arayüzü sağlar, veriler ve istek işleme üzerinde tam kontrol sağlar;
• Ölçeklenebilirlik: Mevcut kaynaklara bağlı olarak bellek kullanımı optimizasyonu için farklı kuantizasyon seviyelerini (FP16, 8-bit, 4-bit) destekler;
• Güvenlik ve Kontrol: Tam yerel kurulum veri gizliliğini sağlar, OLLAMA_HOST ve OLLAMA_ORIGINS ayarları ise ağ güvenliğini garanti eder;
• Yüksek Performans: Yüksek performanslı tüketici GPU'larında saniyede yaklaşık 34 token elde ederek modeli yerel kullanım için uygulanabilir kılar;
• Hata Toleransı: Otomatik konteyner ve servis yeniden başlatma sistemi, kararlı çalışma sağlar.
• Kullanım Örnekleri:
  • Müşteri Desteği: Çoklu dil desteği ile kullanıcı sorularına yanıtların otomasyonu;
  • Eğitim: Eğitim materyallerinin oluşturulması, karmaşık görevlerin çözümünde yardım;
  • Programlama: Çeşitli programlama dillerini destekleyerek kod oluşturma ve analizi;
  • Çok Dilli İçerik: Kültürel özellikler dikkate alınarak metinlerin oluşturulması ve çevrilmesi.

Çalıştırma Özellikleri¶

• Ollama sunucusu LLM'i belleğe yükler ve çalıştırır;
• Open WebUI, Ollama sunucusuna bağlı bir web uygulaması olarak kurulur;
• Kullanıcılar, istek gönderip yanıtlar alarak Open WebUI web arayüzü üzerinden LLM ile etkileşime girer;
• Tüm hesaplamalar ve veri işleme sunucuda yerel olarak gerçekleşir. Yöneticiler, OpenWebUI araçları aracılığıyla LLM'i belirli görevler için yapılandırabilir.

Qwen3-32B Kurulumundan Sonra Başlangıç¶

Siparişin kayıt sırasında belirtilen e-posta adresine ödemesi yapıldıktan sonra, sunucunun çalışmaya hazır olduğuna dair bir bildirim gönderilecektir. Bu bildirim, VPS IP adresinin yanı sıra sunucuya bağlanmak için giriş ve şifre bilgilerini ve OpenWebUI paneline erişim için bir bağlantı içerecektir. Şirketimizin müşterileri, ekipmanlarını sunucu yönetim paneli ve API — Invapi üzerinden yönetirler.

• Sunucunun işletim sistemine erişim için kimlik doğrulama verileri (örneğin SSH üzerinden) size alınan e-postada gönderilecektir.
• Open WebUI web arayüzüne sahip Ollama yönetim paneline erişim bağlantısı: Invapi kontrol panelindeki Configuration >> Tags sekmesindeki webpanel etiketindedir. https://qwen3-32b<Server_ID_from_Invapi>.hostkey.in biçimindeki tam bağlantı, sunucu teslimatında e-posta ile gönderilir.

webpanel etiketindeki bağlantıya tıkladıktan sonra, chatbot'unuz için bir yönetici hesap adı, e-posta ve şifre oluşturmanız gereken bir Get started with Open WebUI giriş penceresi açılacaktır; ardından Create Admin Account düğmesine basın:

Başarılı kayıttan sonra Open Web UI'ın ana arayüzü açılacaktır:

API Kullanarak Qwen3-32B Sunucusu Sipariş Etme¶

Bu yazılımı API kullanarak kurmak için bu talimatları izleyin.