gpt-oss-120b¶

Bu makalede

• gpt-oss-120b Temel Özellikleri
• Çalıştırma Özellikleri
• gpt-oss-120b Kurulumundan Sonra Başlangıç
• API Kullanarak gpt-oss-120b ile Sunucu Sipariş Etme

gpt-oss-120b Temel Özellikleri¶

• Koşullu aktivasyon ile ölçeklenebilir mimari: Model 120 milyar parametre içerir, ancak seyrek aktivasyon (sparse activation) mekanizması sayesinde her istekte yalnızca yaklaşık 21 milyar parametreyi aktifleştirir. Bu durum, kaliteden ödün vermeden bellek ve hesaplama kaynağı gereksinimlerini önemli ölçüde azaltır.
• Gelişmiş ajan yetenekleri: gpt-oss-120b; kod yürütme, gerçek zamanlı web araması, API çağırma ve kesin yapılandırılmış çıktılar (JSON, XML vb.) üretme dahil olmak üzere genişletilmiş bir araç seti destekler. Bu, onu otonom ajanlar ve karmaşık otomasyon sistemleri için ideal bir temel haline getirir.
• Adaptif akıl yürütme: Model; hızlı doğrudan yanıtlardan çok adımlı düşünce zincirlerine (chain-of-thought) ve karar ağaçlarına kadar esnek bir akıl yürütme seviyeleri sistemi uygular. Kullanıcılar, görevin karmaşıklığına bağlı olarak "düşünme derinliğini" kontrol edebilirler.
• Benchmarklarda yüksek performans: gpt-oss-120b; özellikle mantık, matematik, programlama ve disiplinler arası bilgi sentezi gerektiren görevlerde o3 ve o4 seviyelerindeki tescilli modellerle kıyaslanabilir sonuçlar sergiler.
• Kapsamlı çok dilli destek: Model 50'den fazla dilden gelen verilerle eğitilmiştir ve çok dilli/çok kültürlü bağlamlarda etkili bir şekilde çalışabilir. En iyi sonuçlar için istemde (prompt) dil ve kültürel çerçevelerin açıkça belirtilmesi önerilir.
• Verimli kuantizasyon ve uyumluluk: MXFP4 ve INT4 formatları desteği, kalitede önemli bir kayıp olmadan bellek kullanımının önemli ölçüde azaltılmasını ve çıktının hızlandırılmasını sağlar. Model; vLLM, GGUF ve Hugging Face Transformers gibi popüler çerçevelerle uyumludur.

Çalıştırma Özellikleri¶

• Ollama sunucusu LLM'yi belleğe yükler ve çalıştırır;
• Open WebUI, Ollama sunucusuna bağlı bir web uygulaması olarak konuşlandırılır;
• Kullanıcılar, istek gönderip yanıt alarak Open WebUI web arayüzü üzerinden LLM ile etkileşime girer;
• Tüm hesaplamalar ve veri işleme yerel olarak sunucuda gerçekleşir. Yöneticiler, OpenWebUI araçları aracılığıyla LLM'yi belirli görevler için yapılandırabilir.

gpt-oss-120b Kurulumundan Sonra Başlangıç¶

Ödemeden sonra, sipariş sırasında kaydedilen e-posta adresine sunucunun hazır olduğuna dair bir bildirim gönderilecektir. Bu bildirim; VPS IP adresi, sunucu erişimi için kullanıcı adı ve Şifre ile birlikte OpenWebUI kontrol paneline ait bağlantıyı içerecektir. Müşteriler ekipmanlarını Server Management Panel and API — Invapi üzerinden yönetirler.

• OS sunucu erişimi için kimlik bilgileri (örneğin SSH üzerinden), alınan e-postada gönderilecektir.
• Open WebUI web arayüzüne sahip Ollama kontrol paneli bağlantısı: Invapi'nin kontrol panelindeki Configuration >> Tags sekmesinde yer alan webpanel etiketindedir. Tam bağlantı (örneğin https://gpt-oss<Server_ID_from_Invapi>.hostkey.in), sunucu teslimatında gönderilen e-postada sağlanır.

webpanel etiketi bağlantısına ilk kez tıklandığında bir karşılama sayfası açılacaktır. Kurulumu başlatmak için Get started düğmesine tıklayın.

Etiketteki webpanel bağlantısına tıkladıktan sonra, sohbet robotunuz (chatbot) için bir yönetici hesap adı, e-posta ve Şifre oluşturmanız gereken bir Get started with Open WebUI giriş penceresi açılacaktır; ardından Create Admin Account düğmesine basın:

Başarılı kaydın ardından, Gpt-oss-20b erişimine sahip ana Open WebUI arayüzü açılacaktır:

API Kullanarak gpt-oss-120b ile Sunucu Sipariş Etme¶

Bu yazılımı API kullanarak kurmak için bu talimatları izleyin.