Phi-4-14b¶

Bu makalede

• Phi-4-14b'nin Ana Özellikleri
• Çalıştırma Özellikleri
• Sistem Gereksinimleri ve Teknik Özellikler
• Phi-4-14b Dağıtıldıktan Sonra Başlangıç
• API Kullanarak Phi-4-14b ile Bir Sunucu Siparişi

Phi-4-14b'nin Ana Özellikleri¶

• Güçlü Temel Mimari: model 14 milyar parametreye ve 16 bin token'lık bir bağlam penceresine sahiptir; bu da uzun metinleri ve karmaşık görevleri yüksek doğrulukla işlemesine olanak tanır;

• Kullanışlı Open Web UI Arayüzü: modelle etkileşim için sohbet geçmişi, parametre ayarları ve tek bir arayüzde farklı modellerin yönetimi dahil olmak üzere modern bir web arayüzü sağlar;

• Gelişmiş RAG Yetenekleri: çeşitli formatlardaki (PDF, PPT, metin dosyaları) belgelerde arama ve web kazıma için yerleşik destek sunar; bu da modelin güncel bilgilerle ve kullanıcı verileriyle çalışmasına olanak tanır;

• Çoklu Görev Yönetimi: model, diyalog yönetimi, soru yanıtlama, veri analizi, metin oluşturma ve temel programlama dahil olmak üzere çeşitli görevleri verimli bir şekilde yönetir;

• Güvenlik ve Doğruluk: model, uzman gözetiminde kullanıcı tercihlerini dikkate alarak çok aşamalı eğitimden geçmiştir; bu da yanıtların yüksek doğruluğunu, etik normlara uyumu ve kullanıcı talimatlarına bağlılığı sağlar;

• Açıklık ve Esneklik: Ollama'nın açık kaynak kodu sayesinde sistem, diğer araçlar ve hizmetlerle entegrasyon dahil olmak üzere belirli ihtiyaçlar için yapılandırılabilir ve değiştirilebilir;

• Çeşitli Veri Türleri Desteği: model, metin verileri, kod, yapılandırılmış ve yarı yapılandırılmış verilerle çalışabilir; bu da çeşitli alanlarda uygulanabilirliğini genişletir.

• Kullanım Örnekleri:

  • Müşteri Desteği: kullanıcı sorularına yanıtların otomasyonu;

  • Eğitim: eğitim materyallerinin oluşturulması, görevlerin çözülmesine yardımcı olma;

  • Pazarlama: reklam metinlerinin oluşturulması, incelemelerin analizi;

  • Yazılım Geliştirme: kodun oluşturulması ve dokümante edilmesi.

Çalıştırma Özellikleri¶

• Kurulum süresi işletim sistemi ile birlikte 15-30 dakikadır;

• Ollama sunucusu bellekte LLM'yi yükler ve çalıştırır;

• Open WebUI, Ollama sunucusuna bağlı bir web uygulaması olarak dağıtılır;

• Kullanıcılar, Open WebUI'nin web arayüzü aracılığıyla LLM ile etkileşime girer, istek gönderir ve yanıtlar alır;

• Tüm hesaplamalar ve veri işleme sunucuda yerel olarak gerçekleşir. Yöneticiler, OpenWebUI araçlarını kullanarak LLM'yi belirli görevler için yapılandırabilir.

Sistem Gereksinimleri ve Teknik Özellikler¶

• Grafik Hızlandırıcı: NVIDIA A4000 (veya daha güçlüsü) veya en az 16 GB video belleğe sahip AMD eşdeğeri;

• Disk Alanı: sistemi, sürücüleri ve modeli kurmak için yeterli olmalıdır;

• Sürücüler: doğru GPU çalışması için NVIDIA sürücüleri ve CUDA;

• Video Bellek Tüketimi: 2K token'lık bir bağlamda 12 GB;

• Otomatik Yeniden Başlatma: arızalar durumunda otomatik konteyner yeniden başlatması yapılandırılmıştır;

• GPU Desteği: maksimum performans için NVIDIA CUDA ile tam entegrasyon.

Phi-4-14b Dağıtıldıktan Sonra Başlangıç¶

Ödeme yapıldıktan sonra, kayıt sırasında belirtilen e-posta adresine sunucunun kullanıma hazır olduğunu belirten bir sipariş bildirimi gönderilecektir. Bu bildirimde VPS IP adresi, sunucuya bağlanmak için kullanıcı adı ve şifresi ile OpenWebUI paneline erişim bağlantısı yer alacaktır. Şirketimizin müşterileri ekipmanı sunucu yönetimi ve API kontrol panelinde — Invapi üzerinden yönetir.

• Sunucunun İşletim Sistemine Erişim İçin Giriş Verileri (örneğin SSH üzerinden) aldığınız e-postada size gönderilecektir.

• Open WebUI Web Arayüzüne Sahip Ollama Yönetim Paneline Erişim Bağlantısı: Invapi kontrol panelinin Configuration >> Tags sekmesindeki webpanel etiketinde. Sunucu teslimi sırasında e-posta ile https://phi<Invapi'den_Server_ID>.hostkey.in formatında tam bağlantı gönderilecektir.

webpanel etiketindeki bağlantıya tıkladıktan sonra, sohbet botunuz için bir yönetici hesap adı, e-posta ve şifre oluşturmanız gereken Get started with Open WebUI giriş penceresi açılır; ardından Create Admin Account düğmesine basın:

API Kullanarak Phi-4-14b ile Bir Sunucu Siparişi¶