Phi-4-14b¶

Bu makalede

• Phi-4-14b'nin Ana Özellikleri
• Çalıştırma Özellikleri
• Sistem Gereksinimleri ve Teknik Özellikler
• Phi-4-14b Dağıtıldıktan Sonra Başlarken
• API Kullanarak Phi-4-14b ile Sunucu Siparişi Verme

Phi-4-14b'nin Ana Özellikleri¶

• Güçlü Temel Mimarisi: model 14 milyar parametreye ve 16 bin token'lık bağlam penceresine sahip, bu da uzun metinlerin ve karmaşık görevlerin yüksek doğrulukla işlenmesine olanak tanır;

• Kolay Open Web UI Arayüzü: modern bir web arayüzü sağlar, modelle etkileşimde bulunmak için konuşma geçmişi, parametre ayarları ve tek arayüz içinde farklı modellerin yönetimi dahil;

• Gelişmiş RAG Yetenekleri: PDF, PPT, metin dosyaları gibi çeşitli biçimlerdeki belgeleri ve web kazıma özelliğine yerleşik destek sağlar, böylece model güncel bilgilerle çalışabilir ve kullanıcı verilerini işleyebilir;

• Çoklu Görev Yeteneği: diyalog yönetimi, sorulara cevap verme, veri analizi, metin oluşturma ve temel programlama gibi çeşitli görevleri etkili bir şekilde ele alır;

• Güvenlik ve Doğruluk: model, kullanıcı tercihlerini dikkate alan çok aşamalı eğitimden geçmiştir ve uzman denetimi altında yüksek doğruluklu yanıtlar sağlar, etik normlara uyum gösterir ve kullanıcı talimatlarına uyar;

• Açıklık ve Esneklik: Ollama'nın açık kaynak kodu sayesinde sistem belirli ihtiyaçlar için yapılandırılabilir ve değiştirilebilir, diğer araçlarla ve hizmetlerle entegrasyon dahil;

• Çeşitli Veri Türleriyle Destek: model metin verileri, kod, yapılandırılmış ve yarı-yapılandırılmış verilerle çalışabilir, bu da farklı alanlardaki uygulanabilirliğini genişletir.

• Kullanım Örnekleri:

  • Müşteri Desteği: kullanıcı sorularına yanıt otomasyonu;

  • Eğitim: eğitim materyallerinin oluşturulması, görev çözme yardımı;

  • Pazarlama: reklam metinlerinin oluşturulması, incelemelerin analizi;

  • Yazılım Geliştirme: kodun ve belgelerinin oluşturulması.

Çalıştırma Özellikleri¶

• Kurulum süresi, işletim sistemiyle birlikte 15-30 dakika;

• Ollama sunucusu LLM'yi bellekte yükler ve çalıştırır;

• Open WebUI, Ollama sunucusuna bağlı olarak web uygulaması olarak dağıtılır;

• Kullanıcılar, web arayüzü üzerinden LLM ile etkileşime girer, istek gönderir ve yanıtlar alır;

• Tüm hesaplamalar ve veri işlemleri sunucuda yerel olarak gerçekleştirilir. Yöneticiler OpenWebUI araçları kullanarak LLM'yi belirli görevler için yapılandırabilir.

Sistem Gereksinimleri ve Teknik Özellikler¶

• Grafik Hızlandırıcısı: NVIDIA A4000 (veya daha güçlü) veya en az 16 GB video belleği olan bir AMD eşdeğeri;

• Disk Alanı: sistem, sürücüler ve modelin kurulumu için yeterli olmalıdır;

• Sürücüler: NVIDIA sürücüleri ve GPU'nun doğru çalışması için CUDA;

• Video Belleği Kullanımı: 2K bağlamda 12 GB;

• Otomatik Yeniden Başlatma: başarısızlıklarda otomatik kapsül yeniden başlatma yapılandırılır;

• GPU Desteği: NVIDIA CUDA ile tam entegrasyon için maksimum performans.

Phi-4-14b Dağıtıldıktan Sonra Başlarken¶

Ödeme sonrasında, sunucunun kullanıma hazır olduğunu belirten bir sipariş bildirimi, kayıt sırasında belirtilen e-posta adresine gönderilecektir. Bu bildirimde VPS IP adresi ve sunucuya bağlanmak için gerekli olan oturum açma bilgileri (Şifre) ile OpenWebUI paneline erişim linki yer alacaktır. HOSTKEY Şirketinin müşterileri, sunucu yönetimi ve API kontrol panelinde - Invapi aracılığıyla ekipmanlarını yönetirler: https://invapi.hostkey.com/.

• Sunucunun İşletim Sistemi'ne Erişmek için Oturum Açma Verileri: (ör. SSH üzerinden) size gönderilen e-postada alacaksınız.

• Ollama Yönetim Paneline Erişim Linki ile Open WebUI Web Arayüzü: Invapi kontrol panelinde Info >> Tags sekmesindeki webpanel etiketinde yer alır. Sunucu teslim edildikten sonra e-posta yoluyla https://phi<Server_ID_from_Invapi>.hostkey.in formatında tam link gönderilecektir.

Etiket webpanel üzerinden bağlantıya tıkladıktan sonra Get started with Open WebUI oturum açma penceresi açılacak, burada chatbot'unuz için bir yönetici hesabı adı, e-posta ve şifre oluşturmanız gerekir, ardından Create Admin Account düğmesine tıklamanız gerekir:

API Kullanarak Phi-4-14b ile Sunucu Siparişi Verme¶

Bu yazılımı API kullanarak kurmak için bu talimatları izleyin.

Bu sayfanın bazı içeriği AI ile oluşturulmuş veya çevrilmiştir.