Phi-4-14b¶

Bu makalede

• Phi-4-14b Temel Özellikleri
• Çalıştırma Özellikleri
• Sistem Gereksinimleri ve Teknik Özellikler
• Phi-4-14b Kurulumundan Sonra Başlangıç
• API Kullanarak Phi-4-14b ile Sunucu Sipariş Etme

Phi-4-14b Temel Özellikleri¶

• Güçlü Temel Mimari: Model, 14 milyar parametreye ve 16 bin tokenlık bir bağlam penceresine sahiptir; bu da uzun metinleri ve karmaşık görevleri yüksek doğrulukla işlemesine olanak tanır;

• Kolay Open Web UI Arayüzü: Sohbet geçmişi, parametre ayarları ve farklı modellerin tek bir arayüzden yönetimi dahil olmak üzere modelle etkileşim kurmak için modern bir web arayüzü sağlar;

• Gelişmiş RAG Yetenekleri: Çeşitli formatlardaki (PDF, PPT, metin dosyaları) belgelerde arama yapma ve web kazıma (web scraping) için yerleşik destek sunarak modelin güncel bilgilerle ve kullanıcı verileriyle çalışmasına olanak tanır;

• Çoklu Görev (Multitasking): Model; diyalog yönetimi, soru yanıtlama, veri analizi, metin oluşturma ve temel programlama dahil olmak üzere çeşitli görevleri verimli bir şekilde yürütür;

• Güvenlik ve Doğruluk: Model, uzman denetimi altında kullanıcı tercihlerini göz önünde bulundurarak çok aşamalı bir eğitimden geçmiştir; bu da yanıtların yüksek doğrulukta olmasını, etik normlara uyulmasını ve kullanıcı talimatlarının takip edilmesini sağlar;

• Açıklık ve Esneklik: Ollama'nın açık kaynaklı kodu sayesinde sistem; diğer araçlar ve hizmetlerle entegrasyon dahil olmak üzere belirli ihtiyaçlar için yapılandırılabilir ve değiştirilebilir;

• Çeşitli Veri Türleri İçin Destek: Model metin verileri, kod, yapılandırılmış ve yarı yapılandırılmış verilerle çalışabilir özelliktedir, bu da çeşitli alanlardaki uygulanabilirliğini genişletir.

• Kullanım Örnekleri:

  • Müşteri Desteği: Kullanıcı sorularına verilen yanıtların otomasyonu;

  • Eğitim: Eğitim materyallerinin oluşturulması, görevlerin çözümüne yardımcı olunması;

  • Pazarlama: Reklam metinlerinin üretilmesi, incelemelerin analizi;

  • Yazılım Geliştirme: Kod oluşturma ve dokümantasyon.

Çalıştırma Özellikleri¶

• Ollama sunucusu LLM'i belleğe yükler ve çalıştırır;
• Open WebUI, Ollama sunucusuna bağlı bir web uygulaması olarak kurulur;
• Kullanıcılar, istek gönderip yanıt alarak Open WebUI web arayüzü üzerinden LLM ile etkileşime girer;
• Tüm hesaplamalar ve veri işleme işlemleri yerel olarak sunucuda gerçekleşir. Yöneticiler, OpenWebUI araçları aracılığıyla LLM'i belirli görevler için yapılandırabilir.

Sistem Gereksinimleri ve Teknik Özellikler¶

• Grafik Hızlandırıcı: NVIDIA A4000 (veya daha güçlüsü) veya en az 16 GB video belleğine sahip bir AMD eşdeğeri;

• Disk Alanı: Sistemin, sürücülerin ve modelin kurulması için yeterli alan;

• Sürücüler: Doğru GPU çalışması için NVIDIA sürücüleri ve CUDA;

• Video Belleği Tüketimi: 2K token bağlamında 12 GB;

• Otomatik Yeniden Başlatma: Hata durumlarında otomatik konteyner yeniden başlatma yapılandırılmıştır;

• GPU Desteği: Maksimum performans için NVIDIA CUDA ile tam entegrasyon.

Phi-4-14b Kurulumundan Sonra Başlangıç¶

Ödeme yapıldıktan sonra, sunucunun kullanıma hazır olduğunu belirten ve kayıt sırasında belirtilen e-posta adresine bir sipariş bildirimi gönderilecektir. Bu bildirim; VPS IP adresinin yanı sıra sunucuya bağlanmak için kullanıcı adı ve Şifre ile OpenWebUI paneline erişim bağlantısını içerecektir. Şirketimizin müşterileri, ekipmanlarını in the server management and API control panel — Invapi üzerinden yönetirler.

• Sunucunun İşletim Sistemine Erişim İçin Giriş Bilgileri (örneğin SSH üzerinden), size alınan e-posta ile gönderilecektir.

• Open WebUI Web Arayüzü ile Ollama Yönetim Paneline Erişim Bağlantısı: Invapi kontrol panelindeki Configuration* >> **Tags sekmesinde, webpanel etiketinin içindedir. Sunucu teslimatında e-posta ile https://phi<Server_ID_from_Invapi>.hostkey.in formatında tam bağlantı gönderilecektir.

webpanel etiketindeki bağlantıya tıkladıktan sonra, chatbot'unuz için bir yönetici hesap adı, e-posta ve Şifre oluşturmanız gereken bir Get started with Open WebUI giriş penceresi açılacaktır; ardından Create Admin Account düğmesine basın:

API Kullanarak Phi-4-14b ile Sunucu Sipariş Etme¶

Bu yazılımı API kullanarak kurmak için bu talimatları izleyin.