Skip to content

Phi-4-14b

Bu makalede

Bilgi

Phi4-14b, Ollama platformu aracılığıyla yerel kullanım için uyarlanmış modern bir dil modelidir. Bu çözüm, Phi-4 modelinin gücünü Open Web UI'nin kolay kullanım arayüzüyle birleştirir. Sistem Ubuntu 22.04'te çalışır ve verimli çalışmak için modern bir grafik hızlandırıcısı gerektirir. Ollama ve Open Web UI'nin birleşimi, yapay zekâ ile çalışma konusunda tam kontrol sağlayarak kapsamlı yerel bir çözüm sunar, veri ve talep işlemeyi tamamen kontrol eder.

Phi-4-14b'nin Temel Özellikleri

  • Güçlü temel mimari: Model 14 milyar parametreye ve 16 bin token bağlam penceresine sahiptir, bu da uzun metinleri ve karmaşık görevleri yüksek doğrulukla işleyebilmesini sağlar.
  • Kolay Kullanım Sağlayan Open Web UI Arayüzü: Modele etkileşim kurmak için modern bir web arayüzü sunar; sohbet geçmişi, parametre ayarları ve tek bir arayüzdaki birden fazla model yönetimi bulunur.
  • Gelişmiş RAG Kapasiteleri: Farklı formatlardaki belgeler (PDF, PPT, metin dosyaları) ararken ve web kazıma yaparken entegre destek; model güncel bilgileri ve kullanıcı verileriyle çalışabilmesini sağlar.
  • Çoklu Görev İlerleme: Model, diyaloglar yürütmek, sorular cevaplamak, verileri analiz etmek, metin oluşturmak ve temel programlama gibi çeşitli görevleri etkili bir şekilde ele alır.
  • Güvenlik ve Doğruluk: Kullanıcı tercihlerini göz önünde bulunduran ve uzman gözetimi altında çok aşamalı olarak eğitilen model, yanıtların yüksek doğruluğuna, etik standartlara uyumuna ve kullanıcı talimatlarına uygunluğuna sağlar.
  • Açıklık ve Esneklik: Ollama'nın açık kaynak kodlu olması sayesinde sistem, diğer araçlar ve hizmetlerle entegre edilmek gibi belirli ihtiyaçlar için yapılandırılabilir ve değiştirilebilir.
  • Farklı Veri Türlerine Destek: Model metinsel veriler, kod, yapılandırılmış ve yarı yapılandırılmış verilerle çalışabilir, bu da çeşitli alanlarda uygulamaları genişletir.

Kullanım Alanları:

  • Müşteri Desteği: Kullanıcı sorularına otomatik yanıtlar oluşturun;
  • Eğitim: Eğitici materyaller oluşturun, sorunlara yardımcı olun;
  • Pazarlama: Promosyon metni oluşturun, incelemeleri analiz edin;
  • Yazılım Geliştirme: Kod ve dokümantasyon yazma.

Çalıştırma Özellikleri

ID Uyumlu OS VM BM VGPU GPU Min CPU (Çekirdekler) Min RAM (GB) Min HDD/SSD (GB) Aktif
256 Ubuntu 22.04 - - + + 4 16 - Evet
  • Kurulum Süresi: OS dahil 15-30 dakika;
  • Ollama sunucusu: LLM'yi bellekte indirir ve çalıştırır;
  • Açık WebUI: Ollama sunucusuna bağlı olarak bir web uygulaması olarak dağıtılır;
  • Kullanıcılar: Açık WebUI web arayüzü aracılığıyla LLM ile etkileşime geçer, talep gönderir ve cevaplar alır;
  • Tüm hesaplama ve veri işleme: Sunucuda yerel olarak gerçekleştirilir. Yöneticiler OpenWebUI araçları aracılığıyla LLM'yi belirli görevler için yapılandırabilir.

Sistem Gereksinimleri ve Teknik Özellikler

  • GPU'lar: NVIDIA A4000 (ve daha güçlü) veya en az 16 GB video belleğine sahip AMD benzeri;
  • Disk Alanı: Sistem kurulumu, sürücüler ve model için yeterli alan;
  • Sürücüler: Uygun GPU işlemi için NVIDIA sürücüleri ve CUDA;
  • Video Belleği Tüketimi: 2K token bağlamıyla 12 GB;
  • Otomatik Yeniden Başlatma: Arızalar için otomatik konteyner yeniden başlatması yapılandırılmıştır;
  • GPU Desteği: Maksimum performans için NVIDIA CUDA ile tam entegrasyon.

Kişiselleştirilmiş Phi-4-14B Sisteminizi Kullanmaya Başlayın

Siparişinizin tamamlanması ve ödeme işleminin gerçekleştirilmesinden sonra, kayıt sırasında verdiğiniz e-posta adresine gönderilen bir bildirimle sunucunun çalışmaya hazır olduğu teyit edilecektir. Bu iletişimde, bağlantı amaçları için gereken VPS IP adresi ve oturum açma bilgileri yer alır. Şirketimizin ekip yönetim ekibi sunucular ve API'ler için kontrol panelini kullanmaktadır - özellikle de Invapi.

webpanel etiketi bağlantısına tıkladığınızda, bir oturum açma penceresi belirir.

Ollama'nın Open WebUI web arayüzüne giriş için erişim bilgileri şunlardır:

  • Open WebUI ve web arayüzü ile yönetim paneline erişim URL: webpanel etiketi üzerinden. Invapi'den gelen Server_ID formatına göre https://phi<Server_ID_from_Invapi>.hostkey.in adresinde olduğu gibi teyit e-postanızda belirtilmiştir.

Bu bağlantıya tıkladıktan sonra, Open WebUI'de kullanıcı adı (kimlik) ve Şifre oluşturmanız gerekir.

Dikkat

Birinci kullanıcının kaydı sırasında sistem otomatik olarak onlara yönetici rolü atar. Sistem güvenliği ve kayıt süreci kontrolünü sağlamak için, diğer kullanıcıların sisteme katılımı tüm kullanıcılara ait yönetici hesaplarından onaylanmalıdır.

Not

Ollama kontrol paneli ile Open WebUI'nin nasıl kullanılacağı konusunda daha detaylı bilgi Kendi sunucunuza AI chatbot makalesinde bulunabilir.

API kullanarak Phi-4-14b ile sunucu siparişi

Bu yazılımı API kullanarak yüklemek için, bu talimatları izleyin.

Bu sayfanın bazı içerikleri ya da yazıları AI tarafından oluşturulmuş veya çevrilmiş olabilir.