Ana içeriğe geç

DeepSeek-R1:14B

Bu makalede

Bilgi

DeepSeek-R1:14b, Ollama çerçevesi aracılığıyla yerel çalıştırmalar için optimize edilmiş güçlü bir dil modelidir. Bu çözüm, modelin yüksek performansını Open Web UI aracılığıyla kullanım kolaylığı ile birleştirir. Model, verimli çalışmak için önemli miktarda hesaplama kaynağı gerektirir ancak veri ve istek işleme üzerinde tam kontrol sağlarken yüksek kaliteli metin üretimi sunar. Çalıştırma işlemi, modern NVIDIA veya Radeon grafik hızlandırıcıları kullanılarak Ubuntu 22.04 üzerinde gerçekleştirilir.

DeepSeek-R1:14B Temel Özellikleri

  • Yüksek Performans: 14 milyar parametreden oluşan mimarisi ile DeepSeek-R1:14B, metin verilerini hızlı bir şekilde işleyebilir ve üretebilir; bu da doğal dil işleme (NLP) ile ilgili görevlerin yüksek hızda yürütülmesini sağlar.
  • Çok Dilli Destek: Model birden fazla dilde metni anlayabilir ve üretebilir, bu da onu uluslararası projeler ve çok dilli uygulamalar için evrensel bir araç haline getirir.
  • Esnek Öğrenme: Few-shot ve zero-shot öğrenmeyi destekler; bu sayede minimum örnekle veya belirli veriler üzerinde ön eğitim olmaksızın bile görevleri çözebilir.
  • Geniş Görev Yelpazesi: Model metin üretimi, çeviri, veri analizi, kod yazımı, matematiksel problemlerin çözümü ve çok daha fazlası dahil olmak üzere çeşitli görevleri yerine getirebilir.
  • Uygulama Entegrasyonu: DeepSeek-R1:14B, API aracılığıyla farklı uygulamalara kolayca entegre edilebilir; bu da onu sohbet robotları, sanal asistanlar, otomasyon sistemleri ve analitik araçlarda kullanım için uygun kılar.
  • Uyarlanabilirlik ve İnce Ayar: Model; tıp, finans, hukuk veya BT gibi belirli görevler veya alanlar için ince ayardan (fine-tuning) geçirilerek özel ihtiyaçları karşılamak üzere özelleştirilebilir.
  • Etik ve Güvenlik: DeepSeek-R1:14B, toksik içerik filtreleme ve yanıtlardaki yanlılığı en aza indirme dahil olmak üzere modern etik ve güvenlik standartları göz önünde bulundurularak geliştirilmiştir.
  • Enerji Verimliliği: Daha büyük modellerle karşılaştırıldığında, DeepSeek-R1:14B daha düşük kaynak maliyetleriyle yüksek performans sağlar ve bu da onu ticari kullanım için ekonomik hale getirir.
  • Veri Tipi Desteği: Model metin verileri, kod, yapılandırılmış ve yarı yapılandırılmış verilerle çalışabilir; bu da çeşitli alanlardaki uygulanabilirliğini genişletir.

  • Kullanım Örnekleri:

  • Müşteri Desteği: Kullanıcı sorgularına verilen yanıtların otomatize edilmesi.

  • Eğitim: Eğitim materyalleri oluşturma, görevlerin çözümüne yardımcı olma.
  • Pazarlama: Reklam metinleri oluşturma, incelemeleri analiz etme.
  • Yazılım Geliştirme: Kod oluşturma ve dokümante etme.

Çalıştırma Özellikleri

ID Yazılım Adı Uyumlu OS VM BM VGPU GPU Min CPU (Çekirdekler) Min RAM (GB) Min HDD/SSD (GB) Özel Alan Adı Aktif
247 DeepSeek-r1-14b Ubuntu 22.04 - - + + 4 16 - Hayır SİPARİŞ VER
  • Ollama sunucusu LLM'yi belleğe yükler ve çalıştırır;
  • Open WebUI, Ollama sunucusuna bağlı bir web uygulaması olarak dağıtılır;
  • Kullanıcılar, istek gönderip yanıt alarak Open WebUI web arayüzü üzerinden LLM ile etkileşime girer;
  • Tüm hesaplamalar ve veri işleme işlemleri yerel olarak sunucuda gerçekleşir. Yöneticiler, OpenWebUI araçları aracılığıyla LLM'yi belirli görevler için yapılandırabilir.

Sistem Gereksinimleri ve Teknik Özellikler

  • İşletim Sistemi: Ubuntu 22.04;
  • RAM: En az 16 GB;
  • Grafik Hızlandırıcı: 16 GB video belleğine sahip NVIDIA A4000 veya daha iyisi;
  • Disk Alanı: Sistem, sürücüler ve modelin kurulumu için yeterli alan;
  • Sürücüler: Uygun GPU çalışması için NVIDIA sürücüleri ve CUDA;
  • Video Belleği Tüketimi: 2K token bağlamında (context) 12 GB;
  • Otomatik Yeniden Başlatma: Hata durumlarında otomatik konteyner yeniden başlatma ayarlanmıştır;
  • GPU Desteği: Maksimum performans için NVIDIA CUDA ile tam entegrasyon.

DeepSeek-R1:14B Çalıştırıldıktan Sonra Başlangıç

Ödeme yapıldıktan sonra, kayıt sırasında belirtilen adrese sunucunun hazır olduğunu bildiren bir e-posta gönderilecektir. Bu e-posta; VPS IP adresinin yanı sıra sunucuya erişim için giriş ve Şifre bilgilerini ve OpenWebUI kontrol paneline erişim için bir bağlantı içerecektir. Şirketimizin müşterileri ekipmanları server management panel and API — Invapi üzerinden yönetirler.

  • Sunucunun İşletim Sistemine Erişim İçin Giriş Bilgileri (örneğin SSH üzerinden), e-posta ile size gönderilecektir.

  • Open WebUI Web Arayüzü ile Ollama Kontrol Paneline Erişim Bağlantısı: Invapi kontrol panelindeki Info >> Tags sekmesi altındaki webpanel etiketinde yer alır. Sunucu teslim edildiğinde, https://deepseek<Server_ID_from_Invapi>.hostkey.in formatındaki tam bağlantı e-posta ile gönderilecektir.

webpanel etiketindeki bağlantıya tıkladıktan sonra, sohbet robotunuz için bir yönetici hesap adı, e-posta ve Şifre oluşturmanız gereken bir Get started with Open WebUI giriş penceresi açılacaktır; ardından Create Admin Account düğmesine basın:

Dikkat

İlk kullanıcı kaydedildikten sonra, sistem bu kullanıcıya otomatik olarak yönetici rolü atar. Kayıt süreci üzerinde güvenlik ve kontrol sağlamak için, sonraki tüm kayıt isteklerinin OpenWebUI üzerinden yönetici hesabı tarafından onaylanması gerekir.

Not

Open WebUI ile Ollama kontrol paneliyle çalışma özelliklerine ilişkin ayrıntılı bilgiye AI Chatbot on Your Own Server makalesinde ulaşılabilir.

Not

Optimal performans için, 16 GB video belleği olan minimum gereksinimin üzerinde bir GPU kullanılması önerilir. Bu, daha büyük bağlamların ve paralel isteklerin işlenmesi için gereken payı sağlar. Ana Ollama ayarları ve Open WebUI hakkında ayrıntılı bilgiye Ollama'nın geliştirici dokümantasyonunda ve Open WebUI'ın geliştirici dokümantasyonunda ulaşılabilir.

API ile DeepSeek-R1:14B Destekli Sunucu Siparişi Vermek

Bu yazılımı API kullanarak kurmak için bu talimatları izleyin.