DeepSeek-R1:70B¶

Bu makalede

• DeepSeek-R1:70B'nin Ana Özellikleri
• Çalıştırma Özellikleri
• Sistem Gereksinimleri ve Teknik Özellikler
• DeepSeek-R1:70B Dağıtıldıktan Sonra Başlangıç
• API Aracılığıyla DeepSeek-R1:70B ile Sunucu Siparişi

DeepSeek-R1:70B'nin Ana Özellikleri¶

• Yüksek Performans: 70 milyar parametreli devasa mimarisi sayesinde DeepSeek-R1:70B, doğal dil üretimi ve anlama konusunda olağanüstü sonuçlar gösterir; karmaşık senaryolarda bile yanıtların doğruluğunu ve derinliğini sağlar;
• Çok Dilli Destek: Model, kapsamlı çok dilli korpuslar üzerinde eğitilmiştir ve Rusça, İngilizce, Çince, İspanyolca, Fransızca ve birçok diğer dil dahil olmak üzere onlarca dille güvenle çalışabilir;
• Gelişmiş Çıkarım Modları: zero-shot (sıfır atış), few-shot (az atış) ve chain-of-thought (düşünce zinciri) akıl yürütmeyi destekler; bu sayede ek eğitim ihtiyacı olmadan karmaşık mantıksal, analitik ve yaratıcı görevleri çözebilir;
• Çok Yönlü Uygulama: DeepSeek-R1:70B, sanatsal ve teknik metin oluşturmaktan kod yazma ve hata ayıklamaya, matematiksel problemleri çözmeye ve yapılandırılmış verileri analiz etmeye kadar geniş bir yelpazede görevi verimli bir şekilde yönetir;
• Derin Entegrasyon: Model, REST API aracılığıyla harici sistemlere kolayca bağlanabilir veya sohbet botlarına, analitik platformlara, IDE'lere ve kurumsal uygulamalara gömülebilir;
• İnce Ayar ve Uyarlanabilirlik Yetenekleri: Tıbbi, finansal, hukuki, mühendislik ve bilimsel araştırma gibi özel alanlar için ince ayar ve LoRA uyarlamasını destekler;
• Etik ve Güvenilir: Zehirli, zararlı veya önyargılı içerikleri filtrelemek için yerleşik mekanizmalar içerir ve sorumlu yapay zeka standartlarıyla uyumludur;
• Yerel Kullanım İçin Optimize Edilmiş: Ölçeğine rağmen DeepSeek-R1:70B, nicelleme (örneğin 4 bit'e kadar) destekler; bu sayede GPU belleği sınırlı olan sunucularda kritik kalite kaybı olmadan çalışabilir;

• Heterojen Veri İşleme: Model yalnızca standart metinleri değil, aynı zamanda programlama kodlarını, tabloları, JSON, XML ve diğer formatları da verimli bir şekilde işler; bu onu veri bilimi ve otomasyon alanında değerli bir araç haline getirir;

• Kullanım Örnekleri:

• Akıllı Müşteri Desteği: Gerçek zamanlı olarak kişiselleştirilmiş, bağlama dayalı yanıtlar oluşturma;
• Eğitim ve Bilim: Karmaşık problemleri çözme, kavramları açıklama, eğitim materyalleri oluşturma konusunda yardımcı olma;
• İçerik ve Pazarlama: Yaratıcı metinler oluşturma, ton analizi yapma, kampanya fikirleri üretme;
• Yazılım Mühendisliği: Kod tamamlama, yeniden yapılandırma, dokümantasyon, birim testleri oluşturma.

Çalıştırma Özellikleri¶

• Kurulum süresi işletim sistemi ile birlikte 30-40 dakikadır;
• Ollama sunucusu LLM'yi belleğe yükler ve çalıştırır;
• Open WebUI, Ollama sunucusuna bağlı bir web uygulaması olarak dağıtılır;
• Kullanıcılar, Open WebUI web arayüzü aracılığıyla LLM ile etkileşime girer, istek gönderir ve yanıtlar alır;
• Tüm hesaplamalar ve veri işlemleri sunucuda yerel olarak gerçekleşir. Yöneticiler, OpenWebUI araçları aracılığıyla LLM'yi belirli görevler için yapılandırabilir.

Sistem Gereksinimleri ve Teknik Özellikler¶

• İşletim Sistemi: Ubuntu 22.04;
• RAM: minimum 128 GB RAM;
• Grafik Hızlandırıcı: 32 GB video bellekli 2x5090 (toplam 64 Gb) veya diğer yapılandırmalar. A100/H100/RTX 6000 PRO kullanılması önerilir;
• Disk Alanı: Sistem, sürücüler ve modelin kurulması için yeterli olmalıdır;
• Sürücüler: GPU'nun düzgün çalışması için NVIDIA sürücüleri ve CUDA;
• Video Bellek Tüketimi: 2K token bağlamında 48 GB;
• Otomatik Yeniden Başlatma: Arızalar durumunda otomatik konteyner yeniden başlatması yapılandırılmıştır;
• GPU Desteği: Maksimum performans için NVIDIA CUDA ile tam entegrasyon.

DeepSeek-R1:70B Dağıtıldıktan Sonra Başlangıç¶

Ödeme yapıldıktan sonra, kayıt sırasında belirtilen adrese sunucunun hazır olduğunu bildiren bir e-posta gönderilecektir. Bu e-postada VPS IP adresi, sunucuya erişim için giriş ve şifre bilgileri ile OpenWebUI kontrol paneline erişim bağlantısı yer alacaktır. Şirketimizin müşterileri ekipmanı sunucu yönetim paneli ve API — Invapi üzerinden yönetir.

• Sunucunun İşletim Sistemine Erişim İçin Giriş Verileri (örneğin SSH üzerinden) size e-posta ile gönderilecektir.

• Open WebUI Web Arayüzüne Sahip Ollama Kontrol Paneline Erişim Bağlantısı: Invapi kontrol panelinin Info >> Tags sekmesi altındaki webpanel etiketinde. Sunucu teslim edildiğinde https://deepseek<Invapi'den_Server_ID>.hostkey.in formatındaki tam bağlantı e-posta ile gönderilecektir.

Etiket webpanel bağlantısına tıkladıktan sonra, sohbet botunuz için bir yönetici hesap adı, e-posta ve şifre oluşturmanız gereken Get started with Open WebUI giriş penceresi açılacaktır; ardından Create Admin Account düğmesine basın:

API Aracılığıyla DeepSeek-R1:70B ile Sunucu Siparişi¶