DeepSeek-R1:14B¶

Dans cet article

• Fonctionnalités principales de DeepSeek-R1:14B
• Fonctionnalités de déploiement
• Configuration système et spécifications techniques
• Prise en main après le déploiement de DeepSeek-R1:14B
• Commande d'un serveur avec DeepSeek-R1:14B via l'API

Fonctionnalités principales de DeepSeek-R1:14B¶

• Hautes performances : Avec une architecture composée de 14 milliards de paramètres, DeepSeek-R1:14B peut traiter et générer rapidement des données textuelles, assurant une exécution rapide des tâches liées au traitement du langage naturel (NLP).
• Support multilingue : Le modèle peut comprendre et générer du texte dans plusieurs langues, ce qui en fait un outil universel pour les projets internationaux et les applications multilingues.
• Apprentissage flexible : Prend en charge l'apprentissage peu supervisé (few-shot) et sans exemple (zero-shot), permettant de résoudre des tâches même avec un minimum d'exemples ou sans formation préalable sur des données spécifiques.
• Large éventail de tâches : Le modèle peut effectuer diverses tâches, notamment la génération de texte, la traduction, l'analyse de données, l'écriture de code, la résolution de problèmes mathématiques et bien plus encore.
• Intégration d'applications : DeepSeek-R1:14B peut être facilement intégré dans différentes applications via l'API, ce qui le rend pratique pour une utilisation dans les chatbots, assistants virtuels, systèmes d'automatisation et outils analytiques.
• Adaptabilité et ajustement fin : Le modèle peut être ajusté finement pour des tâches ou des domaines spécifiques tels que la médecine, la finance, le droit ou l'informatique, permettant une personnalisation pour répondre à des besoins spécifiques.
• Éthique et sécurité : DeepSeek-R1:14B est développé en tenant compte des normes modernes d'éthique et de sécurité, y compris le filtrage du contenu toxique et la minimisation des biais dans les réponses.
• Efficacité énergétique : Par rapport aux modèles plus volumineux, DeepSeek-R1:14B offre de hautes performances à un coût en ressources plus faible, ce qui le rend économiquement viable pour une utilisation commerciale.
• Support des types de données : Le modèle peut fonctionner avec des données textuelles, du code, des données structurées et semi-structurées, élargissant son applicabilité dans divers domaines.

• Exemples d'utilisation :

• Support client : Automatisation des réponses aux requêtes des utilisateurs.

• Éducation : Création de matériel pédagogique, assistance dans la résolution de tâches.
• Marketing : Génération de textes publicitaires, analyse des avis.
• Développement logiciel : Création et documentation de code.

Fonctionnalités de déploiement¶

• Le temps d'installation est de 15 à 30 minutes avec le système d'exploitation ;

• Le serveur Ollama charge et exécute le LLM en mémoire ;

• Open WebUI est déployé en tant qu'application web connectée au serveur Ollama ;
• Les utilisateurs interagissent avec le LLM via l'interface web Open WebUI, en envoyant des requêtes et en recevant des réponses ;
• Tous les calculs et le traitement des données se produisent localement sur le serveur. Les administrateurs peuvent configurer le LLM pour des tâches spécifiques via les outils OpenWebUI.

Configuration système et spécifications techniques¶

• Système d'exploitation : Ubuntu 22.04 ;
• RAM : Au moins 16 Go ;
• Accélérateur graphique : NVIDIA A4000 ou supérieur avec 16 Go de mémoire vidéo ;
• Espace disque : Suffisant pour l'installation du système, des pilotes et du modèle ;
• Pilotes : Pilotes NVIDIA et CUDA pour un fonctionnement correct du GPU ;
• Consommation de mémoire vidéo : 12 Go pour un contexte de 2K tokens ;
• Redémarrage automatique : Le redémarrage automatique du conteneur est configuré en cas de défaillance ;
• Support GPU : Intégration complète avec NVIDIA CUDA pour des performances maximales.

Prise en main après le déploiement de DeepSeek-R1:14B¶

Après le paiement, un e-mail sera envoyé à l'adresse spécifiée lors de l'inscription pour vous informer que le serveur est prêt. Il contiendra l'adresse IP du VPS, ainsi que les identifiants et le mot de passe pour accéder au serveur et un lien pour accéder au panneau de contrôle OpenWebUI. Les clients de notre entreprise gèrent les équipements via le panneau de gestion des serveurs et l'API — Invapi.

• Données d'identification pour accéder au système d'exploitation du serveur (par exemple, via SSH) vous seront envoyées par e-mail.

• Lien pour accéder au panneau de contrôle Ollama avec l'interface web Open WebUI : Dans la balise webpanel sous l'onglet Info >> Tags du panneau de contrôle Invapi. Le lien exact au format https://deepseek<Server_ID_from_Invapi>.hostkey.in sera envoyé par e-mail lors de la livraison du serveur.

Après avoir cliqué sur le lien de la balise webpanel, une fenêtre de connexion Get started with Open WebUI s'ouvrira, où vous devrez créer un nom de compte administrateur, un e-mail et un mot de passe pour votre chatbot, puis appuyer sur le bouton Create Admin Account :

Commande d'un serveur avec DeepSeek-R1:14B via l'API¶