Gemma-4-26B¶

En este artículo

• Características clave
• Funcionalidades de despliegue
• Primeros pasos tras el despliegue de Gemma-4-26B
• Pedir un servidor con Gemma-4-26B mediante la API

Características clave¶

• Arquitectura Mixture of Experts (MoE): El modelo contiene 25,2B de parámetros activos de un total de 26B, activando solo ~3,8B de parámetros por token; esto proporciona la velocidad de un modelo denso de 4B con el nivel de inteligencia de un modelo de 26B;
• Multimodalidad: Soporte nativo para procesar entrada de texto e imagen con generación de salida de texto;
• Ventana de contexto masiva: El soporte para hasta 256K tokens permite trabajar con documentos largos, bases de código extensas y diálogos complejos;
• Modo Thinking (Pensamiento): Un modo de razonamiento personalizable para resolver tareas lógicas y analíticas complejas;
• Capacidades agénticas: Soporte nativo para la llamada a funciones (function calling) y salida estructurada para la integración con herramientas externas y APIs;
• Flexibilidad de despliegue: La versión completa requiere ~80GB de VRAM, pero la cuantización Q4 permite ejecutar el modelo en una GPU de 24GB, mientras que las builds optimizadas pueden ejecutarse con 16GB de VRAM;
• Integración con Open WebUI: Una interfaz web moderna para la interacción a través del puerto 8080 con control total sobre los datos y el procesamiento de solicitudes;
• Escalabilidad: Soporte para configuraciones multi-GPU y equilibrado de carga entre varias GPUs;
• Seguridad y control: El despliegue local garantiza la privacidad de los datos; los ajustes OLLAMA_HOST y OLLAMA_ORIGINS garantizan la seguridad de la red;
• Rendimiento: Utilización de LLAMA_FLASH_ATTENTION y una arquitectura MoE eficiente para acelerar el procesamiento de solicitudes;
• Tolerancia a fallos: Sistema de reinicio automático integrado para contenedores y servicios para garantizar un funcionamiento estable.

Funcionalidades de despliegue¶

Primeros pasos tras el despliegue de Gemma-4-26B¶

Una vez completado el pago, se enviará una notificación a la dirección de correo electrónico proporcionada durante el registro cuando el servidor esté listo para operar. Esta notificación incluirá la dirección IP del VPS, el login y la contraseña para la conexión al servidor, y un enlace para acceder al panel Open WebUI. Los clientes pueden gestionar su hardware en el Server Control Panel y la API — Invapi.

• Las credenciales de autorización para acceder al sistema operativo del servidor (por ejemplo, vía SSH) se le enviarán por correo electrónico.

• Enlace para acceder al panel de control de Ollama con la interfaz web Open WebUI: ubicado bajo la etiqueta webpanel en la sección Configuración >> Tags del panel de control Invapi. El enlace exacto, con el formato https://gemma26b<Server_ID_from_Invapi>.hostkey.com, se envía en el correo electrónico entregado tras la entrega del servidor.

Tras hacer clic en el enlace de la etiqueta webpanel, se abrirá la ventana de autorización Get started with Open WebUI, donde deberá crear un nombre de usuario de administrador, correo electrónico y contraseña para el chatbot, y luego hacer clic en el botón Create Admin Account:

Pedir un servidor con Gemma-4-26B mediante la API¶

Para instalar este software utilizando la API, siga estas instrucciones.