https://www.knightli.com/es/tags/prueba-de-rendimiento/ Recent content in Prueba De Rendimiento on KnightLi Blog Hugo -- gohugo.io es Wed, 08 Apr 2026 18:42:00 +0800 https://www.knightli.com/es/2026/04/08/gemma4-on-raspberry-pi5-benchmark/ Wed, 08 Apr 2026 18:42:00 +0800 https://www.knightli.com/es/2026/04/08/gemma4-on-raspberry-pi5-benchmark/ <p>Un intento un poco extremo: ejecutar Gemma 4 en una <code>Raspberry Pi 5 (8GB RAM)</code>. El objetivo no fue una versión grande del modelo, sino el modelo más pequeño <code>E2B</code>.</p> <p>La conclusión primero: puede ejecutarse y es usable, pero encaja mejor en escenarios con poca interacción. No es ideal para una experiencia conversacional con alta exigencia de tiempo real.</p> <h2 id="entorno-de-prueba">Entorno de prueba </h2><ul> <li>Dispositivo: Raspberry Pi 5 (CPU de 4 núcleos, 8GB RAM)</li> <li>Sistema: Ubuntu Server (sin interfaz gráfica)</li> <li>Acceso: SSH</li> <li>Forma de ejecución del modelo: LM Studio CLI (solo modo línea de comandos)</li> <li>Modelo: Gemma 4 E2B (aprox. 4.5GB)</li> </ul> <h2 id="paso-1-instalar-e-iniciar-lm-studio-cli">Paso 1: instalar e iniciar LM Studio CLI </h2><p>Instala la versión CLI de LM Studio, inicia el servicio y consulta los comandos disponibles.</p> <p>Como es un entorno puro de línea de comandos, este método de despliegue solo por CLI encaja muy bien con Raspberry Pi.</p> <h2 id="paso-2-mover-el-almacenamiento-de-modelos-a-un-ssd">Paso 2: mover el almacenamiento de modelos a un SSD </h2><p>Para evitar lecturas y escrituras frecuentes en la tarjeta SD, moví el directorio de descarga de modelos a un SSD externo.</p> <p>La experiencia de conectar un SSD a Raspberry Pi 5 es claramente más práctica que en modelos anteriores. Para ejecutar modelos locales durante mucho tiempo, conviene priorizar SSD.</p> <h2 id="paso-3-descargar-y-cargar-gemma-4-e2b">Paso 3: descargar y cargar Gemma 4 E2B </h2><p>Después de la descarga, el modelo puede cargarse correctamente en memoria.</p> <p>Según la información oficial, la serie Gemma 4 cuenta con:</p> <ul> <li>Capacidad de tool calling orientada a escenarios Agent (function calling)</li> <li>Capacidades multimodales (incluyendo imagen/video; los modelos pequeños también tienen capacidades relacionadas con voz)</li> <li>Ventana de contexto <code>128K</code></li> <li>Licencia Apache 2.0 (usable comercialmente)</li> </ul> <p>Viendo las condiciones de hardware de Raspberry Pi, la variante E2B es la más adecuada para empezar a probar.</p> <h2 id="paso-4-iniciar-la-api-y-abrir-acceso-en-la-red-local">Paso 4: iniciar la API y abrir acceso en la red local </h2><p>Después de cargar el modelo, primero inicié la API en el puerto local (<code>4000</code>) y confirmé mediante una petición HTTP que la lista de modelos podía devolverse.</p> <p>El problema es que, por defecto, solo escucha en la propia máquina, así que otros dispositivos de la LAN no pueden acceder directamente.</p> <p>Como los parámetros de inicio no permitían configurar directamente el host, usé <code>socat</code> para hacer reenvío de puerto: las peticiones al puerto externo de la Raspberry Pi se puentean al puerto interno de LM Studio, permitiendo acceso por LAN.</p> <p>El resultado fue viable: desde un MacBook en la misma red local pude hacer la petición y obtener correctamente la lista de modelos.</p> <h2 id="paso-5-integración-con-editor-zed">Paso 5: integración con editor (Zed) </h2><p>El servicio local de LM Studio es compatible con la forma de la OpenAI API, por lo que la mayoría de herramientas que soportan <code>base_url</code> personalizado pueden conectarse directamente.</p> <p>En Zed añadí un nuevo LLM provider apuntando a la instancia de Gemma 4 en la Raspberry Pi, y después la prueba de chat dentro del editor funcionó.</p> <h2 id="juicio-de-usabilidad-real">Juicio de usabilidad real </h2><p>Esta solución encaja con:</p> <ul> <li>Scripts locales de automatización</li> <li>Tareas auxiliares de baja concurrencia y baja exigencia de tiempo real</li> <li>Aprendizaje personal y experimentos en dispositivos edge</li> </ul> <p>No encaja tanto con:</p> <ul> <li>Chat interactivo de alta frecuencia</li> <li>Escenarios de colaboración de desarrollo sensibles a la latencia</li> </ul> <h2 id="conclusión">Conclusión </h2><p>Ejecutar Gemma 4 (E2B) en <code>Raspberry Pi 5</code> es viable, y el resultado real fue mejor de lo esperado.</p> <p>Si tu objetivo es &ldquo;poder ejecutarlo offline, conectarlo a herramientas y completar tareas ligeras o medias&rdquo;, esta ruta merece probarse. Si el objetivo es interacción fluida en tiempo real, sigue siendo recomendable usar hardware más potente.</p>