Pruebas en I5-8va 16 gb de ram

Tenemos pendiente un experimento local usando llm locales, con intel en esta arquitectura. Como los clientes no tienen Linux por lo general, creo que lo mas sensato es usar pruebas de Windows solamente, aunque la pruebas de Linux Si las hice  en AMD. La conclusión fue que solo el modelo gemma 3b puede ser util para varias cosas pero no programación y que un modelo local como qwen30bcoder necesita 32 gb por lo menos.

Voy a mencionar varias premisas desordenadas de como llegamos aquí

• Mis clientes usan Windows o Linux. Por eso no uso MAC. Necesito estar en el mismo ecosistema. Y eso lo hago desde 1991.

• Tengo 54 años y 31 de experiencia programando. Tengo ingresos estables por clientes fijos (superior a 4 salarios mínimos) que no depende de IA. Esto me permite investigar IA sin presión financiera, pero no como hobby sino como una evaluación estratégica de las limitaciones y oportunidades del entorno LATAM. Mi enfoque es pragmático: no busco IA por moda, sino entender qué funciona, qué no, y qué hardware/software es viable en México. El riesgo es caer en la inacción por ‘esperar a que un proyecto lo pida’, por lo que debo establecer objetivos concretos y tiempo dedicado para avanzar.

• Qwen 3 Coder 30B es notablemente mejor para programación.

  • Qwen 3 Coder 30B reporta ~50.3% en SWE-Bench Verified (la prueba estándar de resolución de bugs en repositorios reales) 

  • Gemma 9B no está diseñado como modelo especializado en código y sus benchmarks de programación son significativamente inferiores  (en pruebas de generación de tests, por ejemplo, Gemma 9B muestra 7.5% All@1 vs modelos más grandes)

  El punto clave: Gemma 9B es un modelo generalista, mientras que Qwen 3 Coder 30B está específicamente optimizado para agentic coding, browser-use y repository-scale understanding

• Los modelos Gemma 9B (densos, generalistas) son decentes en tareas de uso general, pero en programación se quedan cortos frente a Qwen 3 Coder 30B (MoE especializado en código), a pesar de que el Qwen 30B solo requiere ~2-3x más recursos de cómputo. Para proyectos de desarrollo en México, donde el hardware local puede ser limitado, conviene evaluar si el salto en calidad de código justifica el mayor consumo de RAM.
• Aunque Windows 11 ya domina el mercado (72%) por el fin del soporte de Windows 10 y la venta de nuevos equipos, la migración ha sido forzada, no voluntaria. El sistema sigue siendo pesado para hardware antiguo (especialmente con 8GB RAM), y funciones como Recall y la telemetría generan desconfianza. Esto crea una oportunidad para alternativas ligeras, Linux o equipos con mayor RAM, especialmente en mercados sensibles al costo como México, donde renovar comprar equipo nuevo no es una opción para muchos. Ejemplo, hace 10 años el dinero valía mas, pero entonces compraba para mi sin problemas una PC de 30 mil pesos, y en el momento actual sería una mala inversión aunque puedo hacerlo.
• Un conocido, programador, estaba pensando actualizar una laptop de 10 años (2016) con SSD y RAM no es rentable: el hardware es obsoleto y las piezas (DDR3) son caras. Para un programador con presupuesto ajustado, comprar una refurbished de 8va gen puede ser una opción, pero hay que comparar precios porque en México 2026, una laptop nueva con N100/N305 o Ryzen 3 puede costar similar, rendir igual o mejor, consumir menos y tener garantía. La excepción: si el programador necesita correr LLMs localmente, ninguna de estas opciones sirve; necesitará GPU o migrar a la nube. Y el calentamiento termico hacen a mi juicio inútil para desarrollo en IA agéntico o modelos locales a una laptop excepto en entornos controlados.
• En México 2026, muchas empresas con presiones económicas no pueden comprar laptops nuevas con GPU ($18,000+ MXN) y recurren a refurbished de 8va generación ($4,000-$6,000 MXN). Sin embargo, esa máquina no sirve para LLMs locales; solo corre modelos pequeños (1B-3B) con baja calidad en código. La decisión real no es entre laptop nueva o refurbished, sino entre: (1) gastar $4,000-$6,000 en una refurbished mediocre que no resuelve el problema de IA, o (2) usar ese dinero como fondo para 6-12 meses de API de IA en la nube (ej. $400 MXN/mes sin considerar tokens), que sí da acceso a modelos de calidad, mientras se usa la laptop vieja solo para editar código.
• Este dilema se agrava con la dinámica laboral actual: las empresas, al optar por esquemas 100% remotos o coworking, trasladan la responsabilidad del equipo al programador para evitar inversión en activos fijos. Con sueldos estancados y sin presupuesto para hardware, pretenden que el costo de la nube ($400 MXN/mes) sea absorbido por el trabajador o que los modelos gratuitos (y limitados) resuelvan problemas de negocio complejos, lo que revela una falta de entendimiento del costo real de la IA.
• Y además Solo piensan en el Arnés (codex/ claude code) o las suscripciones, pero no en el costo de Tokens y de RAG (que por regla general es consenso de resultados o revisar dos veces entre modelos o “corridas”)

• El año pasado 2025, 12 de sepiembre, me compre PC armada: Ryzen 7 5700G, 32GB RAM, SSD de 512GB + 2 HDD, gabinete DeepCool CG530.  Además una Laptop ASUS e1504f: Ryzen 5 7520U, 8GB RAM, 512GB SSD. De entonces la ryzen 7 , que no uiso, me costo 9200 mas o menos, y ahora saldria en 15000 o mas. La Laptop me costó unos 7000 y estoy en contra de la marca HP por la memoria, de la dell por calentamiento y las lenovo o refurbished en laptops, por lo cual esa era la única que podia comprar era ese en ese momento sin crearme otro problema.

• En México 2026, el costo de hardware ha subido por inflación y escasez. Una laptop nueva decente (Ryzen 5/Intel i5, 16GB, SSD) cuesta $12,000 – $18,000 MXN y está fuera del alcance de muchos programadores. Sin embargo, el mercado de refurbished corporativo (Dell Latitude, Lenovo ThinkPad) ofrece equipos de 8va-10ma gen con RAM ampliable por $4,000 – $7,000 MXN, que pueden correr Linux y modelos pequeños de IA. La excepción: para correr LLMs de 7B+ se necesita una PC de escritorio como mi Ryzen 7, que sigue siendo la opción más costo-efectiva en México.

• Mi máquina principal es una armada i5-6ta gen con 32GB y Windows 10, y no la cambio porque es estable, segura y suficiente para mi trabajo con datos sensibles. Técnicamente, carece de AVX-512 (solo tiene AVX2), una instrucción que frameworks como PyTorch y modelos cuantizados con GPTQ o AWQ aprovechan para acelerar inferencia en CPU. Sin embargo, en la práctica, la diferencia con mi Ryzen 5700G no es tan notable como sugiere el papel. Por ahora, no tiene caso migrar. Mi plan es esperar a diciembre, cuando mis clientes me pagan anualmente, y evaluar si conviene invertir en una tarjeta de video y un SISTEMA DE ENFRIAMIENTO para la Ryzen, aprovechando beneficios fiscales. Pero esa decisión depende de los precios y de si el hardware justifica el gasto frente a mis necesidades reales. En mi experiencia, el mejor hardware es el que ya está pagado y el que no te obliga a trabajar para pagarlo.

• El mercado tecnológico en México está deprimido en 2026, con salarios estancados y empresas buscando salir de la nube por costos. En este contexto: (a) Los agentes de IA son inviables por su alto costo en tokens y GPU; (b) Las empresas que pagan mal a programadores no pagarán por IA de calidad; (c) Cualquier proyecto de IA en LATAM debe empezar con un cliente real, no con una apuesta a futuro. La oportunidad está en soluciones de IA eficientes, con modelos locales o ligeros, diseñadas con datos reales de costos mexicanos (hardware, electricidad, internet, salarios).

Si quieres crear proyectos desde cero necesitas los clientes. Una empresa de IA sin clientes está apostando a que será intermediario de un proyecto que todavía no conoce y que se quedará con tajada de consultoría, tokens, arnés y agentes.

Eso es fracaso.

El modelo de “construir y ellos vendrán” funciona en Silicon Valley con capital de riesgo. En México, no funciona.

• Una empresa de IA en México sin clientes iniciales es una consultora disfrazada: vive de “proyectos”, pero no tiene producto. Vende humo.

• Si no tienes clientes, no tienes retroalimentación real sobre qué problemas resolver.

• Estás apostando a que “alguien” te contrate para un proyecto que ni siquiera sabes si existe.

Implicación: Para que tu proyecto de IA tenga sentido en México, necesitas clientes ancla (al menos 1-2) que te digan “esto necesito” antes de construir. O construir un producto mínimo viable (MVP) y probarlo con un cliente real desde el día 1.

• Programo desde una época donde la memoria se contaba en kilobytes. He optimizado aplicaciones en entornos extremadamente limitados (Clipper, VB/.NET) y siempre parto de lo que el cliente tiene, no de lo que debería tener. Aunque puedo permitirme una Mac, no la uso porque mis clientes usan PC. Esto me da una ventaja única en IA: sé optimizar modelos para que corran en hardware limitado, y sé diseñar soluciones que sean viables en el entorno real de LATAM, no en laboratorios ideales.

  • Overlays en Clipper: Es la versión prehistórica de lo que hoy es carga perezosa (lazy loading) o memory-mapped files.

  • Optimización de DLL en VB/.NET: Es entender cómo cargar y descargar código en tiempo de ejecución, cómo reducir el footprint de una aplicación, y cómo evitar fugas de memoria.

  • Esto hace que no tenga problemas en hacer cacheo para no recalcular, y streaming de respuestas para no cargar todo el contexto de golpe. Se separar la lógica de negocio para que quepa en una ventana de contexto independiente.

• Como dije En 2025, un hospital me contrató para un sistema de expediente electrónico. No tenían servidor, usaban laptops de 4GB de 2017, y sus prácticas comerciales eran abusivas (estafaban a proveedores). Me salí del proyecto por ética y no ser viable, pero me quedé la PC Ryzen 7 que había comprado para el proyecto. Esa PC, que hoy vale más de lo que pagué, y puede ser banco de pruebas para IA. Esta experiencia me recordó que en LATAM hay muchos clientes con infraestructura precaria y malas prácticas, y que debo filtrarlos antes de trabajar con ellos.

• He trabajado durante 10 años con equipos de 8 GB de RAM in situ del cliente a tiempo completo (Celeron Brix 2015-2020, Dell refurbished 2022-2025), desarrollando sistemas de facturación electrónica, expedientes ciudadanos y conversión de sistemas, atendiendo miles de tickets en entornos gubernamentales con red infame. He visto esas mismas refurbished en SAT, PGR y empresas privadas. Esto demuestra que 8 GB no es un ‘caso borde’ en LATAM, sino la norma. Para IA, esto implica que debo diseñar soluciones que funcionen en 8 GB (modelos 1B-3B) o, como máximo, en 16 GB (modelos 7B ajustados), y que no dependan de GPU ni de nube cara.

• En pruebas reales, 16 GB es insuficiente para correr modelos de 7B+ con comodidad en Windows con LM Studio u Ollama. 32 GB (como mi i5-6ta) es suficiente incluso para Qwen 30B cuantizado. Mi enfoque es LLM de chat y sistemas no agenticos, porque los agentes son caros y la mayoría en LATAM no tiene hardware para correrlos localmente. Sin embargo, reconozco que la nube (ej. Claude) es viable para casos específicos (como C#) cuando el hardware local no es suficiente o el tema requiere un modelo más capaz. Mi estrategia es híbrida: local y chat LLM para lo accesible, nube o agentes para lo excepcional…. una vez que recibiste el primer cheque. CLIENTE ES EL QUE TE PAGA. No gastes en infraestructura de IA antes de tener un ingreso que la justifique.

• Mi hija está por entrar a la universidad, y desde hace muchos años ha estado usando una All-in-One Lenovo con la que me pagó un cliente… con 2 GB de RAM. Usando Linux Mint. Al ver que están subiendo los precios de memoria, le dije que en vez de comprarse una laptop mala que le puedan robar, de entrada le sale mejor comprar una Dell i5-8va generación refurbished, 16 GB de RAM y SSD de 240 GB por $3,800, y conectar monitor externo y teclado de la All-in-One. Así que compré esa máquina la semana pasada, y la razón secundaria es hacer pruebas antes de dársela, de Windows 11 que ya trae instalado, con LM Studio y Ollama. Esa es la razón que haré esas pruebas, para cerrar el experimento de Grace 2038 que teníamos pendiente porque solo lo hice en 16 GB con AMD en Linux/Windows. No le veo caso a probar con Linux, pero me parece que este equipo es más poderoso que lo que puede hacer mejorando su laptop de hace diez años, el programador que mencioné… y más resistente al calor.

La tesis de mercado que emerge de todas las premisas

“En México 2026, el piso tecnológico de las organizaciones (gobierno, paraestatales, PyMEs) son equipos refurbished de 8 GB de RAM, procesadores Intel 6ta-8va gen, y redes de internet limitadas. La nube es cara y la IA en la nube es aún más cara. Los agentes de IA son inviables por costo de arnés y tokens. La oportunidad está en soluciones de IA eficientes, con modelos pequeños (1B-3B) o ajustados (7B), que corran en ese hardware, y que resuelvan problemas concretos (expedientes, facturación, atención a ciudadanos) sin depender de GPU ni de conexión rápida. Mi experiencia de 10 años optimizando en 8 GB me da una ventaja única para diseñar estas soluciones optimizando la ventana de contexto, pero no puedes usar un nissan Tsuru 2 para Uber Black. 

Conclusión Técnica:

Si la Dell i5-8va con 16 GB logra correr modelos de 7B sin llegar a temperaturas críticas y sin saturar la RAM, se confirma mi tesis:

1. La Obsolescencia no es el hardware, es el software. Con 8 GB de RAM se puede trabajar (lo hice en una Brix Celeron de 2015 a 2020), y con 16 GB se puede empezar a hacer IA, siempre y cuando no uses agentes sino chat y modelos locales.

2. El ahorro está en la eficiencia. No se necesita una GPU de $20,000 para resolver problemas de expedientes electrónicos o facturación; se necesita un modelo pequeño, bien cuantizado y un desarrollador que sepa manejar la memoria.

El problema?

• En México 2026, muchas empresas con presiones económicas no pueden comprar laptops nuevas con GPU ($18,000+ MXN) y recurren a refurbished de 8va generación ($4,000-$6,000 MXN). Sin embargo, esa máquina no sirve para LLMs locales; solo corre modelos pequeños (1B-3B) con baja calidad en código. La decisión real no es entre laptop nueva o refurbished, sino entre: (1) gastar $4,000-$6,000 en una refurbished mediocre que no resuelve el problema de IA, o (2) usar ese dinero como fondo para 6-12 meses de API de IA en la nube (ej. $400 MXN/mes), que sí da acceso a modelos de calidad, mientras se usa la laptop vieja solo para editar código. Este dilema se agrava con la dinámica laboral actual: las empresas, al optar por esquemas 100% remotos o coworking, trasladan la responsabilidad del equipo al programador para evitar inversión en activos fijos. Con sueldos estancados y sin presupuesto para hardware, pretenden que el costo de la nube ($400 MXN/mes) sea absorbido por el trabajador o que los modelos gratuitos (y limitados) resuelvan problemas de negocio complejos, lo que revela una falta de entendimiento del costo real de la IA.

• Recordatorio: Mi máquina principal es un i5-6ta gen con 32GB y Windows 10, y no la cambio porque es estable, segura y suficiente para mi trabajo con datos sensibles. Sin embargo, en la práctica, la diferencia con mi Ryzen 5700G no es tan notable como sugiere el papel.

En los próximno dias resultados de las pruebas