Esta semana que pasó tuve oportunidad de hacer varias pruebas con tarjetas RTX 5060 y RTX 5070 con 16 y 12 gb de VRAM, y los resultados de llm y agentics no son lo que parecen.
Mañana o pasado mañana publico el análisis completo con los números y mi conclusión sobre viabilidad para México.
La imagen es de 16gb VRAM de 12500 pesos RTX 5060. La alternativa era una RTX 5070 de 12 gb 12450 MXN.
La tarjeta por sí sola ronda los $12,500 MXN, pero el equipo completo para correr esto con soltura sube a unos $30,000 MXN
En general tiene más sentido la de 16GB para alguien que está empezando, y por una razón simple: en LLMs locales la VRAM es lo que determina qué tamaño de modelo puedes cargar sin que se desborde a RAM/CPU (con la consecuente caída de velocidad). Con 12GB te quedas más limitado en cuántos parámetros o qué nivel de cuantización puedes usar cómodamente; con 16GB tienes un margen extra que te deja probar modelos un poco más grandes o mantener más contexto sin sacrificar tanto.
Pero la diferencia fue MUY poca. Más VRAM ayuda, pero no resuelve el problema de fondo que plantea sobre viabilidad para casos de uso reales en México.
Las empresas no van a usar esto, van a usar Agentics, por buenas razones. Afortunadamente Yo no compré estas máquinas, sino clientes.
Mas información en estos dias.
