Hay una idea que John Steinbeck desarrolla en Los hechos del Rey Arturo y sus nobles caballeros que nunca me ha abandonado: a veces es más peligroso ir a una fiesta, o a una junta de trabajo, que a un campo de batalla. En un campo de batalla sabes quién es el enemigo. En una junta, no necesariamente.
Hoy tuve tres situaciones simultáneas que me hicieron muy presente el tema de valorar los riesgos. Antes de contarlas, vale la pena decir algo sobre lo que significa valorar los riesgos de verdad, porque la mayoría de la gente, incluyendo muchos que trabajan con inteligencia artificial, no lo hace.
Por cierto, hoy publiqué tarde debido a que mi prioridad era ir a una junta y me tomó mas tiempo del esperado.
Lo que una computadora no puede calcular
Una de las principales limitaciones de las computadoras en general, y de las LLM en particular, es que solo procesan valor cuantitativo, no cualitativo. Hay cosas que son reemplazables y cosas que no lo son. En ajedrez, perder un peón para salvar una torre puede ser la mejor jugada estratégica. Pero para tomar esa decisión necesitas entender qué vale qué, y eso no siempre tiene un número.
La experiencia es lo que te da esa capacidad. No un modelo de lenguaje.
a ) Las juntas son territorio desconocido
Una junta de trabajo parece un entorno controlado. Tienes agenda, tienes participantes, tienes un objetivo. Pero en la práctica es un sistema impredecible, igual que una LLM: puedes entrar con todas las variables claras y salir con un resultado completamente diferente al esperado.
Me tocó una junta alrededor de 2003 donde me acusaron de tener un “problema de actitud” por negarme a enviar un archivo por GPS. El problema era que era técnicamente imposible hacerlo. Eso no importaba. En una junta te pueden traicionar los aliados, pedirte imposibles, o cambiar las reglas en medio de la sesión, como Darth Vader en El Imperio Contraataca. Así que aunque una junta se vea segura, hay que valorar completamente los riesgos antes de entrar.
Hoy tenía que ir a las oficinas de un cliente que no me pagó cinco meses, una paraestatal, para ayudar a una conocida con un trámite. El riesgo de encontrarme con gente indeseable era real. Pero el riesgo de no cumplir mi palabra era mayor. Fui preparado. Por suerte el trámite fue en otro edificio y no hubo problema. El riesgo existía, lo evalué, y fui de todos modos porque había una razón que lo justificaba.
b ) Eve Online como escuela de paciencia
Eve Online es un juego donde un descuido puede costarte semanas o meses de trabajo. La nave más importante, el Titán, vale sin equipo alrededor de 28,000 MXN, o su equivalente en dólares, todo obtenible dentro del juego. Yo tuve uno y lo cambié por tiempo de suscripción, todo obtenido sin dinero real.
Mi problema actual es distinto: Hay varias zonas de juego o regiones, y en una de ellas (Metropolis) a lo largo del último año fui simplificando miles de materiales diferentes para concentrarlos en un solo tipo de objeto llamado fuel blocks en la misma estación o base. El resultado es que ahora tengo en una zona de lowsec, que es territorio peligroso, el equivalente a varios meses de suscripción en bloques de hielo y combustible. Para moverlos necesito dos cargueros especializados llamados Avalanche. Pero es una sola cosa en lugar de cientos de ellas.
Tengo tres alternativas:
Opción A: Pagarle a otro jugador para que los saque poco a poco. Pierdo el 70% del valor.
Opción B: Moverlos yo mismo con los dos cargueros. Requiere cuatro momentos de suerte simultáneos y tengo aproximadamente un 75% de probabilidad de perderlo todo.
Opción C: Construir unas 60 naves Iteron, que son transportes pequeños y seguros, y sacar el material en 60 viajes cortos con ruta segura. En diciembre, con un filamento especial, moverlo con riesgo cero al destino final.
Voy a hacer la opción C. Perder uno de sesenta es incomparablemente mejor que perder todo por un impulso. El juego me sirve para medir mi paciencia y para practicar algo que en la vida real también se necesita: saber que reducir el riesgo a veces requiere tiempo, no velocidad.
c ) La perrita
En mi casa Tenemos una perra de 14 años con buena disposición pero con molestias. La llevamos al veterinario y hay una operación programada para mañana.
Mi posición fue que lo sensato era esperar unos días, estabilizarla con la dieta correcta, hacer análisis adicionales, y operar cuando las finanzas estuvieran listas, ya que tengo un ingreso que entra en tres días. En la casa decidieron diferente, y lo respeto porque el animal no es mío aunque la quiero.
El punto importante es este: el riesgo real aquí no es financiero. Es de calidad de vida. Una operación en un animal de 14 años no es una salida mágica. Puede salir bien, puede no volver a caminar, puede afectar su calidad de vida de forma permanente. El dinero es lo de menos. Lo que hay que valorar es si el procedimiento le va a dar más vida buena o más sufrimiento.
Esto conecta directamente con lo que está pasando en el ecosistema tecnológico: la operación da una falsa esperanza, igual que las LLM mal aplicadas. Los agentics, herramientas como Clawbot o n8n con control excesivo, pueden borrar discos duros, eliminar instancias y llevarse entre las patas tu negocio y tus empleados. La promesa de solución mágica es el riesgo más subestimado de todos.
Si la decisión fuera mia, yo no la operaba. Le daba comida especial el resto de su vida.
d ) El caso Angular: cuando ya no es riesgo sino desastre anunciado
Me volvió a llamar una persona que quiere contratar a alguien de Angular de lunes a sábado por 13,000 pesos al mes. Antes ofrecía 12,000.
Algunos escenarios ya pasaron el umbral y son simplemente desastre anunciado. Cinco factores negativos simultáneos no se compensan subiendo mil pesos:
- Sueldo por debajo del mercado
- Stack heredado (Angular 2, que perdió a gran parte de su comunidad precisamente por las diferencias con Angular 1)
- Rama de negocio regulada, debería ser por nómina.
- Figura fiscal incorrecta (honorarios donde la normatividad exige nómina)
- Producto crítico para el negocio
En honorarios, una persona física paga más impuesto que una RESICO, así que el sueldo neto es aún menor. Las probabilidades de encontrar a alguien competente con ese perfil son menores al 1%. Y si lo encuentran, están poniendo un producto que puede hacerles perder la mitad de sus clientes en manos de alguien contratado en condiciones precarias.
Esta misma persona pagaba 22,000 pesos mensuales por algo similar en 2014 hace doce años. Ahora ofrece 13,000 con mayor complejidad e impacto en el negocio. Eso no es valorar riesgos. Es no querer ver la realidad.
Lo que necesita es migrar de Amazon a un servidor local o VPS por el costo, y reconsiderar toda la operación desde los fundamentos. Subir mil pesos no cambia nada.
Cómo se aplica todo esto a las LLM
El boom de los generadores de código se está viendo, en muchos casos, como un atajo para no trabajar o para no pagar a programadores y analistas. No es nuevo. Esto ya pasó desde el año 2000 con las herramientas CASE, siendo Genexus la más conocida, que tiene más limitaciones que beneficios.
La diferencia con las LLM es la escala de los riesgos. Identifico varios que me preocupan desde el principio:
1 ) No determinismo. Una LLM no da el mismo resultado dos veces. Si vas a Burger King esperas la misma calidad de la franquicia. No esperas que el mismo cocinero te dé un resultado diferente cada semana en algo simple del menú. Las LLM son así por diseño, lo que las hace herramientas de las que tú debes hacerte responsable. El nivel de tolerancia al riesgo cambia completamente según el contexto: no es lo mismo hacer un sitio web sencillo que manejar el pH de una tina de pintura, donde un error humano puede mandar a la basura toneladas de producto y dos o tres millones de pesos.
2 ) Costo impredecible. Todos sabemos lo difícil que es calcular un costo de nube en Amazon o entender una factura de nube. El modelo de cobro por token de las LLM tiene el mismo problema multiplicado. Los modelos de negocio de ChatGPT, Copilot y Gemini ya cambiaron a cobro por token. Te hablan de un ROI infinito, pero el riesgo real es que te den otra cosa, que no sirva y que te hartes de una suscripción carísima que no te sirve y que no puedas cancelar. Como Adobe y Odoo.
3 ) Seguridad y responsabilidad. Trabajo en empresas reguladas, donde está en juego dinero, impuestos o vidas humanas. Recientemente hubo ataques en npm, una vulnerabilidad en paquetes de Red Hat, y hay reportes de una vulnerabilidad llamada Miasma que afecta a usuarios de ciertos paquetes de Microsoft en GitHub, que se supone es de lo más controlado que existe. Si uso una LLM que me recomienda dependencias sin auditoría, estoy dando el control de la seguridad de mi infraestructura a un mantenedor externo de GitHub que no conozco. Eso es exactamente lo que hacemos cuando le cedemos las decisiones técnicas a una LLM.
4 ) Perder habilidades. La mayoría de personas que conozco, desde hace años, no son capaces de programar un “Hola mundo” en su lenguaje por sí mismas. Órgano que no se usa se atrofia. Hay habilidades de corto y mediano plazo, incluso de memoria y revisión de código, que vamos a perder si nos confiamos a las LLM para sistemas críticos.
5 ) El riesgo principal para empresas LATAM. Es el de siempre: una nueva tecnología mágica que promete que los trabajadores ya no importan, seguida del colapso cuando la magia no funciona. El segundo riesgo son los costos ocultos. Ya documenté aquí un ejercicio del año pasado donde tres LLMs, Claude, Gemini y Copilot, no pudieron calcular correctamente lo necesario para un sistema en Azure e intentaron implementar RAG sin analizar el proceso completo. Un paso nuevo requerido por una analista iba a necesitar cinco analistas para capturarse. No ibas a ahorrar trabajo, ibas a trabajar más y contratar cinco personas forzosamente, para evitarte el trabajo de 1/22 de una.
- Aunque en LATAM casi nunca hay liquidaciones de ley los empleadores se han acostumbrado a que los aumentos No se dan , y si se dan se conceden en base acosas sin sentido, ignorando la experiencia, la antigüedad y la fiabilidad.
- Incluso en USA los despidos les están costando un dineral por las indemnizaciones y paquetes de salida.
Si desconoces las leyes, las buenas prácticas y los procesos, buscar atajos con LLM es como manejar un coche sin gasolina, o tratar de hacer la mudanza de una casa en un Nissan March. Para ciertas cosas necesitas un camión de mudanzas. Los procesos de vida humana y de tu propio ingreso dependen de ti, no de una computadora.
En Argentina están considerando crear un tipo de figura legal para que las LLM puedan operar como sociedades pero sin ser responsables de sus actos. El principal riesgo de las LLM es exactamente ese: querer los beneficios sin las responsabilidades. Y lo que mucha gente no ve es que esa responsabilidad, en los negocios, tiene nombre técnico: se llama NIA 570, la Norma Internacional de Auditoría de Empresa en Funcionamiento, que debe leerse junto con la NIA 200 sobre documentación disponible. Si tu herramienta principal no puede auditarse ni reproducirse, estás operando sin red.
- Y hay un montón de leyes penales sobre eso, se llama fraude, malas prácticas, etc.
Si la LLM fuera una forma de energía, como el fuego o la electricidad, vamos a ver muchos electrocutados, y principalmente por razones de costo. En México y LATAM estamos relativamente más a salvo, porque el nivel de adopción es menor por los problemas de dinero. Pero no inmunes.
La diferencia entre riesgo y desastre no es técnica. Es de criterio. Y el criterio lo da la experiencia, no el modelo.
En resumen :
- Algunos escenarios ya pasaron el umbral y son simplemente desastre anunciado. Cinco factores negativos simultáneos : sueldo bajo, stack heredado, rama regulada, costos impredecibles y mas altos de lo esperado, y producto crítico para el negocio : no se compensan subiendo mil pesos. Es como jugar ruleta rusa. Eso no es valorar riesgos, es no querer ver la realidad.
- Y para jugar jenga corporativo, al mismo tiempo quieren correr a los que conocen las reglas de negocio.
Nota:
Imagen generada por gemini sobre un prompt de Claude. El de grok bno fue bueno, copilot muy pesimista. Hice un cambio menor con gemini y quedó.
A dramatic wide-format blog header illustration in dark cinematic style. A lone figure stands at a crossroads in a futuristic city at night, surrounded by glowing holographic warning signs and cascading code. In the foreground, cracked ground with the words “Los Riesgos de las LLMs” engraved in bold stone letters. On a neon sign or digital billboard in the background, the text “vibecodingmexico.com” glows in cyan or gold. The atmosphere is tense, technological, and Latin American in aesthetic — warm city lights, urban grit, high contrast. No cartoon style. Photorealistic or high-quality digital art.
