En mi vida profesional me encuentro frecuentemente con afirmaciones como:

“Le doy los datos a ChatGPT y que haga el análisis.”

“¿Para qué necesito un software? Eso lo hago con Claude.”

“En unos años la IA va a reemplazar todo el software.”

Las escucho de ejecutivos, inversionistas, emprendedores y profesionales muy capaces. Y creo que reflejan algo que me preocupa: hemos pasado tan rápidamente de sorprendernos con la IA a atribuirle capacidades casi mágicas, sin detenernos a entender qué ocurre realmente detrás.

La IA es extraordinaria. Pero no es magia.

Un LLM no funciona como una calculadora

Simplificando mucho, cuando escribimos un prompt a ChatGPT o Claude, un Large Language Model no busca una respuesta que haya determinado como verdadera.

Calcula una distribución de probabilidades para determinar cuál debería ser el siguiente token dado todo el contexto anterior. Genera ese token y vuelve a hacerlo. Y otra vez. Y otra. Hasta construir una respuesta.

Eso parece una diferencia técnica menor, pero tiene consecuencias enormes: el LLM genera una respuesta probabilísticamente plausible. No ejecuta necesariamente un proceso determinístico que garantice esa respuesta.

Un software determinístico funciona de otra manera. Si le entregamos los mismos inputs, bajo el mismo estado y configuración, ejecuta las mismas reglas y algoritmos y debe producir el mismo resultado.

Mismo input + mismo algoritmo = mismo output.

Cuando existe una operación matemáticamente definida, no queremos que un sistema “considere” qué resultado parece más probable. Queremos que ejecute la operación.

Por eso el contexto importa muchísimo

Preguntemos: “¿Cuál es la capital de Francia?”

La distribución de probabilidades está tan concentrada alrededor de París que podemos repetir la pregunta una enorme cantidad de veces y esperar una respuesta extremadamente estable.

Ahora preguntemos: “¿Cuál es la mejor estrategia para reducir el riesgo de crédito de este banco sin afectar significativamente sus ventas?”

O: “Diseña la mejor arquitectura tecnológica para construir una plataforma de riesgo.”

O: “Analiza estos datos y dime qué modelo debería utilizar.”

Aquí ya no existe una única continuación evidente. Hay cientos de decisiones razonables.

Con suficiente variabilidad en la generación, podemos hacer 100 veces la misma pregunta y obtener 100 respuestas diferentes: distintas estrategias, diferentes variables, diferentes algoritmos, diferentes prioridades y diferentes implementaciones.

Muchas pueden ser excelentes. Varias pueden llegar a conclusiones parecidas. Algunas pueden ser equivocadas.

El punto es que la respuesta no está matemáticamente determinada por el prompt. Y eso no significa que la IA funcione mal. Significa que funciona como fue diseñada.

El problema aparece cuando confundimos plausibilidad con certeza

Una de las cosas más fascinantes de los LLM es que pueden estar equivocados de una manera extraordinariamente convincente.

Redactan bien. Argumentan bien. Utilizan vocabulario técnico. Parecen seguros.

Y los seres humanos llevamos miles de años asociando todas esas características con conocimiento.

En el paper llamo a este fenómeno AI Competence Mirage. Y genera lo que denomino el Computational Trust Gap: la distancia entre la confianza que nos provoca una respuesta y la garantía computacional que realmente existe detrás de ella.

Por eso creo que decir alegremente “esto lo hago con Claude” puede revelar una comprensión bastante incompleta de lo que significa realmente hacer ese trabajo.

Claude puede ser una herramienta extraordinaria para hacerlo. Pero eso es muy distinto de decir que Claude es el sistema que lo hace.

Entonces, ¿cómo deberíamos utilizar la IA?

Esta es precisamente la tesis que desarrollo en Beyond the AI Hype: Why Large Language Models Will Transform Software—Not Replace It.

Creo que estamos entrando en una tercera generación de computación. Una donde la IA se convierte en una interfaz extraordinaria entre nuestro modelo mental y sistemas tecnológicos especializados.

En el paper propongo una arquitectura muy sencilla:

PIL — Probabilistic Interface Layer
Entiende lo que queremos. Podemos hablarle en nuestro lenguaje, explicar objetivos, restricciones, contexto e incluso hacerlo de manera imperfecta.

↓

DIL — Domain Intelligence Layer
Contiene el conocimiento específico necesario para resolver ese problema: riesgo, medicina, seguros, logística, telecomunicaciones, impuestos, data science o cualquier otro dominio.

↓

DEL — Deterministic Execution Layer
Ejecuta las funciones, algoritmos, reglas y cálculos que deben producir resultados consistentes, reproducibles, auditables y, cuando el problema lo permite, matemáticamente exactos.

La IA interpreta. El conocimiento especializado determina cómo resolver. El software ejecuta.

El verdadero impacto de la IA sobre el software

No creo que Salesforce, SAP o cualquier software especializado desaparezca simplemente porque ahora podemos preguntarle cosas a Claude.

La amenaza es otra.

Claude, Codex y otros modelos están reduciendo brutalmente el costo y el tiempo necesarios para construir software. Equipos pequeños pueden desarrollar hoy soluciones que hace pocos años habrían requerido decenas o cientos de desarrolladores.

Eso sí es revolucionario.

La IA no necesariamente elimina el software. Industrializa su producción.

Y desplaza la ventaja competitiva desde la capacidad de escribir código hacia algo mucho más difícil de replicar: entender profundamente el problema que estamos resolviendo.

Por eso escribí este paper. Porque creo que necesitamos sacarnos la venda.

No para ser menos optimistas respecto de la IA. Precisamente para ser mucho más ambiciosos y mucho más inteligentes en cómo la utilizamos.

Si eres ejecutivo, inversionista, emprendedor, desarrollador, data scientist o simplemente estás tratando de entender qué significa realmente esta revolución para tu futuro profesional, te recomiendo leerlo.

Intenté explicar sin exigir conocimientos técnicos avanzados qué hace realmente un LLM, por qué puede producir respuestas diferentes ante la misma pregunta, de dónde vienen sus errores y cómo creo que debemos estructurar nuestra relación con esta tecnología.

Porque para aprovechar realmente la IA primero debemos entender qué es.

Esto no va de magia.

Va de probabilidades, conocimiento y arquitectura tecnológica. Y de saber exactamente cuándo necesitamos inteligencia probabilística y cuándo necesitamos ejecución determinística.