Que los LLMs sean «una nueva forma de computadora» es una frase que suena bien, pero que tan cierta es? Aqui va un analisis academico riguroso de lo que la investigacion realmente demuestra.
La pregunta fundamental
Andrej Karpathy argumenta que los LLMs representan Software 3.0 — un paradigma computacional donde el context window opera como memoria y el prompting reemplaza al codigo. Pero, en terminos estrictos, que tan poderosos son estos sistemas?
Un survey de Weber et al. (2024) analizo mas de 200 papers sobre LLMs como agentes computacionales. Conclusion: los LLMs pueden planificar, razonar en multiples pasos y usar herramientas externas. Pero hay matices importantes.
Completitud de Turing: Si, pero…
Feng et al. (2024) demostraron formalmente que la atencion lineal — el nucleo de los transformers — es computacionalmente completa en el sentido de Turing. Cualquier funcion computable puede, en principio, ser calculada por un transformer.
La advertencia crucial: el resultado requiere precision numerica arbitraria, que no existe en hardware real. Y la profundidad de red necesaria puede ser exponencial. Es como decir que tu horno puede, en teoria, freir un huevo en la superficie del sol.
Chain-of-Thought: La clave real
Jelassi et al. (2024) descubrieron algo mas interesante: los transformers con chain-of-thought pueden expresar computaciones exponencialmente mas poderosas que sin el.
Esto es significativo. El mecanismo de razonamiento intermediopermite a los LLMs computar recursivamente, como si tuvieran una «memoria externa» implícita.
Wei et al. (2022) ya habian demostrado empiricamente que el CoT mejora dramatically el rendimiento en matematicas y razonamiento simbolico. GSM8K: del 17% al 73% en PaLM-540B.
Donde fallan: la naturaleza estocastica
quizas la diferencia mas fundamental entre LLMs y computadoras clasicas es la estocasticidad.
Una maquina de Turing produce resultados deterministas. Un LLM produce distribuciones de probabilidad. Esto significa:
- Dos ejecuciones con el mismo prompt pueden producir outputs diferentes
- Pequeños cambios en el prompt alteran dramaticamente el resultado
- La reproducibilidad exacta es imposible
Drori et al. (2024), en un estudio en Nature, encontraron que los LLMs muestran dificultades sistematcias con proofs largos y razonamiento formal. A pesar del poder teorico, la practica sigue siendo problematicatica.
El verdict: utiles pero no universales
La investigacion academic a revisada presenta un panorama matizado:
A favor de la tesis de Karpathy:
- Weber et al. confirman que los LLMs pueden conceptualizarse como agentes computacionales
- Jelassi et al. demuestran poder expresivo teorico extraordinario
- Las capacidades de automatizacion son reales en dominios verificables
Contra / matices:
- La completitud de Turing es teorica, no practica
- La naturaleza estocastica los hace fundamentalmente diferentes de computadoras deterministas
- Los errores de razonamiento persisten a pesar de avances
Conclusion
Software 3.0 es una herramienta comunicativa valiosa que captura una transformacion genuina. Pero un programador que usa un LLM como «computadora» debe entender que esta trabajando con un sistema que puede cometer errores sutiles, producir resultados no deterministas, y fallar en tareas triviales para una calculadora.
Los LLMs son poderosos, flexibles y fundamentalmente diferentes. Pero «computadoras universales» en sentido estricto? No exactamente.
Fuentes: Weber et al. 2024, Feng et al. 2024, Jelassi et al. 2024, Wei et al. 2022, Drori et al. 2024 (Nature), Zhou et al. 2023.