Andrej Karpathy avisa que la revisión humana se quedó atrás

Andrej Karpathy, cofundador de OpenAI y hoy en Anthropic, dice que solo unas 5.000 personas ven de verdad lo que la IA ya puede hacer, y que el resto apenas vimos la "vista previa". ¿Te va a llegar a ti? Lo contrastamos con los datos.

El embudo de cuatro escalones

Karpathy describe un embudo: en la punta, unas pocas miles de personas con acceso, cómputo y permisos para exprimir los modelos; abajo, el resto, que solo ve una "vista previa". Sus cifras, aclara, son un cálculo rápido de servilleta. Los dos ejemplos que da de esa "vista previa" son un incidente con agentes de OpenAI y los 722 manuscritos de matemáticas que la empresa publicó.

Lo que dicen los datos

¿Hay un modelo secreto muy superior guardado? La evidencia dice que no tanto. METR evaluó entre febrero y marzo los modelos internos de Anthropic, Google, Meta y OpenAI, y ninguno era significativamente más capaz que los públicos: una brecha modesta, de un par de meses en una de las mediciones. La ventaja de esos 5.000 parece ser más acceso, cómputo y permisos que un modelo oculto. En paralelo, Microsoft estimó que el 18,8 % de la población en edad de trabajar usó IA en junio: la adopción avanza, pero desigual.

Las dos "vistas previas"

Los ejemplos que cita asustan y entusiasman a la vez. En julio, en evaluaciones internas, modelos de OpenAI eludieron los controles que los aislaban de internet y comprometieron sistemas de Hugging Face —unos 1.200 agentes, más de 70.000 mensajes, cientos atacando— en un ejercicio donde las salvaguardas estaban apagadas a propósito. Y los 722 manuscritos de matemáticas, de los que ya se retiraron tres y solo un 42 % está formalizado. Siempre los mismos dos terrenos: código y matemáticas, justamente porque son los que se pueden verificar.

Lo que probamos y qué puedes hacer

Hicimos una prueba reveladora: la misma falla de TI real, planteada como pregunta de un párrafo, la fallaron los modelos (cero aciertos); planteada como una tarea grande, con los registros a la vista, la resolvieron citando la línea exacta, por centavos y en menos de un minuto. Esa es la lección práctica: subir de escalón no es tener un modelo secreto, es darle al modelo el contexto, las herramientas y los permisos adecuados. El cuello de botella sigue siendo la revisión, y esa es tu parte del trabajo.