Sam Altman pide aceptar «cosas malas» a cambio de la IA

Sam Altman, CEO de OpenAI, dijo en una entrevista con Politico que "el mundo debería aceptar que pasen algunas cosas malas" a cambio de los beneficios de la IA: grandes hackeos, mal uso, estafas. La frase recorrió el mundo, pero la versión completa tiene un matiz que muchos titulares dejaron fuera.

Qué dijo exactamente

Altman puso un límite: riesgos acotados, sí; riesgo catastrófico —una pérdida grave de control frente a la IA—, no. Es una distinción importante. Una cosa es aceptar que, como con cualquier tecnología, habrá abusos y accidentes; otra, muy distinta, es restarle importancia a los escenarios extremos. El titular corto borra esa frontera.

El contraste

La frase choca con su propio discurso en la ONU del 23 de septiembre, de tono mucho más prudente, y marca una diferencia real con Anthropic, que ha hecho de la cautela una bandera. Las reacciones no tardaron: desde críticas políticas hasta la comparación con la cultura de seguridad de Boeing, pasando por un intenso debate en Hacker News.

La pregunta de fondo: ¿quién paga?

Más allá de la filosofía, hay una pregunta concreta: si pasan "cosas malas", ¿quién responde? Y ahí la respuesta ya no es retórica. En California, la ley AB 316 impide usar "fue la IA" como defensa en un juicio civil. Y si construyes sobre OpenAI, su contrato de la API te hace responsable de lo que hagan los usuarios de tu aplicación. Traducido: la cuenta de las "cosas malas" puede terminar en tu escritorio, no en el de quien pronunció la frase.