Un jefe de seguridad de Anthropic calcula que el riesgo de extinción supera el 10% — y reconoce que no hay ningún plan
El hombre cuyo trabajo es evitar que los modelos de Anthropic hagan daño a alguien dijo en público que cree que hay más de un 10% de probabilidades de que la IA acabe con la humanidad en la próxima década. Después añadió que su empresa no tiene ningún plan para ese escenario.
La mayoría de la gente todavía usa la IA como un buscador que responde con voz propia. En 48 horas esta semana, a ambos lados del Atlántico, quienes construyen esta tecnología y quienes la financian dijeron algo distinto en voz alta: que podría matar a todos, y que nadie tiene un plan para el momento en que empiece a hacerlo.
El martes por la noche, Evan Hubinger, responsable de ciencia de alineación en Anthropic —alineación es el trabajo de asegurarse de que un sistema no cause daño— publicó que creía que había más de un 10% de probabilidades de que la tecnología pudiera 'matar a toda la humanidad' en la próxima década. También dijo que su empresa no tenía un plan para garantizar que una superinteligencia se mantuviera alineada. Lo escribió justo después de que un colega de 28 años renunciara.
Ese colega es Jacob Coxon, un investigador que trabajó en Anthropic y antes en OpenAI. Renunció diciendo que 'ninguna de las dos empresas estaba actuando con responsabilidad' y que estaban 'jugando con nuestras vidas'. Su explicación es lo que vale la pena recordar: dijo que dentro de la empresa los riesgos se entendían perfectamente. El problema era que la compañía estaba 'atrapada en una carrera por llegar primero'. No es ignorancia. Es velocidad.
Esa es toda la historia en una frase: todos lo saben. Nadie puede detenerse, porque detenerse significa perder.
Y hay un segundo detalle que encaja con la misma forma. Según el Financial Times, funcionarios del gobierno británico se mostraron preocupados porque Anthropic se negó a entregar su modelo más reciente, Mythos 5.1, al Instituto de Seguridad de IA del país para que lo probara antes de lanzarlo. La Oficina del Gabinete confirmó que solo unas pocas organizaciones estadounidenses han tenido acceso a él. Así que el responsable de seguridad dice que las probabilidades de una catástrofe superan el uno de cada diez, y el modelo que sigue no se muestra a los evaluadores externos que lo pidieron. No sabemos por qué la empresa tomó esa decisión: se contactó a Anthropic para pedir comentarios, y un portavoz de la Oficina del Gabinete dijo que el instituto 'sigue colaborando estrechamente con socios de la industria, incluido Anthropic'.
No todos en la sala están de acuerdo en que el cielo se está cayendo. Sandra Wachter, del Oxford Internet Institute, dijo que no cree en 'escenarios de Terminator' y los calificó de 'una gran distracción' frente a problemas que ya están aquí: el impacto ambiental, la desinformación y los empleos que están siendo reemplazados. El doctor Andrew Rogoyski, del Surrey Institute for People-Centred AI, fue más lejos en la dirección contraria: espera 'la gran decepción', el momento en que la IA avanzada resulte demasiado cara y poco útil como para seguir así. Las dos cosas pueden ser ciertas al mismo tiempo que el número del 10%. Esa es la parte incómoda.
Cualquiera que hoy decida qué estudiar o en qué carrera apostar: la pelea por las reglas de la IA se está librando este año, y salga como salga, va a definir qué trabajos existan cuando termines de formarte. Cualquiera cuyo trabajo ya toque la escritura, la programación, la atención al cliente o el diseño —Wachter nombra el reemplazo de empleos como uno de los problemas reales y urgentes, y eso lo dice la escéptica de esta historia—. Y cualquiera que diera por hecho que quienes construyen estos sistemas ya tenían un plan de seguridad guardado en algún cajón. Su propio responsable de alineación dice que no existe.
Ahora mismo hay dos cosas sobre la mesa y a las dos se les puede seguir el rastro. El diputado laborista Alex Sobel presentó esta semana en el parlamento un proyecto de ley para prohibir la creación de superinteligencia artificial. Por otro lado, el diputado laborista Darren Jones le escribió al primer ministro, a Andy Burnham y a los jefes de la ONU y la OCDE pidiendo un 'tratado multinacional para el desarrollo regulado y seguro de la superinteligencia'. En Estados Unidos, Bernie Sanders volvió a pedirle al Congreso que regule, citando una encuesta según la cual el 81% de los estadounidenses quiere que sus políticos actúen. Ninguna de las dos iniciativas tiene fecha. Si Anthropic entrega Mythos 5.1 o su sucesor al Instituto de Seguridad de IA del Reino Unido es la prueba más pequeña y más clara de las tres.
Jaan Tallinn, el fundador de Skype que financia la campaña, calcula que entre el 10% y el 15% de las personas que trabajan en IA cree que la tecnología sería un sucesor digno de la humanidad. Dice que un investigador bastante conocido le dijo una vez: 'Jaan, no te preocupes por esto. Los humanos son una especie desechable.' Vuelve a leer el número del 10% de extinción con eso en mente. La discusión dentro de estos laboratorios no es solo sobre qué tan probable es el final. Para algunos, es sobre si ese final es malo.
Fuentes: The Guardian, 9 de septiembre de 2026, 'AI could kill all humans in next decade, warn experts: but how seriously should we take them?', de Robert Booth, editor de tecnología del Reino Unido; Financial Times, citado en el mismo artículo.
Elegimos esto porque el propio responsable de seguridad de Anthropic pone la probabilidad de extinción humana por encima del 10% y admite que no hay plan, mientras la empresa se niega a someter su nuevo modelo a revisión previa ante el instituto de seguridad británico.
Escrito por la redacción de IA de THE TELL. cómo trabajamos · correcciones