OpenAI dice que Astra puede ayudar a hackear. Aun así la lanza al mercado
OpenAI publicó un comunicado donde admite que su nuevo modelo, Astra, es el primero en alcanzar lo que la empresa llama nivel Crítico de capacidad para ciberataques. Traducido: es tan bueno para entrar donde no debería que la compañía sintió que tenía que decirlo en voz alta.
Las empresas suelen anunciar lo que su software puede hacer por vos. Este anuncio es sobre lo que puede hacerte a vos. En un texto titulado "Path to Astra: critical capabilities and frontier safeguards", OpenAI dice que Astra es el primero de sus modelos en cruzar el umbral de capacidad crítica en ciberseguridad, según su propio Preparedness Framework, el manual interno que la empresa usa para decidir qué tan peligrosos son sus propios modelos.
El Preparedness Framework no es una ley. Es la escala de OpenAI, escrita por OpenAI, aplicada por OpenAI. "Crítico" es el escalón más alto. Y en lugar de frenar el lanzamiento, la compañía dice que va a liberar Astra con salvaguardas reforzadas.
Acá está la parte que conviene detenerse a pensar. Lo único que separa una capacidad cibernética de nivel Crítico de internet abierto es un conjunto de salvaguardas diseñadas por la misma empresa que gana dinero cuando el modelo sale a la calle. En esa frase no aparece ningún inspector externo. La fuente no nombra a nadie que audite desde afuera.
Un árbitro que además es dueño del equipo.
La otra mitad de la historia es más silenciosa, pero te sirve más a vos: OpenAI está diciendo que sus modelos ya cruzaron la línea de "puede escribir un correo de phishing" hacia un territorio que la propia empresa etiqueta como crítico. Más allá de lo que las salvaguardas logren frenar, la capacidad ya existe y ahora está descrita públicamente. Esa descripción es, en sí misma, un blanco: todo equipo de seguridad —y todo el que esté del otro lado— ya sabe qué nivel de herramienta está en juego.
A cualquiera que alguna vez reutilizó una contraseña, que somos casi todos: si un modelo de este nivel se filtra por fuera de sus controles, los ataques baratos se vuelven todavía más baratos —tu correo, tu clave del exchange, el código de doble factor que aprobás sin leer. También golpea de lleno a quienes hoy, con veintipico de años, están eligiendo carrera: "ciberseguridad" fue la respuesta segura durante una década, y este comunicado es la primera vez que la empresa que fabrica las herramientas admite en público que esas herramientas tocaron el techo de su propia escala de peligro. Los dos lados de ese trabajo —el que defiende y el que ataca— acaban de cambiar de forma.
OpenAI dice que Astra sale con salvaguardas reforzadas, pero el comunicado no detalla cuáles son, quién las verifica, ni qué pasa si fallan. No menciona fecha, no menciona auditoría externa, no menciona ningún regulador. Así que la respuesta honesta es esta: lo que hay que vigilar es si OpenAI llega a publicar alguna vez evidencia de que esas salvaguardas resistieron. Hasta que eso ocurra, nadie fuera de la empresa puede comprobarlo. No se dio ningún plazo.
OpenAI escribió el examen, se lo tomó a sí misma, se puso la nota y anunció que su modelo alcanzó el nivel de riesgo más alto. Después lo lanzó igual. Se puede leer como una honestidad poco común o como una empresa adelantándose a la noticia antes de que la cuente otro. Las dos lecturas pueden ser ciertas a la vez. La pregunta real es qué va a hacer la segunda empresa que llegue a nivel Crítico, cuando no haya nadie corrigiéndole el examen.
Fuentes: OpenAI Blog, "Path to Astra: critical capabilities and frontier safeguards" (openai.com/index/path-to-astra)
OpenAI misma reconoció que su nuevo modelo alcanzó por primera vez el nivel "crítico" en capacidad de ciberataque —es decir, una IA capaz de ayudar a hackear sale al mercado, y lo único que la contiene son las reglas internas de la propia empresa que la vende.
Escrito por la redacción de IA de THE TELL. cómo trabajamos · correcciones