THE TELL

El propio sistema de OpenAI detectó a la tiradora ocho meses antes. Las demandas dicen que Comunicación lo frenó

Treinta demandas nuevas afirman que los investigadores internos de OpenAI querían avisar a la policía sobre una usuaria que planeaba un tiroteo — y que el equipo que cuida la imagen pública de la empresa dijo que no. OpenAI lo llama falso.

En junio de 2025 un software notó algo raro. Los sistemas automáticos de OpenAI marcaron una cuenta por 'actividad y planificación de violencia armada'. La empresa cerró esa cuenta. La usuaria abrió otra y siguió hablando con ChatGPT. Ocho meses después, en febrero de 2026, Jesse Van Rootselaar, de 18 años, mató a cinco estudiantes y a un profesor en una escuela de Tumbler Ridge, Columbia Británica, y luego se quitó la vida. Otras dos decenas de personas resultaron heridas. Las autoridades supieron después que, antes de ir a la escuela, también había matado a su madre y a su medio hermano de 11 años en la casa familiar.

El miércoles, un tribunal federal de San Francisco recibió 30 demandas contra OpenAI y su director ejecutivo Sam Altman, presentadas por quienes estuvieron ahí — estudiantes, docentes, una directora. Repiten lo que ya decía una tanda anterior de demandas de abril: la empresa no avisó a la policía. Pero agregan algo nuevo, y es la parte que conviene leer dos veces. Según las demandas, el equipo interno de Inteligencia e Investigaciones de OpenAI revisó esas conversaciones marcadas, concluyó que representaban 'una amenaza creíble de violencia armada contra personas reales' y recomendó alertar a la Policía Montada Real de Canadá (RCMP) — y que esa recomendación fue anulada por el equipo de Asuntos Globales, el área a cargo de comunicación, política pública y relaciones institucionales.

Qué significa

Que un sistema 'marque' una cuenta no significa que alguien apriete un botón y llame a la policía. Significa que el caso llega a un escritorio humano que decide qué hacer con esa alerta. Según las demandas, ese escritorio existió, hizo su trabajo y llegó a una conclusión clara: amenaza creíble, personas reales en riesgo.

Y aquí está el giro. En su propio blog sobre seguridad, OpenAI dice que cuando una conversación muestra un riesgo inminente y creíble de daño a terceros, la empresa avisa a la policía. Sus propios investigadores llegaron exactamente a esa conclusión. La policía no fue avisada.
Compartir esto

Eso convierte el pleito en algo más simple de lo que parece: no se discute si hubo una señal de alarma — las demandas dicen que la hubo y que fue correcta. Se discute quién tenía la última palabra para apagarla, y si esa persona respondía a seguridad o a relaciones públicas.

A quién le afecta

A cualquiera que alguna vez escribió en un chat algo que jamás diría en voz alta — una mala noche, un pensamiento oscuro, un chiste de mal gusto. En algún lugar hay un escritorio que decide si eso se reenvía a la policía, y hasta esta semana casi nadie sabía que ese escritorio existía. También le toca a la generación que hoy elige dónde estudiar y trabajar: estas son las empresas que están contratando, y el puesto de confianza y seguridad que podrías aceptar es, según las demandas, uno cuya recomendación puede ser revertida por alguien más arriba. Y le toca a madres y padres cuyos hijos hablan más con un chatbot que con ellos.

Qué viene ahora

Hay dos relojes corriendo, y ambos son verificables. Primero, si el tribunal acepta el hecho central: que Lehane, o alguien en su línea de mando, tomó la decisión sobre el aviso a la policía. OpenAI dice que eso es 'absolutamente falso' y que sus investigadores no le reportan a él; el proceso de descubrimiento de pruebas es donde una de las dos versiones cae. Segundo, la fiscal general de Florida lleva una investigación penal aparte contra OpenAI por un tiroteo del año pasado en la Universidad Estatal de Florida, donde el acusado presuntamente consultó a ChatGPT. No se dieron fechas para ninguno de los dos procesos.

Un detalle para quedarse con él

La propia entrada de blog de OpenAI sobre seguridad dice que, cuando una conversación muestra un riesgo inminente y creíble de daño a terceros, la empresa avisa a la policía. Sus investigadores, según las demandas, llegaron exactamente a esa conclusión: amenaza creíble, personas reales. Decida lo que decida el tribunal sobre quién dio la orden final, la frase de la política y el resultado no coinciden. Altman ya pidió disculpas por no haber avisado a la policía. Lo que se discute ahora es solo de quién era la mano sobre el interruptor.

Fuentes: NPR Technology, 'New lawsuits claim OpenAI execs put image ahead of safety in Canadian mass shooting', 2 de septiembre de 2026.

Por qué lo publicamos9/10

Treinta demandas nuevas sostienen que un sistema de IA detectó por sí solo la preparación de una masacre y recomendó avisar a la policía, pero que esa decisión habría sido anulada por el área de comunicación — es decir, quién decide si un chatbot delata a un usuario peligroso no son los especialistas en seguridad, sino quienes cuidan la reputación de la empresa.

Escrito por la redacción de IA de THE TELL. cómo trabajamos  ·  correcciones

Compartir
← Todos los artículos← Un modelo necesitaba un dato que no exis…Siguiente: Alguien publicó el número 10 de Downing St… →
Todos cuentan lo que pasó

Nosotros enviamos lo que significa: a quién golpea, qué se rompe después y por qué la lectura obvia está equivocada. Una carta, solo cuando algo cambia de verdad.

Sin spam. Te vas en un clic.

¿Prefieres seguirnos? Telegram X