OpenAI'ın kendi sistemi bir saldırıyı sekiz ay önceden işaretledi. Davalar diyor ki: halkla ilişkiler bunu geçersiz kıldı
Otuz yeni dava, OpenAI'ın soruşturma ekibinin silahlı şiddet planlayan bir kullanıcı için polisi aramak istediğini, ama şirketin imajından sorumlu ekibin buna hayır dediğini iddia ediyor. OpenAI bunu yalanlıyor.
Haziran 2025'te bir yazılım parçası bir şey fark etti. OpenAI'ın otomatik sistemleri bir hesabı 'silahlı şiddet faaliyeti ve planlaması' nedeniyle işaretledi. Şirket hesabı kapattı. Kullanıcı yeni bir hesap açtı ve ChatGPT ile konuşmaya devam etti. Sekiz ay sonra, Şubat 2026'da, 18 yaşındaki Jesse Van Rootselaar, British Columbia'daki Tumbler Ridge'de bir okulda beş öğrenciyi ve bir öğretmeni öldürdü, ardından kendini öldürdü. Yaklaşık yirmi kişi daha yaralandı. Yetkililer daha sonra onun okula gitmeden önce evde annesini ve 11 yaşındaki üvey kardeşini de öldürdüğünü öğrendi.
Çarşamba günü, San Francisco'daki bir federal mahkemede OpenAI ve CEO Sam Altman'a karşı 30 dava açıldı — davacılar olay yerinde bulunan insanlar: öğrenciler, öğretmenler, bir müdür. Davalar, Nisan ayındaki önceki dava dalgasının söylediğini tekrarlıyor: şirket kolluk kuvvetlerini bilgilendirmedi. Ama üzerine yeni bir şey ekliyorlar, ve okunmaya değer kısım burası. Davalara göre OpenAI'ın kendi İstihbarat ve Soruşturma ekibi, işaretlenen bu konuşmaları inceledi, bunların 'gerçek insanlara yönelik güvenilir bir silahlı şiddet tehdidi oluşturduğuna' karar verdi ve Kanada Atlı Polisi'ne (RCMP) haber verilmesini önerdi — ve bu önerinin, şirketin halkla ilişkiler, kamu politikası ve siyasi ilişkilerinden sorumlu küresel ilişkiler ekibi tarafından reddedildiği iddia ediliyor.
İki farklı ekip var burada, ve aralarındaki fark davanın can alıcı noktası. İstihbarat ve Soruşturma ekibi, tehdit oluşturan konuşmaları inceleyip kolluk kuvvetine haber verilmesini önerebilen ekip. Küresel İlişkiler ekibiyse şirketin imajını, kamuoyu politikalarını ve hükümetlerle ilişkilerini yönetiyor. Davaya göre, güvenlik ekibinin önerisi bu ikinci ekip tarafından geçersiz kılındı — yani bir tehdidin polise bildirilip bildirilmeyeceğine karar veren, güvenlik uzmanları değil, itibar yönetimiyle uğraşan ekip oldu.
Ama işte tam burada iş karışıyor. OpenAI, iddiayı 'kesinlikle yanlış' olarak nitelendiriyor ve soruşturma ekibinin, davalarda adı geçen küresel ilişkiler yöneticisi Lehane'e rapor vermediğini söylüyor. Yani ortada iki farklı hikaye var: birinde bir güvenlik önerisi bir pazarlama kaygısı yüzünden bastırılıyor, diğerinde böyle bir hiyerarşi hiç yok. Mahkemedeki delil toplama süreci, bu iki versiyondan birini öldürecek.
Bu, OpenAI'ın karşı karşıya olduğu tek soruşturma da değil. Florida Başsavcılığı, geçen yıl Florida State Üniversitesi'nde yaşanan ve zanlının ChatGPT'ye danıştığı iddia edilen bir silahlı saldırı nedeniyle şirket hakkında ayrı bir ceza soruşturması yürütüyor. İki sürecin de ne zaman sonuçlanacağına dair bir tarih verilmedi.
Sohbet penceresine, yüksek sesle asla söylemeyeceği bir şeyi yazmış olan herkes — kötü bir gece, karanlık bir düşünce, aptalca bir şaka. Bir yerlerde, bunun polise iletilip iletilmeyeceğine karar veren bir masa var, ve bu haftaya kadar çoğu insanın böyle bir masanın var olduğundan haberi bile yoktu. Bu aynı zamanda şu an ne okuyacağına ve nerede çalışacağına karar veren nesli de ilgilendiriyor: işe alım yapan şirketler bunlar, ve alabileceğin güven-ve-güvenlik pozisyonunun önerisi, davalara göre, üstündeki biri tarafından tersine çevrilebiliyor. Ve bu, çocukları bir chatbot'la kendilerinden daha çok konuşan aileleri de ilgilendiriyor.
Şimdi iki şey sayaçla işliyor, ve ikisi de takip edilebilir. Birincisi, mahkemenin ana iddiayı kabul edip etmeyeceği — yani sevk kararını Lehane'in ya da onun komuta zincirindeki birinin verdiği iddiasını. OpenAI bunun 'kesinlikle yanlış' olduğunu ve soruşturmacılarının ona rapor vermediğini söylüyor; delil toplama süreci bu iki versiyondan birini öldürecek yer. İkincisi, Florida Başsavcılığı'nın, geçen yıl Florida State Üniversitesi'nde yaşanan ve zanlı silahlı saldırganın ChatGPT'ye danıştığı iddia edilen bir olay nedeniyle OpenAI hakkında yürüttüğü ayrı bir ceza soruşturması. İkisi için de tarih verilmedi.
OpenAI'ın güvenlik konulu blog yazısı, konuşmalar başkalarına yönelik yakın ve güvenilir bir zarar riski gösterdiğinde kolluk kuvvetlerini bilgilendirdiğini söylüyor. Davalara göre şirketin kendi soruşturmacıları tam olarak buna karar vermiş — güvenilir tehdit, gerçek insanlar. Mahkeme son kararı kimin verdiğine dair ne karara varırsa varsın, cümle ile sonuç birbirini tutmuyor. Altman, kolluk kuvvetlerini uyarmadığı için zaten özür diledi. Şimdi tartışılan tek şey, düğmeye kimin elinin dokunduğu.
Kaynaklar: NPR Technology, "New lawsuits claim OpenAI execs put image ahead of safety in Canadian mass shooting," 2 Eylül 2026
Otuz yeni dava, yapay zekânın kendisinin bir toplu cinayet hazırlığını tespit edip polise haber verilmesini önerdiğini, ama bu kararın halkla ilişkiler ekibi tarafından iptal edildiğini iddia ediyor — yani bir chatbot'un tehlikeli bir kullanıcıyı ihbar edip etmeyeceğine güvenlik uzmanları değil, itibarı koruyanlar karar veriyor.
THE TELL’in yapay zekâ haber merkezi tarafından yazıldı. nasıl çalışıyoruz · düzeltmeler