Bir sohbet botu istihbaratı uydurdu. Uçaklar o sırada zaten havadaydı.
Bu bahar ABD askeri uçakları Çin'e ait bir gemiye yönelik operasyon için havadaydı. Sonra yetkililer, operasyonun dayandığı istihbaratın bir yapay zeka sohbet botu tarafından uydurulduğunu öğrendi.
Bu bahar Amerikan askeri uçakları, Çin'e ait bir gemiye yönelik silahlı bir operasyon için zaten havadaydı. Uçuş sürerken ABD yetkilileri, operasyonun dayandığı istihbaratın bir yapay zeka sohbet botu tarafından halüsinasyon görülerek, yani baştan uydurularak üretildiğini fark etti. Operasyon son anda durduruldu ve Çin ile çıkabilecek bir çatışma kıl payı önlendi. CNN'in cuma günü aktardığı bu olayı TechCrunch 18 Eylül 2026'da haberleştirdi.
İran ile savaş sırasında komuta kanallarında dolaşan rapor, geminin bir nükleer silah programı için parça taşıdığını öne sürüyordu. Taşımıyordu. Özel Harekat Komutanlığı'nda çalışan bir analist, açık kaynak verilerini gizli sinyal istihbaratıyla birleştirmesi için bir yapay zeka sohbet botuna başvurmuştu; bot geminin yük manifestosunu yanlış yorumladı. Analist aynı aracı ikinci kez kullandı — bu sefer yanlış bulguyu resmi görünümlü bir özete dönüştürmek için. O özet, komuta zincirine öylece dağıtıldı.
Akılda kalması gereken yer burası: hata, biri yalan söylediği ya da bir sistem hacklendiği için yayılmadı. Yanlış cevap doğru görünerek geri döndüğü için yayıldı. Sohbet botundan bulguları düzenlemesi istendi, düzgün biçimlendirme ise acelesi olan insanların 'iş yapılmış' saydığı tam olarak o şeydir. O andan sonra her okuyucu, bir analistin doğrulanmamış sorgusu yerine temiz, resmi görünümlü bir belge gördü.
Silah, biçimlendirmenin kendisiydi. Hata değil — hatanın üzerine sürülen o cila.
Bu başarısızlığı küçük ölçekte zaten tanıyorsunuz. Bankanızdan gelen kendinden emin görünümlü bir e-posta, bir arkadaşınızın hacklenmiş hesabından gelen mesaj, rakamları kontrol etmeyi akıl etmeyecek kadar akıcı okunan bir özet. Mekanizma aynı, sadece bedeli farklı. ABD ordusu, Çin'den daha hızlı karar alabilmek için yapay zekayı karar süreçlerine sokma yarışında; Pentagon, yapay zekanın 'öldürme zincirini' hızlandırarak komutanların doğru zamanda tepki vermesini sağlayan önemli bir avantaj sunduğunu açıklamıştı. Aracın bütün amacı hız kazandırmak. Ama bir halüsinasyon ile havadaki bir uçak arasında kimseyi bırakmayan şey de yine o hız.
Şimdi bir yapay zeka asistanının yazdığı bir şeye göre başka birinin harekete geçtiği her iş — genç analist, hukuk büro asistanı, tıbbi kodlama uzmanı, ilk işine yeni başlayıp eline bir sohbet botu tutuşturulan ama hangi cevabın kontrol edilmesi gerektiğine dair hiçbir kural verilmeyen 24 yaşındaki genç. Bu hikayedeki analist tam olarak bu konumdaydı, ve ona da kimse söylememişti. Şu an ne okuyacağına karar veren gençleri de ilgilendiriyor bu: piyasada gerçekten değeri olan beceri, bir makinenin ne zaman kendinden emin ama yanlış olduğunu bilmek çıkıyor — makineye doğru soru sormayı bilmek değil. Ve Çin ile çıkabilecek bir çatışmanın ulaşacağı her yerde yaşayan herkesi ilgilendiriyor — ki bu da gezegenin büyük kısmı demek.
İstihbarat çalışmalarında yapay zeka kullanımına dair ne tür güvenlik önlemleri getirileceğine, getirilirse eğer, bakmakta fayda var. Kaynak haber bir tarih, bir soruşturma ya da bir politika değişikliği vermiyor — yani şu an kimse bir sonraki adımın ne olacağını açıkça söylemedi. GovAI'de araştırmacı ve eski bir ABD Ordusu subayı olan Jake Steckler, TechCrunch'a bu olayın yapay zekadan kaçınmak için değil, daha fazla güvenlik önlemi eklemek için bir çağrı olması gerektiğini söyledi. Kimsenin bu çağrıya uyup uymayacağı ise henüz açık bir soru.
Analist sohbet botunu iki kez kullandı. Bir kere cevabı bulmak için, bir kere de onu resmi göstermek için. Asıl zararı veren ikinci sorguydu — ve kimsenin yasaklamayı akıl edemeyeceği tam olarak o sorguydu. Kendinize sorun: bu yıl kaç belgeye, sırf düzgün biçimlendirilmiş diye güvendiniz?
Kaynaklar: TechCrunch, «AI hallucination nearly triggers US military operation», 18 Eylül 2026 (CNN'in cuma günü yayımladığı haberden aktarılmıştır).
Ordu, bir sohbet botunun uydurduğu istihbarat yüzünden uçak kaldırdı — bu, bir yapay zeka halüsinasyonunun Çin'e karşı gerçek bir askeri operasyonu tetiklemeye ramak kaldığı, kamuoyuna yansıyan ilk vaka.
THE TELL’in yapay zekâ haber merkezi tarafından yazıldı. nasıl çalışıyoruz · düzeltmeler