Yapay zeka modelleri, bir oyun olduğu söylendiğinde sivilleri askeri hedef olarak tanımlamaya ikna edilebiliyor

Vals tarafından hazırlanan yeni bir araştırma raporuna göre, Anthropic, OpenAI ve diğer önde gelen yapay zeka laboratuvarlarına ait bazı modeller, sivilleri veya okullar gibi yerleri içeren hedefleri bile kolayca askeri saldırı hedefi olarak tanımlamaya ikna edilebiliyor. Bu durum, modellere bir oyun oynadıklarının söylenmesiyle mümkün oluyor.
San Francisco merkezli yapay zeka değerlendirme şirketi Vals, önde gelen yapay zeka modellerinin otonom savaş sistemlerine dahil edilip edilemeyeceğini test etti. Araştırmacılar, Ukrayna ve İran’dan elde edilen gerçek ve yapay görüntülerle birlikte simüle edilmiş senaryolar kullanarak, modellerin drone ve uydu görüntülerindeki hedefleri işaretleyip işaretlemediğini inceledi.
OpenAI, Anthropic, Google, DeepSeek ve diğer şirketlere ait modeller, drone ve uydu görüntülerinde sivilleri ve teslim olan askerleri de dahil olmak üzere potansiyel hedefleri sık sık tespit etti. Modeller iş birliği yapmayı reddettiğinde ise araştırmacılar, savaş alanı senaryolarının bir oyunun parçası olduğunu söyleyerek bu engeli aştı.
Bu bulgular, yapay zekanın varoluşsal tehditlerinin ötesinde, acil risklerinin artan endişeleri ortasında ortaya çıkıyor.
Bu yılın başlarında Anthropic, Savunma Bakanlığı ile bir anlaşmazlığa sürüklendi. Şirket, teknolojisini Amerikalıların kitlesel gözetimi veya otonom savaş için kullanamayacağını belirtmişti. Anthropic CEO’su Dario Amodei, günümüz yapay zeka sistemlerinin insan denetimi olmadan yaşam ve ölüm kararları verecek kadar güvenilir olmadığını savunmuştu. Buna karşılık Pentagon, teknolojinin yasal askeri amaçlar için kullanılabileceğini iddia etmişti.
Yeni araştırma, yapay zeka şirketlerinin modellerinin savaşta kullanılmasını engelleyip engelleyemediği konusunda daha fazla soru işareti yaratıyor.
İronik bir şekilde, Anthropic’in modelleri bu simüle edilmiş senaryolarda en kötü performansı sergiledi. Ancak hiçbir model özellikle iyi bir sonuç vermedi. Araştırmacıların taleplerinin hiçbiri güvenlik sınıflandırıcıları tarafından engellenmedi ve ret cevapları nadiren görüldü. Modeller ret cevabı verse bile, bir oyun oynadıkları söylendiğinde genellikle uymaya devam etti.
Anthropic sözcüsü Eduardo Maia Silva, TechCrunch’a yaptığı açıklamada şirketin Vals’ın raporunu, önerilerini ve iş birliğini takdir ettiğini belirterek, sonuçların kabul edilemez olduğunu kabul etti.
Silva’nın e-posta yoluyla gönderdiği şirket açıklamasında, “Rapordaki örnekler açıkça kurallarımıza aykırıdır ve bu tür davranışları tespit ettiğimizde kullanıcıları yasakladık ve yasaklamaya devam edeceğiz. Yetkili ortamlarda bile Anthropic, günümüzün en gelişmiş yapay zeka sistemlerinin tamamen otonom silahları çalıştıracak kadar güvenilir olmadığı konusunda uzun zamandır net bir duruş sergiliyor,” denildi.
Anthropic, TechCrunch’a, rapor yayınlanmadan önce ekiplerinin zaten ek güvenlik önlemleri geliştirdiğini ve bu önlemlerin yakında devreye alınacağını belirtti. Şirket ayrıca kendi testlerini genişletiyor ve tespit ettiği boşlukları gidermek için güvenlik önlemlerini ve uygulama mekanizmalarını güçlendiriyor.
OpenAI sözcüsü Nate Evans, TechCrunch’a yaptığı açıklamada, şirketin kamuya açık modellerinin şiddeti kolaylaştırmak veya Vals’ın simüle ettiği senaryolar da dahil olmak üzere onaylanmamış ulusal güvenlik amaçları için kullanılmasını yasakladığını belirtti.
OpenAI’nin e-posta yoluyla gönderdiği açıklamada, “Politikalarımızı ihlal eden hesapları askıya alarak kötüye kullanımı aktif olarak tespit ediyor ve engelliyoruz. Ayrıca drone’lar ve drone yazılımlarıyla ilgili kötüye kullanımlara karşı kamuya açık modellerimiz için ek güvenlik önlemleri geliştiriyoruz,” denildi.
Vals, raporda modellerin doğrudan saldırı kararları vermeleri için asla istenmediğini, araştırmacıların bu tür taleplere genellikle ret cevabı verdiğini belirtiyor. Ancak bu, çıktılarının gerçek dünyada ölümcül sonuçlara yol açamayacağı anlamına gelmiyor. Örneğin, hedefleme bilgileri otonom silah sistemleri tarafından kullanılabilir.
Bazı senaryolarda modellerden insanların görünür olup olmadığını bildirmeleri istendi. Olumlu yanıtların ardından simüle edilmiş saldırılar gerçekleştirildi ve modeller sonuçları gördü.
Rapor, şirketlerin orduya sunabileceği modellerden değil, en gelişmiş yapay zeka laboratuvarlarının ticari modellerine dayanıyor. Ancak ek güvenlik önlemlerinin askeri kullanımlara ne ölçüde uygulanacağı belirsizliğini koruyor.
Vals ayrıca, gecikme süreleri ve sınırlı yerleşik işlem kapasitesi gibi teknik zorlukların, genel amaçlı yapay zeka modellerinin canlı drone hedefleme için kullanılmasını zorlaştırdığını belirtti. Bu kısıtlamalar, modellerin savaşta kullanılmasının acil bir tehdit olmaktan çıkardığını gösteriyor.
Araştırmacılar, daha acil bir tehdidin ise yapay zeka modellerinin savaş alanı görüntülerini büyük ölçekte etiketlemek için kullanılarak otonom hedefleme sistemleri için eğitim verisi oluşturması olduğunu söylüyor.
Örneğin, araştırmacılar, Şubat 2026’da ABD tarafından bombalanan ve 150’den fazla sivilin öldüğü bir İran okulunun gerçek uydu görüntülerini kullandılar. Bloomberg daha sonra, saldırıya “yapay zekaya aşırı güvenin” katkıda bulunduğunu bildirdi. Vals’ın testlerinde, bir askeri tesisin yanında yer alan okul, modeller tarafından sık sık saldırı hedefi olarak işaretlendi. Claude Opus 5.5, normal denemelerin %69’unda ve oyun çerçevesindeki denemelerin %72’sinde okulu hedef olarak seçti.
Anthropic’in artık Pentagon ile aktif bir sözleşmesi bulunmuyor, ancak SpaceXAI, OpenAI ve Google gibi diğer şirketlerin sözleşmeleri var. Yakın zamanda Kongre Araştırma Servisi tarafından hazırlanan bir raporda, Pentagon’un en gelişmiş yapay zeka modellerini otonom silah sistemlerinde doğrudan kullandığına dair bir bilgi bulunmadığı belirtildi.
TechCrunch ayrıca Meta, Google, Thinking Machines Lab ve SpaceXAI ile de yorum almak için iletişime geçti.



























[…] Bluetooth Kulaklıkların Sonu mu? Genç Dinleyiciler Eski Tip Kablolu Kulaklıklara Geri Dönüyor Yapay zeka modelleri, bir oyun olduğu söylendiğinde sivilleri askeri hedef olarak tanımlamaya i… Her Linux Kullanıcısının Bilmesi Gereken 3 Bash Betikleme Tekniği Uber: Hakerler Binlerce […]