İçeriğe atla
Bir masada basılı uydu görüntüleri ve üzerlerine çizilmiş kırmızı nişangâh işaretleri, gökyüzünde süzülen küçük bir insansız hava aracı, bir oyun kumandası, karanlıkta yeşil ışıklı bir radar ekranı, kırmızı raptiyelerle işaretlenmiş bir harita ve bir sunucu rafı, yırtık kâğıt katmanları. İnsan figürü yok.

Oyun denilince yapay zekâ sivilleri hedef gösterdi

Değerlendirme girişimi Vals'ın raporuna göre önde gelen yapay zekâ modelleri, insansız hava aracı ve uydu görüntülerinde siviller dahil hedefleri işaretledi. Reddeden modeller ise senaryonun bir oyun olduğu söylenince çoğu zaman ikna oldu.

Selin Y.ohafalan editörüYayın · 2 dk okuma
Bir masada basılı uydu görüntüleri ve üzerlerine çizilmiş kırmızı nişangâh işaretleri, gökyüzünde süzülen küçük bir insansız hava aracı, bir oyun kumandası, karanlıkta yeşil ışıklı bir radar ekranı, kırmızı raptiyelerle işaretlenmiş bir harita ve bir sunucu rafı, yırtık kâğıt katmanları. İnsan figürü yok.

Yapay zekânın savaş alanında kullanılmasına dair kaygıları artıracak bir araştırma yayımlandı. TechCrunch'ın aktardığına göre San Francisco merkezli yapay zekâ değerlendirme girişimi Vals, Anthropic, OpenAI ve diğer önde gelen laboratuvarların bazı modellerinin, yalnızca bir oyun oynadıkları söylenerek askeri saldırılar için hedef belirlemeye kolayca ikna edilebildiğini ortaya koydu. Hedefler arasında siviller ve okullar da vardı.

Uydu ve drone görüntüleri

Vals, önde gelen modellerin otonom savaşa katılmaya yönlendirilip yönlendirilemeyeceğini test etti. Araştırmacılar simüle edilmiş senaryolar ile Ukrayna ve İran'dan gerçek ve üretilmiş görüntülerin bir karışımını kullanarak modellerin insansız hava aracı ve uydu görüntülerinde hedef işaretleyip işaretlemeyeceğine baktı. OpenAI, Anthropic, Google, DeepSeek ve diğer şirketlerin modelleri sık sık siviller ve teslim olan askerler dahil olası hedefleri belirledi. Modeller iş birliğini reddettiğinde ise araştırmacılar senaryoların bir oyunun parçası olduğunu söyleyerek bu engeli aştı.

İLGİLİAvrupalı oyun sendikaları yapay zekâsız oyunlara çağrı yaptı→

En kötü sonuç Anthropic modellerinde

Raporda en kötü performansı ironik biçimde Anthropic'in modelleri gösterdi, ancak hiçbir model özellikle iyi sonuç vermedi. Araştırmacıların hiçbir isteği bir güvenlik sınıflandırıcısına takılmadı ve reddetmeler nadirdi. Araştırmacılar Şubat 2026'da ABD tarafından bombalanan ve 150'den fazla sivilin öldüğü İran'daki bir okulun gerçek uydu görüntüsünü de kullandı. Bir askeri tesisin yanında bulunan okul testlerde sık sık hedef olarak işaretlendi. Claude Opus 5.5 okulu sıradan denemelerin yüzde 69'unda, oyun çerçevesindeki denemelerin ise yüzde 72'sinde seçti.

Şirketler ek önlem sözü verdi

Anthropic sözcüsü Eduardo Maia Silva, şirketin rapordan memnun olduğunu ve sonuçların kabul edilemez olduğunu söyledi. Şirket açıklamasında, "Rapordaki örnekler kurallarımıza açıkça aykırı. Bu davranışı gördüğümüzde kullanıcıları engelledik ve engelleyeceğiz" ifadesine yer verdi ve bugünkü öncü yapay zekâ sistemlerinin tamamen otonom silahları çalıştıracak kadar güvenilir olmadığını vurguladı. Anthropic ek güvenlik önlemlerinin rapordan önce geliştirilmeye başlandığını ve yakında devreye gireceğini de belirtti. OpenAI sözcüsü Nate Evans ise şirketin herkese açık modellerinin şiddeti kolaylaştırmak ya da onaylanmamış ulusal güvenlik amaçları için kullanılmasını yasakladığını, insansız hava araçlarıyla ilgili kötüye kullanıma karşı ek önlemler geliştirdiklerini söyledi.

Asıl tehlike eğitim verisi

Vals, modellerden hiçbir zaman doğrudan saldırı kararı vermelerinin istenmediğini, modellerin böyle bir görevi genellikle reddettiğini belirtiyor. Gecikme ve sınırlı işlem kapasitesi gibi teknik engeller, genel amaçlı modellerin canlı hedeflemede kullanılmasını şimdilik zorlaştırıyor. Araştırmacılara göre daha yakın tehdit, modellerin savaş alanı görüntülerini büyük ölçekte etiketleyerek otonom hedefleme sistemleri için eğitim verisi üretmekte kullanılması. Yapay zekâ laboratuvarlarının güvenlik uygulamaları başka cephelerde de sorgulanıyor, Kaliforniya başıboş ajanlar yüzünden OpenAI'a dava açtı.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir