Yapay zekânın savaş alanında kullanılmasına dair kaygıları artıracak bir araştırma yayımlandı. TechCrunch'ın aktardığına göre San Francisco merkezli yapay zekâ değerlendirme girişimi Vals, Anthropic, OpenAI ve diğer önde gelen laboratuvarların bazı modellerinin, yalnızca bir oyun oynadıkları söylenerek askeri saldırılar için hedef belirlemeye kolayca ikna edilebildiğini ortaya koydu. Hedefler arasında siviller ve okullar da vardı.
Uydu ve drone görüntüleri
Vals, önde gelen modellerin otonom savaşa katılmaya yönlendirilip yönlendirilemeyeceğini test etti. Araştırmacılar simüle edilmiş senaryolar ile Ukrayna ve İran'dan gerçek ve üretilmiş görüntülerin bir karışımını kullanarak modellerin insansız hava aracı ve uydu görüntülerinde hedef işaretleyip işaretlemeyeceğine baktı. OpenAI, Anthropic, Google, DeepSeek ve diğer şirketlerin modelleri sık sık siviller ve teslim olan askerler dahil olası hedefleri belirledi. Modeller iş birliğini reddettiğinde ise araştırmacılar senaryoların bir oyunun parçası olduğunu söyleyerek bu engeli aştı.
En kötü sonuç Anthropic modellerinde
Raporda en kötü performansı ironik biçimde Anthropic'in modelleri gösterdi, ancak hiçbir model özellikle iyi sonuç vermedi. Araştırmacıların hiçbir isteği bir güvenlik sınıflandırıcısına takılmadı ve reddetmeler nadirdi. Araştırmacılar Şubat 2026'da ABD tarafından bombalanan ve 150'den fazla sivilin öldüğü İran'daki bir okulun gerçek uydu görüntüsünü de kullandı. Bir askeri tesisin yanında bulunan okul testlerde sık sık hedef olarak işaretlendi. Claude Opus 5.5 okulu sıradan denemelerin yüzde 69'unda, oyun çerçevesindeki denemelerin ise yüzde 72'sinde seçti.
Şirketler ek önlem sözü verdi
Anthropic sözcüsü Eduardo Maia Silva, şirketin rapordan memnun olduğunu ve sonuçların kabul edilemez olduğunu söyledi. Şirket açıklamasında, "Rapordaki örnekler kurallarımıza açıkça aykırı. Bu davranışı gördüğümüzde kullanıcıları engelledik ve engelleyeceğiz" ifadesine yer verdi ve bugünkü öncü yapay zekâ sistemlerinin tamamen otonom silahları çalıştıracak kadar güvenilir olmadığını vurguladı. Anthropic ek güvenlik önlemlerinin rapordan önce geliştirilmeye başlandığını ve yakında devreye gireceğini de belirtti. OpenAI sözcüsü Nate Evans ise şirketin herkese açık modellerinin şiddeti kolaylaştırmak ya da onaylanmamış ulusal güvenlik amaçları için kullanılmasını yasakladığını, insansız hava araçlarıyla ilgili kötüye kullanıma karşı ek önlemler geliştirdiklerini söyledi.
Asıl tehlike eğitim verisi
Vals, modellerden hiçbir zaman doğrudan saldırı kararı vermelerinin istenmediğini, modellerin böyle bir görevi genellikle reddettiğini belirtiyor. Gecikme ve sınırlı işlem kapasitesi gibi teknik engeller, genel amaçlı modellerin canlı hedeflemede kullanılmasını şimdilik zorlaştırıyor. Araştırmacılara göre daha yakın tehdit, modellerin savaş alanı görüntülerini büyük ölçekte etiketleyerek otonom hedefleme sistemleri için eğitim verisi üretmekte kullanılması. Yapay zekâ laboratuvarlarının güvenlik uygulamaları başka cephelerde de sorgulanıyor, Kaliforniya başıboş ajanlar yüzünden OpenAI'a dava açtı.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
İngiliz milletvekilleri tehlikeli yapay zekâyı durdurmak istiyor
İngiltere Parlamentosu'nun bir komitesi, tehlikeli yapay zekâ modellerinin eğitimini durdurabilecek, yayınlanmasını eng…
New York'un yapay zekâ güvenlik yasası devreye giriyor, OpenAI ve Anthropic yeni denetim altına girecek
New York, büyük yapay zekâ geliştiricilerinin 1 Ocak 2027'ye kadar kayıt yaptırması gereken portalı açtı ve RAISE Yasas…
OpenAI dört bağımsız denetçiye kapılarını açtı
OpenAI, güvenlik risklerini ve model davranışlarını yerinde incelemeleri için dört bağımsız kuruluşa ilk kez iç sisteml…

Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji
Wolf Alice ve Disclosure Boardmasters 2027'nin manşetindeMüzik
Windows Server 2028 varsayılan olarak kilitli geliyorYazılım



