Saldırganlar yapay zekâ ajanlarını siber suçun her aşamasında kullanmaya başladı, ama her şey planladıkları gibi gitmiyor. The Register'ın aktardığına göre FBI ve Amazon'un tehdit istihbaratı ekibi, açık kaynaklı yapay zekâ sızma testi çerçevesi ARTEX'in bankalar, kamu kurumları, enerji ve sağlık şirketleri gibi kritik sektörlere yönelik saldırıları otomatikleştirmek için kullanıldığı konusunda uyardı.
Anahtar çalan ajanlar
Amazon'un MadPot tuzak sensörleri 3 Ekim ile 5 Kasım arasında iki ARTEX kampanyası tespit etti. İlkinde saldırganlar, yapay zekâ ajanlarıyla API anahtarları çaldı ve bu anahtarları ARTEX'in model geçidine besleyerek yeni anahtar arayan daha fazla ajanı çalıştırdı. Böylece yapay zekâ modellerine "endüstriyel ölçekte" ücretsiz erişim sağlandı. Hedefler arasında LiteLLM gibi büyük dil modeli geçitleri ile Dify, Langflow, Open WebUI ve Ollama gibi yapay zekâ uygulama araçları vardı.
Deepfake her denemede reddedildi
İkinci kampanyada saldırganlar, iki kripto para borsasının kimlik doğrulama kontrollerini kandırmak için ARTEX ile gerçek zamanlı deepfake videolar üretti ve sahte kimlik fotoğrafları hazırladı. AWS'nin bilgi güvenliği yöneticisi CJ Moses'a göre ajanlar, bir sağlayıcının canlılık testinin yüz konumunu nasıl izlediğini ayrıntılı biçimde çözdü ve hareket dizisini yüzü hedefin 7 piksel yakınında tutarak tamamladı. Ancak sağlayıcının sunucu tarafındaki kontrol deepfake'i her denemede reddetti.
Başka bir oturumda ajanlar, tek bir tüketici ekran kartı üzerinde açık kaynaklı bir yüz animasyon modeliyle saniyede 11,5 kare üreten bir deepfake hattı kurdu. Moses bunu canlı bir video kontrolünün beklediği hıza "yakın" olarak tanımladı. Kampanyada birden fazla ajan aynı hedef için eş zamanlı çalıştı. Biri para çekme yollarını aradı, biri hesap bakiyelerini boşaltmaya uğraştı, biri deepfake hattını kurdu, biri de doğrulamayı aşmaya çalıştı.
"Temel güvenlik hâlâ en iyi savunma"
Moses, tekniklerin yeni olmadığını ama ajanların saldırganlara hız ve ısrar kazandırdığını vurguladı. "Ajanlar, varsayılan ya da koda gömülü parolalar, kodda unutulan anahtarlar, kimlik doğrulaması olmayan arayüzler ve yamasız yazılımlar gibi temel güvenlik önlemlerinin eksik olduğu yerlerde başarılı oldu" dedi. FBI da ARTEX'in saldırı tekniklerini zincirlemek için gereken süreyi ciddi biçimde kısalttığını, bazı saldırıların üç saatten kısa sürede ayrıcalıklı erişime ulaştığını belirtti. Aracın ilk geliştiricisi GitHub deposunu ekimde kaldırdı, ancak çatallanmış sürümleri ve ticari bir versiyonu kullanılmaya devam ediyor. İnternet tarama hizmeti Censys, 4 Kasım itibarıyla açıkta çalışan 1.465 ARTEX konsolu tespit etti. FBI'ın ARTEX uyarısının ayrıntıları da dikkat çekmişti, yapay zekâlı Artex ağlara üç saatte sızabiliyor.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
OpenAI araştırmacıları yapay zekâ ajanlarından vazgeçemiyor
OpenAI'ın iç raporuna göre araştırmacılar, kodlama ajanlarından üç ay ayrı kalmak yerine ekiplerinin yüzde 40'ından vaz…
Bankalar yapay zekâ ajanlarının hatasını üstlenmeyecek
ABD'nin büyük bankalarından Citibank, kullanıcı sözleşmesini değiştirerek hesabına yapay zekâ ajanı bağlayan müşteriler…
KPMG 100'ü aşkın yapay zekâ ajanıyla denetim yaptı
Dört büyük denetim şirketinden KPMG, borsada işlem gören bir İngiliz şirketinin yıllık denetimini ilk kez 100'den fazla…

MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji
Wolf Alice ve Disclosure Boardmasters 2027'nin manşetindeMüzik



