İçeriğe atla
Halka ışığın önünde tripoda takılı, ekranında yalnızca boş bir yüz tarama çerçevesi bulunan bir akıllı telefon, boş kimlik kartları, onlarca eski anahtarlı bir halka, sembolsüz altın sikkeler ve kırmızı bir lastik mühür, yırtık kâğıt katmanları.

Yapay zekâ ajanları kripto borsalarını deepfake ile kandıramadı

Amazon'un tehdit istihbaratı ekibi, açık kaynaklı ARTEX çerçevesini kullanan saldırganların yapay zekâ ajanlarıyla endüstriyel ölçekte yapay zekâ anahtarı çaldığını ve deepfake videolarla iki kripto borsasının kimlik kontrolünü aşmaya çalıştığını açıkladı. Deepfake girişimlerinin hepsi sunucu tarafında reddedildi, ancak FBI saldırıların hızına karşı uyardı.

Selin Y.ohafalan editörüYayın · 2 dk okuma
Halka ışığın önünde tripoda takılı, ekranında yalnızca boş bir yüz tarama çerçevesi bulunan bir akıllı telefon, boş kimlik kartları, onlarca eski anahtarlı bir halka, sembolsüz altın sikkeler ve kırmızı bir lastik mühür, yırtık kâğıt katmanları.

Saldırganlar yapay zekâ ajanlarını siber suçun her aşamasında kullanmaya başladı, ama her şey planladıkları gibi gitmiyor. The Register'ın aktardığına göre FBI ve Amazon'un tehdit istihbaratı ekibi, açık kaynaklı yapay zekâ sızma testi çerçevesi ARTEX'in bankalar, kamu kurumları, enerji ve sağlık şirketleri gibi kritik sektörlere yönelik saldırıları otomatikleştirmek için kullanıldığı konusunda uyardı.

Anahtar çalan ajanlar

Amazon'un MadPot tuzak sensörleri 3 Ekim ile 5 Kasım arasında iki ARTEX kampanyası tespit etti. İlkinde saldırganlar, yapay zekâ ajanlarıyla API anahtarları çaldı ve bu anahtarları ARTEX'in model geçidine besleyerek yeni anahtar arayan daha fazla ajanı çalıştırdı. Böylece yapay zekâ modellerine "endüstriyel ölçekte" ücretsiz erişim sağlandı. Hedefler arasında LiteLLM gibi büyük dil modeli geçitleri ile Dify, Langflow, Open WebUI ve Ollama gibi yapay zekâ uygulama araçları vardı.

İLGİLİChatGPT Wallet ile yapay zekâ ajanları artık sizin yerinize alışveriş yapıp ödemeyi tamamlıyor→

Deepfake her denemede reddedildi

İkinci kampanyada saldırganlar, iki kripto para borsasının kimlik doğrulama kontrollerini kandırmak için ARTEX ile gerçek zamanlı deepfake videolar üretti ve sahte kimlik fotoğrafları hazırladı. AWS'nin bilgi güvenliği yöneticisi CJ Moses'a göre ajanlar, bir sağlayıcının canlılık testinin yüz konumunu nasıl izlediğini ayrıntılı biçimde çözdü ve hareket dizisini yüzü hedefin 7 piksel yakınında tutarak tamamladı. Ancak sağlayıcının sunucu tarafındaki kontrol deepfake'i her denemede reddetti.

Başka bir oturumda ajanlar, tek bir tüketici ekran kartı üzerinde açık kaynaklı bir yüz animasyon modeliyle saniyede 11,5 kare üreten bir deepfake hattı kurdu. Moses bunu canlı bir video kontrolünün beklediği hıza "yakın" olarak tanımladı. Kampanyada birden fazla ajan aynı hedef için eş zamanlı çalıştı. Biri para çekme yollarını aradı, biri hesap bakiyelerini boşaltmaya uğraştı, biri deepfake hattını kurdu, biri de doğrulamayı aşmaya çalıştı.

"Temel güvenlik hâlâ en iyi savunma"

Moses, tekniklerin yeni olmadığını ama ajanların saldırganlara hız ve ısrar kazandırdığını vurguladı. "Ajanlar, varsayılan ya da koda gömülü parolalar, kodda unutulan anahtarlar, kimlik doğrulaması olmayan arayüzler ve yamasız yazılımlar gibi temel güvenlik önlemlerinin eksik olduğu yerlerde başarılı oldu" dedi. FBI da ARTEX'in saldırı tekniklerini zincirlemek için gereken süreyi ciddi biçimde kısalttığını, bazı saldırıların üç saatten kısa sürede ayrıcalıklı erişime ulaştığını belirtti. Aracın ilk geliştiricisi GitHub deposunu ekimde kaldırdı, ancak çatallanmış sürümleri ve ticari bir versiyonu kullanılmaya devam ediyor. İnternet tarama hizmeti Censys, 4 Kasım itibarıyla açıkta çalışan 1.465 ARTEX konsolu tespit etti. FBI'ın ARTEX uyarısının ayrıntıları da dikkat çekmişti, yapay zekâlı Artex ağlara üç saatte sızabiliyor.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir