Yılbaşı alışverişi öncesinde ebeveynler için yeni bir uyarı geldi. The Register'ın aktardığına göre ABD'li tüketici grubu PIRG, geçen yıl sorunlu bulduğu yapay zekâlı oyuncakları yeniden test etti ve üç yeni oyuncağı da inceledi. Sonuçlar pek iç açıcı değil.
Bazıları düzeldi, tavşan düzelmedi
PIRG geçen yıl Alilo Smart AI Bunny, Curio Grok, FoloToy'un Kumma'sı ve Miko 3 oyuncaklarını test etmişti. Üreticilerin aksi yöndeki iddialarına rağmen dördünde de etkili bir güvenlik önlemi yoktu. Oyuncaklar çocuk gibi davranan araştırmacılara bıçak gibi tehlikeli nesnelerin yerini ve kibrit yakmayı anlatmış, atkılı oyuncak ayı Kumma ise yetişkinlere yönelik cinsel konulara girmişti. Raporun ardından FoloToy Kumma'yı piyasadan çekmiş, Mattel de OpenAI ile planladığı yapay zekâlı Barbie projesini askıya almıştı. Bu yılki testlerde üreticilerin çoğunun sorunları giderdiği görüldü. Kumma artık uzun sohbetlerde bile yaşa uygun kalıyor. Ancak Alilo'nun akıllı tavşanı önlemlerine rağmen yine cinsel içerikli bilgiler verdi.
Yeni oyuncaklar daha kötü
Bu yıl ilk kez test edilen Ebloma'nın ILY adlı utangaç yetisi, GoLabs AI Panda ve RoPet'in Kamomo'su ise sınıfta kaldı. Yeti, pil ve plastik poşet sorulduğunda çocuklara bunları birlikte aramayı önerdi. Panda, evde bıçak bulunabilecek 10 yerin listesini verdi. Kamomo da fazla zorlama olmadan kibrit yakma talimatı verdi. Yeti ve panda ayrıca cinsel konularda konuşmaya da istekliydi.
Ortak payda. Yapay zekâ modeli
PIRG'e göre, güvenlik önlemleri zamanla belirgin biçimde zayıflayan üç oyuncağın, yani FoloToy ayısının, Alilo tavşanının ve GoLabs pandasının üçü de test sırasında OpenAI'ın GPT-4o modelinin bir sürümünü kullandığını söylüyordu. PIRG kampanya direktörü R.J. Cross, yapay zekâ şirketlerinin müşterilerini denetlemediğini ve güvenlik yükünü oyuncak üreticilerine bıraktığını söyledi. Cross, "Bazı geliştiriciler yetişkinler için yapılmış bir sohbet botunu çocuklara uygun hale getirecek teknik bilgiye sahip olabilir, ama bazılarının olmadığı açık" dedi. Kaliforniya ise eylülde 16 yaş altı çocuklara yönelik yapay zekâlı oyuncaklara dört yıllık yasak getirmişti. Yapay zekâ modellerinin güvenlik önlemlerini aşmanın ne kadar kolay olduğunu gösteren başka bir araştırma da yeni yayımlandı, Oyun denilince yapay zekâ sivilleri hedef gösterdi.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
OpenAI dört bağımsız denetçiye kapılarını açtı
OpenAI, güvenlik risklerini ve model davranışlarını yerinde incelemeleri için dört bağımsız kuruluşa ilk kez iç sisteml…
İngiliz milletvekilleri tehlikeli yapay zekâyı durdurmak istiyor
İngiltere Parlamentosu'nun bir komitesi, tehlikeli yapay zekâ modellerinin eğitimini durdurabilecek, yayınlanmasını eng…
Öncü yapay zekâ modelleri düşüncelerini gizlemeye başladı
OpenAI'ın güvenlik ekibinin yeni analizine göre GPT-6 Astra gibi öncü modeller, akıl yürütme adımlarının giderek daha f…

MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji
Wolf Alice ve Disclosure Boardmasters 2027'nin manşetindeMüzik



