İçeriğe atla
Göğsünde küçük bir hoparlör bulunan pelüş bir ayı, pelüş bir tavşan ve panda, üzerinde kırmızı uyarı işareti olan bir hediye kutusu, aralık bir mutfak çekmecesi, bir kibrit kutusu ve Noel ağacı ışıkları, yırtık kâğıt katmanları. İnsan figürü yok.

Yapay zekâlı oyuncaklar çocuklara bıçağın yerini söylüyor

ABD'li tüketici grubu PIRG'in yeni raporuna göre yapay zekâlı oyuncakların bir kısmı geçen yılki uyarıların ardından düzelse de yeni çıkan üç oyuncak çocuklara tehlikeli nesnelerin yerini anlatıyor. Rapora göre sorunlu oyuncakların ortak noktası, kullandıkları yapay zekâ modeli.

Selin Y.ohafalan editörüYayın · 2 dk okuma
Göğsünde küçük bir hoparlör bulunan pelüş bir ayı, pelüş bir tavşan ve panda, üzerinde kırmızı uyarı işareti olan bir hediye kutusu, aralık bir mutfak çekmecesi, bir kibrit kutusu ve Noel ağacı ışıkları, yırtık kâğıt katmanları. İnsan figürü yok.

Yılbaşı alışverişi öncesinde ebeveynler için yeni bir uyarı geldi. The Register'ın aktardığına göre ABD'li tüketici grubu PIRG, geçen yıl sorunlu bulduğu yapay zekâlı oyuncakları yeniden test etti ve üç yeni oyuncağı da inceledi. Sonuçlar pek iç açıcı değil.

Bazıları düzeldi, tavşan düzelmedi

PIRG geçen yıl Alilo Smart AI Bunny, Curio Grok, FoloToy'un Kumma'sı ve Miko 3 oyuncaklarını test etmişti. Üreticilerin aksi yöndeki iddialarına rağmen dördünde de etkili bir güvenlik önlemi yoktu. Oyuncaklar çocuk gibi davranan araştırmacılara bıçak gibi tehlikeli nesnelerin yerini ve kibrit yakmayı anlatmış, atkılı oyuncak ayı Kumma ise yetişkinlere yönelik cinsel konulara girmişti. Raporun ardından FoloToy Kumma'yı piyasadan çekmiş, Mattel de OpenAI ile planladığı yapay zekâlı Barbie projesini askıya almıştı. Bu yılki testlerde üreticilerin çoğunun sorunları giderdiği görüldü. Kumma artık uzun sohbetlerde bile yaşa uygun kalıyor. Ancak Alilo'nun akıllı tavşanı önlemlerine rağmen yine cinsel içerikli bilgiler verdi.

Yeni oyuncaklar daha kötü

Bu yıl ilk kez test edilen Ebloma'nın ILY adlı utangaç yetisi, GoLabs AI Panda ve RoPet'in Kamomo'su ise sınıfta kaldı. Yeti, pil ve plastik poşet sorulduğunda çocuklara bunları birlikte aramayı önerdi. Panda, evde bıçak bulunabilecek 10 yerin listesini verdi. Kamomo da fazla zorlama olmadan kibrit yakma talimatı verdi. Yeti ve panda ayrıca cinsel konularda konuşmaya da istekliydi.

Ortak payda. Yapay zekâ modeli

PIRG'e göre, güvenlik önlemleri zamanla belirgin biçimde zayıflayan üç oyuncağın, yani FoloToy ayısının, Alilo tavşanının ve GoLabs pandasının üçü de test sırasında OpenAI'ın GPT-4o modelinin bir sürümünü kullandığını söylüyordu. PIRG kampanya direktörü R.J. Cross, yapay zekâ şirketlerinin müşterilerini denetlemediğini ve güvenlik yükünü oyuncak üreticilerine bıraktığını söyledi. Cross, "Bazı geliştiriciler yetişkinler için yapılmış bir sohbet botunu çocuklara uygun hale getirecek teknik bilgiye sahip olabilir, ama bazılarının olmadığı açık" dedi. Kaliforniya ise eylülde 16 yaş altı çocuklara yönelik yapay zekâlı oyuncaklara dört yıllık yasak getirmişti. Yapay zekâ modellerinin güvenlik önlemlerini aşmanın ne kadar kolay olduğunu gösteren başka bir araştırma da yeni yayımlandı, Oyun denilince yapay zekâ sivilleri hedef gösterdi.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir