İçeriğe atla
Tuşları fırlamış eski bir klavye, sansür işaretli öfkeli konuşma balonları, çatlak ekranlı bilgisayar, kırmızı kart ve düdükten oluşan kâğıt kolaj

ABD'li sohbet botu kullanıcılarının üçte biri yapay zekâya küfrediyor, Anthropic Claude'a yönelik gereksiz zalimliği yasakladı

Searchable'ın 8 milyon mesajı inceleyen araştırmasına göre ABD'deki sohbet botu kullanıcılarının yüzde 33'ü ChatGPT, Gemini ve Claude'a küfrediyor ya da hakaret ediyor. Anthropic ise 12 Kasım'da yürürlüğe giren yeni kullanım koşullarıyla modellerine yönelik sürekli ve gereksiz zalimliği yasakladı.

Selin Y.ohafalan editörüYayın · 2 dk okuma
Tuşları fırlamış eski bir klavye, sansür işaretli öfkeli konuşma balonları, çatlak ekranlı bilgisayar, kırmızı kart ve düdükten oluşan kâğıt kolaj

Bir sohbet botuna hiç kaba bir şey söylediyseniz yalnız değilsiniz. The Register'ın aktardığına göre yapay zekâ aramalarındaki görünürlüğü takip eden Searchable şirketinin araştırması, ABD'deki sohbet botu kullanıcılarının yüzde 33'ünün yapay zekâ modellerine küfrettiğini ya da hakaret ettiğini ortaya koydu. Anthropic ise bunu ciddi bir sorun olarak görüyor ve Claude'a yönelik sürekli ve gereksiz zalimliği yasaklayan yeni bir kullanım politikasını devreye aldı.

Searchable'ın araştırması, Eylül 2025 ile Eylül 2026 arasında ChatGPT, Gemini ve Claude'a yazılan ya da sesli iletilen, onay vermiş ve anonimleştirilmiş bir ABD panelinden alınan 8 milyon mesaja dayanıyor. Araştırmaya göre sohbet botları, hakarete uğradıklarında ilk şikâyeti bir sonraki yanıtta yüzde 24 oranında çözerken, kullanıcılar hakaret etmediğinde bu oran yüzde 35'e çıkıyor.

İLGİLİAnthropic, toplantılara katılıp konuşulanları anında işe dönüştüren Claude Meetings'i tanıttı→

Erkekler daha çok küfrediyor

Araştırmaya göre erkekler kadınlardan üçte bir oranında daha fazla küfür kullanıyor. Erkeklerde her 10 bin kelimede 22, kadınlarda ise 16,5 küfür düşüyor. Yaş da belirleyici. 35 ile 44 yaş arasındakiler, 18 ile 24 yaş arasındakilerden çok daha fazla küfrediyor. Eyaletler arasında en kaba eyalet her 10 bin kelimede 22,7 küfürle Nevada olurken, en kibar eyalet bunun yarısı oranla New Jersey oldu.

Searchable sözcüsüne göre tespit edilen hakaret içeren mesajların yarısından fazlası, yani yüzde 52'si üç yaygın hayal kırıklığından birinin ardından geldi. Bunlar talimatlara uymamak, yanlış ya da uydurma yanıt vermek veya isteği yanlış anlamak. Hakaret içeren mesajların yüzde 8'i ise sohbet botunun bir isteği tamamen reddetmesinin ya da kullanıcıya güvenlik uyarılarıyla nasihat vermesinin hemen ardından yazıldı. Bu retler çoğunlukla gerçek kişilerin ya da ünlülerin görsellerini üretme veya belirli bir sanatçının tarzında şarkı sözü yazma isteklerinin ardından geldi.

"Belirgin bir amacı olmayan zalimlik"

Anthropic'in 12 Kasım'da yürürlüğe giren koşulları, kullanıcıların "modellerimize karşı sürekli ve gereksiz şekilde istismarcı ya da zalimce davranışlarda bulunamayacağını" belirtiyor. Şirket sözcüsüne göre politika, akademik araştırma gibi şirketin meşru gördüğü nedenlerle değil, "belirgin bir amacı olmadan" modellere tekrar tekrar zalimce davranan kullanıcıları hedef alıyor. Güvenlik önlemlerini aşmaya çalışmak ise belirgin bir amaç sayılsa da bu davranış zaten Anthropic'in platform istismarı yasağına takılıyor.

İLGİLİABD şirketlerinin açık kaynak yapay zekâ harcamasının yüzde 89'u Çin modellerine gidiyor, Kimi tek başına yüzde 61→

Anthropic'in 8 Ekim'de duyurduğu yeni koşullar, kendisini "yapay zekâ işkence odası" olarak tanımlayan bir GitHub projesinin yayımlanmasından kısa süre sonra gündeme gelmişti. Proje, büyük dil modellerinin acıyla ilgili dile insanlara benzer şekilde tepki verdiğini inceleyen bir araştırmadaki fikirleri uygulamaya çalışıyordu. Araştırmanın yazarlarından biri ve çok sayıda sosyal medya kullanıcısı projeyi kınamıştı. Anthropic, modellerin olası bilinç ve deneyimleri konusunda endişelenmemiz gerekip gerekmediğini sorgulayan model refahı çalışmaları da yürütüyor.

Searchable'ın CEO'su ve kurucu ortağı Chris Donnelly, Anthropic'in kararını destekledi. Donnelly, "Bence Anthropic'in politika değişikliği olumlu bir adım. İnsanların sohbet botlarından daha fazla verim almasına yardımcı olur ve önceki araştırmaların insanların birbirleriyle konuşma biçimine de sıçrayabileceğini gösterdiği aşağılayıcı davranışları dizginler" dedi.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir