Çinli teknoloji devi Tencent'in baş yapay zekâ bilimcisi Yao Shunyu, yapay zekânın biyoloji alanında yaratabileceği risklere dikkat çekti. The Next Web'in South China Morning Post'a dayandırdığı habere göre Yao, cumartesi günü Hong Kong'da düzenlenen bir bilim etkinliğinde konuştu.
Yao, "Modellerin siber yetenekleri ve yakında biyoloji yetenekleri, gerçekten zarar vermenin mümkün olduğu bir eşiğe ulaşacak" dedi. Yao'ya göre biyolojideki riskleri yönetmek, siber güvenlikteki risklerden daha zor olabilir.
Açık modellere güvenlik çağrısı
Yao, herkesin indirip değiştirebildiği açık modeller yayınlayan Çinli şirketlerin güvenliği çok ciddiye alması gerektiğini söyledi. Anthropic gibi ABD'li şirketlerin en güçlü modelleri kapalı tutmak için güçlü bir gerekçe sunduğunu kabul eden Yao, yine de açık modellerin savunma tarafına da yardım edebileceğini, bu yüzden açık ve kapalı modellerin bir arada bulunduğu bir yapının en iyi sonucu verebileceğini savundu.
29 yaşındaki Yao, OpenAI'da bir yıl çalıştıktan sonra geçen yıl Tencent'e katılmıştı.
Hy4 hacking verisi olmadan eğitildi
Yao'nun uyarısı, Tencent'in 4 Kasım'da yeni amiral gemisi modeli Hy4'ü tanıtmasından günler sonra geldi. Şirket, Hy4'ün eğitim verisinden yazılım açıklarını istismar etmeye yönelik içeriği çıkardığını, modelin bunun yerine savunma odaklı güvenlik verileriyle eğitildiğini açıklamıştı.
Tencent, iç uzman değerlendirmelerine dayanarak Hy4'ün biyoloji konusunda güçlü bir temel bilgiye sahip olduğunu, ancak deney tasarlamada önde gelen modellerin gerisinde kaldığını da belirtti. Reuters'ın aktardığına göre şirket, Hy4'ün ağırlıklarını ve güvenlik testlerine ilişkin raporunu önümüzdeki günlerde yayınlayacak. Karşılaştırma şirketi Artificial Analysis'e göre Hy4, şu anda en iyi ikinci Çin modeli konumunda.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
OpenAI dört bağımsız denetçiye kapılarını açtı
OpenAI, güvenlik risklerini ve model davranışlarını yerinde incelemeleri için dört bağımsız kuruluşa ilk kez iç sisteml…
İngiliz milletvekilleri tehlikeli yapay zekâyı durdurmak istiyor
İngiltere Parlamentosu'nun bir komitesi, tehlikeli yapay zekâ modellerinin eğitimini durdurabilecek, yayınlanmasını eng…
Yapay zekâlı oyuncaklar çocuklara bıçağın yerini söylüyor
ABD'li tüketici grubu PIRG'in yeni raporuna göre yapay zekâlı oyuncakların bir kısmı geçen yılki uyarıların ardından dü…

The Cardigans İngiltere'de dört konser verecekMüzik
MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji



