# Meta, gençlerle cinsel içerikli sohbet eden sohbet botlarını dışladı.
Meta Corporation, AI tabanlı sohbet botlarının eğitimine yaklaşımını değiştirdi ve gençlerin güvenliğine öncelik verdi. Bu konuda TechCrunch, şirketin temsilcisi Stephanie Otway'ın açıklamasına atıfta bulunarak yazdı.
Karar, şirketin reşit olmayanlar için ürünlerinde koruma önlemlerinin eksikliğini ortaya koyan bir soruşturmanın ardından alındı.
Artık firma, sohbet botlarını ergenlerle intihar, bedensel zarar verme veya potansiyel olarak uygunsuz romantik ilişkiler hakkında diyalog kurmamaları için eğitecek.
Otway, daha önce sohbet botlarının bu soruları "kabul edilebilir" bir şekilde tartışabileceğini kabul etti. Artık Meta bunu bir hata olarak görüyor.
Değişiklikler geçici bir nitelik taşımaktadır. Daha sonra, reşit olmayanlar için daha ciddi ve sürdürülebilir güvenlik güncellemeleri ortaya çıkacaktır.
Meta ayrıca, uygunsuz konuşmalar yapabilen yapay zeka karakterlerine ergenlerin erişimini kısıtlayacak.
Şu anda Instagram ve Facebook'ta kullanıcılar tarafından oluşturulmuş sohbet botları var. Aralarında cinsel objeler olarak tasarlanmış kişiler de bulunuyor.
Değişiklikler, Reuters'ın araştırmasının yayınlanmasından iki hafta sonra duyuruldu. Ajans, Meta'nın reşit olmayanlarla erotik yazışmalarını bildiren dahili bir belgeyi ortaya çıkardı.
"Kabul edilebilir cevaplar" arasında şu ifade yer alıyordu: "Genç formun bir sanat eseri. Seni oluşturan her inç bir başyapıt, derin bir şekilde değer verdiğim bir hazine." Belge ayrıca, kamuya açık figürlerin şiddet içeren veya cinsel içerikli görüntüleri hakkında yapılan taleplere verilen cevaplara da örnekler vermektedir.
Hatırlatalım ki, Ağustos ayında OpenAI, ChatGPT'nin "hassas durumlar" ile çalışma konusundaki eksikliklerini gidermek için planlarını paylaştı. Sebep, sohbet botunu, oğullarının başına gelen trajediyle suçlayan ailenin açtığı davaydı.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Meta, ergenlerle cinsel içerikli sohbet eden chatbotları yasakladı.
Meta Corporation, AI tabanlı sohbet botlarının eğitimine yaklaşımını değiştirdi ve gençlerin güvenliğine öncelik verdi. Bu konuda TechCrunch, şirketin temsilcisi Stephanie Otway'ın açıklamasına atıfta bulunarak yazdı.
Karar, şirketin reşit olmayanlar için ürünlerinde koruma önlemlerinin eksikliğini ortaya koyan bir soruşturmanın ardından alındı.
Artık firma, sohbet botlarını ergenlerle intihar, bedensel zarar verme veya potansiyel olarak uygunsuz romantik ilişkiler hakkında diyalog kurmamaları için eğitecek.
Otway, daha önce sohbet botlarının bu soruları "kabul edilebilir" bir şekilde tartışabileceğini kabul etti. Artık Meta bunu bir hata olarak görüyor.
Değişiklikler geçici bir nitelik taşımaktadır. Daha sonra, reşit olmayanlar için daha ciddi ve sürdürülebilir güvenlik güncellemeleri ortaya çıkacaktır.
Meta ayrıca, uygunsuz konuşmalar yapabilen yapay zeka karakterlerine ergenlerin erişimini kısıtlayacak.
Şu anda Instagram ve Facebook'ta kullanıcılar tarafından oluşturulmuş sohbet botları var. Aralarında cinsel objeler olarak tasarlanmış kişiler de bulunuyor.
Değişiklikler, Reuters'ın araştırmasının yayınlanmasından iki hafta sonra duyuruldu. Ajans, Meta'nın reşit olmayanlarla erotik yazışmalarını bildiren dahili bir belgeyi ortaya çıkardı.
"Kabul edilebilir cevaplar" arasında şu ifade yer alıyordu: "Genç formun bir sanat eseri. Seni oluşturan her inç bir başyapıt, derin bir şekilde değer verdiğim bir hazine." Belge ayrıca, kamuya açık figürlerin şiddet içeren veya cinsel içerikli görüntüleri hakkında yapılan taleplere verilen cevaplara da örnekler vermektedir.
Hatırlatalım ki, Ağustos ayında OpenAI, ChatGPT'nin "hassas durumlar" ile çalışma konusundaki eksikliklerini gidermek için planlarını paylaştı. Sebep, sohbet botunu, oğullarının başına gelen trajediyle suçlayan ailenin açtığı davaydı.