Meta’nın Muse temsilci platformu 8 Eylül’de yayınlandı ve ABD’de iOS indirme listesinin zirvesine çıkacak kadar ses getirdi.Bu, en azından platforma yönelik ciddi bir merak olduğunu gösteriyor. Geçen hafta, Muse’un bir beta özelliğinin kullanıcılar adına telefon görüşmesi yapabileceğinin duyurulması da muhtemelen bu ilgiyi artırdı.
Reuters’ın yayınladığı bir rapor bu aramaların gerçekten yapıldığını doğruluyor gibi görünse de raporun YZ temsilcilerine olan güveni artırması pek olası değil. Reuters’a göre bazı Muse görevleri, YZ sesinin yetersiz kaldığı durumlarda gerçek bir kişinin devreye girmesini sağlayan bir “insan asistan” özelliği barındırıyordu.
Reuters’ın incelediği anlaşılan Meta içi yazışmalar, böyle bir özelliğe neden ihtiyaç duyulduğuna ışık tutuyor: Bir kullanıcı, Muse botundan sigorta şirketini aramasını istediğinde bot insan olmadığını açıkladığı için şirketin görüşmeyi defalarca sonlandırdığını söyledi. İnsan aracılığıyla arama özelliği Meta’nın şirket içi test kullanıcılarına sunulduğunda, çalışanlara bu özelliği devre dışı bırakma seçeneği de tanındı.
Ancak ilerleyen iç yazışmalarda bu özelliğin mantığı da sorgulandı; belli ki bazı çalışanlar, hassas kullanıcı bilgilerinin insan operatörlerin eline geçmesinden endişe duyuyordu. Reuters bu özelliği “kuaför randevusu alma, bir mağazanın stok durumunu kontrol etme veya farklı yüklenicilerden fiyat teklifi alma gibi günlük işleri halletme” becerisi olarak tanımlıyor. Gerçek bir yüklenicinin berberinizi araması büyük bir gizlilik sorunu yaratmayabilir ancak örneğin (bu benim uydurduğum bir örnek) üroloğunuzu araması özel hayata müdahale anlamına gelebilir.
Dahası, insan aracılığıyla arama özelliğini test eden çalışanlardan biri bir görüşme dökümünü inceledi ve olaya dahil olan insan operatörün, Reuters’ın tabiriyle “ırkçı bir söylemde bulunduğunu” iddia etti.
Tüm bu iç yazışmaların ortasında, Meta Superintelligence Labs başkan yardımcılarından birinin telefonda ırkçı söylemlerde bulunan sözleşmeli çalışanı şikayet eden çalışandan özür dilediği ve şirketin artık bu kişiyle çalışmadığını açıkladığı anlaşılıyor. Reuters’ın aktardığına göre aynı yetkili, sözleşmeli çalışanlarla yapılan çağrıları bu şekilde test etme kararının “bir hata” olduğunu belirterek şirketin “bu özelliği geri çektiğini” ifade etti.
Başkan yardımcısının aktardığına göre Meta’nın testleri, insanların sürece dahil edilmesiyle telefon görüşmelerindeki başarı oranının yüzde 90’ların üst seviyelerine çıkabileceğini, YZ tarafından yapılan aramalarda ise bu oranın daha düşük kaldığını gösteriyor.
Gizmodo, “YZ çağrılarının düşük yüzdesi” ifadesine açıklık getirmesi için Meta’ya başvurdu. Reuters’ın raporuna bakıldığında, Muse altyapılı tüm çağrıların mı yoksa, daha güçlü bir ihtimalle, sadece insan yüklenicilerin dahil olduğu çağrıların mı durdurulduğu tam olarak anlaşılamıyor. Şayet çağrılar hala devam ediyorsa ancak sürece insanlar dahil edilmiyorsa, YZ’nin reddedildiği aramaları telafi etmek için bir adım atılıp atılmadığı Reuters metninden çıkarılamıyor.
Meta sözcüsü Dave Arnold yanıt olarak, daha önce Reuters’a da verildiğini söylediği şu açıklamayı paylaştı: “Dogfooding olarak da bilinen şirket içi testler, ürün geliştirme sürecinin bel kemiğidir. Çalışanlardan gelen tepkiler ezici çoğunlukla olumlu olsa da tüm mesele geri bildirim almak; böylece özellikleri genel kullanıma açmadan önce güvenlik ve gizlilik korumalarını devreye sokabilir ve geliştirmeler yapabiliriz. Bu potansiyel arama özelliğini iyileştirmeye devam etmek için işletmelerle çalışıyoruz ve bu yeniliği ancak tam olarak hazır olduğunda, doğru bilgilendirmeler eşliğinde piyasaya süreceğiz.”
Kaynak: https://gizmodo.com/report-claims-metas-ai-agents-sometimes-tagged-in-human-contractors-and-that-one-of-them-got-racist-2000815808
