YouTube'un algoritması

 

youtube algoritması, kullanıcıları web sitesinin içerik politikalarını ihlal eden videoları izlemeye bile teşvik ediyor.

YouTube'un algoritması

Mozilla tarafından yapılan araştırmaya göre YouTube'un algoritması, izleyicilerin daha sonra görmemiş olmayı dilediği videoları öneriyor. Ve zaman zaman, rapor bulundu, algoritma, kullanıcıları daha sonra web sitesinin içerik politikalarını ihlal ettiği tespit edilen videoları izlemeye bile teşvik ediyor.

Geçen yıl Mozilla, kullanıcıların önerdikleri ve izlememiş olmayı diledikleri videoları bildirmelerini sağlayan açık kaynaklı bir tarayıcı uzantısı olan RegretsReporter'ı piyasaya sürdü.

Bir şikayette bulunurken, kullanıcılardan videonun başlığını, açıklamasını, görüntüleme sayısını ve giriş noktasını (ister doğrudan arama yoluyla ister önerilen içerik yoluyla) sağlamaları istenir; ve ayrıca Mozilla'ya bildirilen videoya nasıl ulaştıklarına dair bir "iz" sağlayabilirler.

RegretsReporter'ın başlatılmasından on ay sonra, 37.380 gönüllü uzantıyı indirdi ve birlikte 3.362 video hakkında pişmanlıklarını paylaştı. 41 araştırma görevlisinden oluşan bir ekip, daha sonra, zararlı içerik ve öneri kalıpları arasında bağlantı kurmaya çalışmak için bildirilen videoları inceledi.

'Pişmanlık' raporlarının %71'inin ezici bir çoğunluğunun algoritma tarafından önerilen videolardan geldiğini buldular. Dahası: Önerilen videoların bildirilme olasılığı, aranan videolardan %40 daha fazlaydı.

Vakaların neredeyse yarısında, algoritmanın zorladığı içeriğin önceki saatlerle tamamen alakasız olduğu ortaya çıktı. Örneğin bir gönüllü, vahşi doğada hayatta kalma videolarına baktıktan sonra aşırı sağ kanalları izlemeye teşvik edildiğini bildirdi.

Algoritma, zaman zaman YouTube'un kendi politikalarını ihlal eden yayınlar önerdi. Uzantıda bildirilen 200'e kadar video kaldırıldı - ancak yalnızca 160 milyon görüntüleme topluca toplandıktan sonra.

2019'da Mozilla, YouTube'dan platformun öneri algoritmasının nasıl çalıştığına dair ayrıntılar istedi. Ancak sosyal medya platformundan modelin ayrıntılarını açıklamasını isteyince organizasyon sert bir direnişle karşılaştı. Mozilla'nın araştırmacıları, defalarca sormalarına rağmen, teknolojinin iç işleyişine erişemediler ve bu da RegretsReport projesine yol açtı.

Mozilla'nın üst düzey savunuculuk müdürü Brandi Geurkink ZDNet'e "YouTube bize bir videonun izlenme sayısını söylüyor, ancak o videoyu kaç kez önerdiklerini değil" diyor. "Dolayısıyla, insanların yaşadığı kötü deneyimlerde algoritmanın oynadığı rolü anlamak çok zor."

"Burası kesinlikle endişe duymamız ve vurgulamamız gereken yer - bu sadece platformda ne kadar zararlı içerik olduğuyla ilgili değil, aynı zamanda araçlarının onu büyütmede oynayabileceği rolün sorumluluğunu almakla ilgili."

Elbette, RegretsReporter'ın sınırlamaları vardır. Örneğin, kullanıcıların verileri çarpıtmak için zararlı videoları aktif olarak aramasını engellemenin bir yolu yoktur - ne de birkaç on binlerce izleyiciden oluşan bir havuzun platformun tüm kullanıcı tabanını temsil ettiğini iddia etmek mümkün değildir.

Geurkink, "Bunun gibi araçların YouTube'daki şeffaflığın yerini tutmayacağını gerçekten netleştirmeye çalışıyoruz" diyor. "Yaptığımız şey, gördüğümüz ve buzdağının görünen kısmı olduğunu düşündüğümüz bazı eğilimleri ortaya çıkarmak, ancak bu deneyimlerin YouTube ölçeğinde nasıl olabileceğini gerçekten anlayabilmek için YouTube'dan şeffaflık gerektireceğini düşünüyoruz. gerçekleşmesi gerekiyor."

Geurkink'e göre, metodolojideki kusurlar yalnızca sorunun derinliğini vurguluyor: Platformdan yeterli şeffaflık sağlanmadığında araştırmacılar, sorunun temel nedenine ışık tutmak için alternatif, daha az güvenilir yöntemlere başvurmalıdır.

YouTube, platformun algoritmasının bir düzeltmeye ihtiyacı olduğunu kabul etti. Şirket, bu tür içeriklerin izlenme süresinde ortalama %70'lik bir düşüşe neden olduğunu iddia ettiği sınırda videoların önerilerini azaltmak için değişiklik yapma sözü verdi ve yakın zamanda 30'dan fazla farklı politika değişikliği başlattı.

Bir YouTube sözcüsü ZDNet'e şunları söyledi: "İzleyicilerden ne izlemek istediklerine ilişkin anket yanıtları da dahil olmak üzere sistemlerimizi bilgilendirmeye yardımcı olmak için 80 milyardan fazla bilgi kullanılıyor. YouTube'daki deneyimi geliştirmek için sürekli çalışıyoruz ve yalnızca geçen yıl boyunca, Zararlı içerik önerilerini azaltmak için 30'dan fazla farklı değişiklik başlattık. Bu değişiklik sayesinde, önerilerimizden gelen sınırda içerik tüketimi artık %1'in önemli ölçüde altında."

Platforma göre, kullanıcı anketleri genel olarak izleyicilerin YouTube'un tavsiyelerinden memnun olduğunu gösteriyor.

Firma, YouTube'daki her 10.000 görüntüleme için ortalama 16 ila 18'inin topluluk kurallarını ihlal eden içerikten geldiğini, bu da 2017'nin aynı çeyreğine göre %70 düşüşle ve makine öğrenimine yapılan daha büyük yatırımlardan kaynaklandığını buldu.

Geurkink için bu yeterli değil. “Onları, bu iddiaların bağımsız olarak doğrulanmasına izin vermeye zorladık” diyor. "İddialarını gerçek değerinden almamız gerektiğini düşünmüyorum. Algoritmanın denetlenmesi, bu sayıların bağımsız olarak doğrulanması için baskı yapıyoruz ve bunu yapmak için herhangi bir adım atmadılar."

Ama gelgit dönüyor olabilir. Bu yılın başlarında bir ABD Senatosu Komitesi duruşması sırasında, Senatör Chris Coons, YouTube'u platformun öneri algoritmasının belirsiz çalışmaları hakkında uzun uzadıya sorguladı; Daha önce, Birleşik Krallık'ta Milletvekili Yvette Cooper, konuyu Parlamento'ya sunarken özellikle YouTube'a atıfta bulundu.

Başka bir deyişle, kamuoyu baskısı artıyor ve bir gün YouTube gibi platformların algoritmalarını dış incelemeye açmaları gerekebilir. En azından, Geurkink ve Mozilla'nın umduğu şey bu: Rapor, YouTube'u daha fazla bilgi paylaşmaya bir kez daha çağırırken, hükümetleri yapay zeka sisteminin şeffaflığını zorunlu kılacak yasalar çıkarmaya da çağırıyor.