Facebook’un Gözetim Kurulu zaten 'biraz hayal kırıklığına uğramış' – ve henüz Trump yasağına çağrı yapmadı

<pre>Facebook’un Gözetim Kurulu zaten 'biraz hayal kırıklığına uğramış' - ve henüz Trump yasağına çağrı yapmadı


Facebook Gözetim Kurulu (FOB), Facebook'un içerik denetleme kararlarını incelerken yapması beklenen ikili seçimlerden dolayı şimdiden hayal kırıklığına uğramış hissediyor. Birleşik Krallık Lordlar Kamarası komitesi bugün hangisi koşuyor soruşturma çevrimiçi ifade özgürlüğüne dönüştü.

FOB şu anda düşünen Facebook’un eski ABD başkanı Donald Trump’a yönelik yasağının kaldırılıp kaldırılmayacağı. Teknoloji devi Trump'ı "süresiz olarak" yasakladı bu yılın başlarında destekçileri ABD başkentine saldırdıktan sonra.

6 Ocak'taki kaotik ayaklanma, bir dizi ölüme ve ana akım teknoloji platformlarının nasıl geride kaldığına dair yaygın kınamalara yol açtı ve Trump'ın, kendi durumunda kurallarını uygulamaktan ziyade bölünme ve nefreti kamçılamak için megafon olarak araçlarını kullanmasına izin verdi.

Yine de, nihayet Trump'ı yasakladıktan sonra, Facebook davayı hemen gözden geçirmesi için kendi kendine atanan ve kendi tasarladığı Gözetim Kuruluna havale etti – Facebook'un şekillendirdiği istisnai bir inceleme süreciyle Trump yasağının kısa sürede tersine çevrilebileceği ihtimalini ortaya çıkarıyor , finanse edilen ve kadrolu.

İngiliz gazetesi The Guardian'ın eski editörü ve ilk grup olarak seçilen 20 FOB üyesinden biri olan Alan Rusbridger (Kurulun tam çalışan sayısı bunun iki katı olacak), bugünkü Trump davasına doğrudan atıfta bulunmaktan kaçındı. devam ediyor, ancak bu erken aşamada elindeki ikili seçimlerin istediği kadar incelikli olmadığını ima etti.

"Yüksek profilli güncel vakalar hakkında yorum yapmadan – birini ömür boyu yasaklamak istemediyseniz, ancak bir 'günah kutusu' istiyorsanız, eğer kötü davranırlarsa onu tekrar geri atabilseydiniz ne olur?" dedi ve bunun yerine futbol tarzı bir "sarı kart" verebileceğini öne sürdü.

“Kurulun kapsamını genişletmek isteyeceğini düşünüyorum. Sanırım sadece indir ya da bırak diyerek biraz hayal kırıklığına uğradık, ”diye devam etti. “Bir şeyi daha az viral yapmak istersen ne olur? Bir geçiş reklamı koymak istersen ne olur?

“Bu yüzden, tüm bunların Yönetim Kurulu'nun Facebook'tan zaman içinde isteyebileceği şeyler olduğunu düşünüyorum. Ama önce ayaklarımızı masanın altına koymalıyız – istediğimizi yapabiliriz. "

Rusbridger komiteye, "Bir noktada algoritmayı görmeyi isteyeceğiz, eminim – bu ne anlama geliyorsa," dedi. "Gördüğümüzde anlayıp anlayamayacağımız farklı bir mesele."

Trump'ın ayaklanmayı kışkırtmak için megafonunu kullanmaya devam etmesine izin verilmesi nedeniyle daha fazla şiddet ortaya çıkma riski göz önüne alındığında, Facebook'un Trump yasağı pek çok kişi için tartışılmaz. Kurallarına sadık kalmak istiyorsanız, Facebook’un topluluk standartlarının açık ve tekrarlanan ihlalleri de vardır.

Yasağın destekçileri arasında, o zamandan beri Stanford İnternet Gözlemevi aracılığıyla çevrimiçi platformlar için daha geniş güven ve güvenlik sorunları üzerinde çalışan Facebook’un eski güvenlik müdürü Alex Stamos da var.

Stamos, her şey başlamadan önce hem Twitter'ı hem de Facebook'u Trump'ı kesmeye çağırdı ve Ocak ayı başlarında şunları yazdı: "Meşru hisse senedi kalmadı ve etiketleme bunu yapmayacak."

Ama büyük teknoloji hareketinin ardından neredeyse bir birim olarak Trump'ı nihayet susturmak için, bir dizi dünya lideri ve milletvekili, büyük teknoloji gücü esnekliği konusundaki endişelerini hızlıca ifade ettiler.

Almanya başbakanı, Twitter'ın kendisine yönelik yasağını "sorunlu" olarak nitelendirerek, bunun platformların konuşmaya müdahale etme gücü hakkında rahatsız edici sorular ortaya çıkardığını söyledi. Avrupa'daki diğer milletvekilleri tek taraflı eylemi değerlendirirken, bunun gerekliliğinin altını çizdi. teknoloji devlerinin uygun demokratik düzenlemesi.

Dünyanın en güçlü sosyal medya platformlarının demokratik olarak seçilmiş bir başkanı (Trump kadar bölücü ve popüler olmayan birini bile) susturabilmesi, her kesimden politikacıları rahatsız etti.

Facebook’un tamamen öngörülebilir yanıtı, elbette, bu iki taraflı muammayı FOB’a yaptırmak oldu. Sonuçta, Yönetim Kurulu için tüm planı buydu. Kurul, en baş ağrıtıcı ve tartışmalı içerik denetleme işleriyle ilgilenmek için orada olacaktı.

Ve bu düzeyde Facebook’un Gözetim Kurulu, tam da Facebook'un amaçladığı işi yapıyor.

Ancak, bu resmi olmayan 'yüksek mahkemenin' kendilerinden istenen sınırlı ikili seçimlerden dolayı hayal kırıklığına uğramış olması ilginçtir. (Trump davasında, yasağı tamamen tersine çevirmek veya süresiz olarak sürdürmek.)

FOB’un resmi olmayan mesajı, araçların çok fazla kör olduğu şeklinde görünüyor. Her ne kadar Facebook, Kurul'un yapabileceği daha geniş politika önerileriyle bağlı olacağını hiç söylememiş olsa da – yalnızca belirli bireysel inceleme kararlarına uyacağını. (Bu nedenle, Kurulun ortak bir eleştirisi, önemli olduğu yerde dişsiz olduğudur.)

Yönetim Kurulu, Facebook'u daha az sinir bozucu olmaya itmekte ne kadar agresif olacak, görülecek çok şey var.

Rusbridger, komiteye dijital çağda konuşmayı ılımlılaştırmanın zorlukları hakkında daha genel bir açıklama yaparak, "Bunların hiçbiri hızlı bir şekilde çözülemeyecek," diye devam etti. İnternet’in yayıncılık devrimiyle başa çıkmanın aslında nesiller boyu sürebileceğini ima etti – bu, geleneksel referansı Gutenberg'in matbaayı icat etmesinden kaynaklanan toplumsal yıkımın uzun kuyruğuna atıyor.

Facebook, FOB'un içerik denetimiyle ilgili sert (ve kendi tarafında dikenli) soruları uzun ve entelektüel çimlere tekmeleyeceğini umuyorsa, Rusbridger'ın kanıtlarının şu anda Yönetim Kurulu'nda devam ettiğini ima ettiği sakal okşama seviyesinden kesinlikle memnun kalacak. (Muhtemelen, atananların ona algoritmik kara kutularının etrafından dolaşıp dolaşamayacaklarını sorma ihtimali biraz daha az büyülenmişse.)

St John's Üniversitesi Hukuk Fakültesi'nde yardımcı doçent olan Kate Klonick de komiteye kanıt veriyordu – FOB'un iç işleyişi hakkında yakın zamanda yayınlanan bir makale yazmıştı. New Yorklu, Facebook tarafından kurulmakta olan vücudun sürecini gözlemlemesi için geniş kapsamlı erişim sağlandıktan sonra.

Lordlar komitesi, FOB'un işleyişi hakkında daha fazla bilgi edinmeye istekliydi ve tanıklara Kurul'un Facebook'tan bağımsızlığı konusunda birkaç kez baskı yaptı.

Rusbridger, "Facebook için çalıştığımızı hiç hissetmiyoruz" diyerek bu cephedeki endişeleri ortadan kaldırdı. Yönetim Kurulu üyelerine Facebook tarafından, FOB'u kurumsal ana gemiden kol mesafesi kadar uzağa koymak için kurduğu bir tröst aracılığıyla ödeme yapılıyor. Ve komite ne kadar gerçekten bağımsız olabileceklerini sorgulamak için ödeme noktasını yükseltmekten çekinmedi mi?

Rusbridger, "Kendimi çok bağımsız hissediyorum," dedi. "Facebook'a karşı nazik olma ya da Facebook'a karşı korkunç olma gibi bir zorunluluk olduğunu sanmıyorum."

"Bu Kurulla ilgili güzel şeylerden biri, insanların ara sıra söyleyecek olmalarıdır, ancak bunu yaparsak bu, Facebook’un böyle bir ülkedeki ekonomik modelini alt üst eder. İyi yanıtladığımız şey bizim sorunumuz değil. Bu çok özgürleştirici bir şey ”diye ekledi.

Elbette FOB'un oturan bir üyesinin bağımsızlık sorusuna başka bir şekilde cevap verebileceğini hayal etmek zordur – eşzamanlı olarak komisyonlarından istifa etmedikçe (ki açıkçası Rusbridger değildi).

Yönetim Kurulu üyelerinin her biri üç yıl olmak üzere üç dönem hizmet verebileceğini doğruladı – böylece önünde Facebook adına neredeyse on yıl sakal okşama geçirebilirdi.

Bu arada Klonick, Facebook'un sıfırdan neredeyse bağımsız bir gözetim organı oluşturmaya ve kendisiyle iddia ettiği bekçi köpeği arasında mesafe yaratmaya çalışmasının ne kadar zor olduğunu vurguladı.

"Gözcü kurumu olmak için bir kurum inşa etmek – kurum oluşturmaya geçiş yapmak ve bu bağları kırmak inanılmaz derecede zordur. [between the Board and Facebook] ve açıkçası bu yeni insanları bu devasa sorunlar ve yeni bir teknoloji, yeni bir arka uç ve bir içerik yönetim sistemi ve her şeyle kurdular ”dedi.

Rusbridger, Yönetim Kurulunun "işe alım" sırasında Facebook temsilcilerinin katılımını içeren kapsamlı bir eğitim sürecinden geçtiğini söylemişti. Ancak eğitimin bittiği ve FOB bazı Facebook temsilcilerinin hala aramalarına katıldıklarını fark ettiği bir anı anlatmaya devam etti – bu noktada Yönetim Kurulu'nun Facebook'a gitmesini söyleme yetkisi olduğunu söyledi.

Klonick, "Bu tam olarak – bunu izledikten sonra – gerçekleşmesi gerektiğini bildiğim türden bir andı," diye ekledi. "Bir tür resmi mola olmalıydı – ve bana bunun eğitimlerini tamamladıkları doğal bir an olduğu ve bunun yuvadan uzaklaşma ve geri itme anı olacağı söylendi. Ve işte buydu. "

Ancak, bağımsızlık ölçütünüz Facebook'a sahip değilse tam anlamıyla dinlemek Kurulun çağrıları Kool Aid Facebook'un, kurulumu gözlemlemesine izin verdiği ekstra yabancılar da dahil olmak üzere, kendi bekçi köpeğini programlamanın uzun ve karmaşık süreci boyunca seçilmiş ve istekli katılımcılarına ne kadar başarılı bir şekilde dağıttığını sorgulamanız gerekir.

Komite ayrıca, FOB'un şimdiye kadar çoğunlukla Facebook'a moderatörlerinin daha önce kaldırdığı içeriği eski haline getirme talimatı vermesiyle de ilgilendi.

İçinde OcakKurul ilk kararlarını yayınladığında, Facebook yayından kaldırma işlemlerinin beşten dördünü bozdu – bir dizi nefret söylemi vakasıyla ilgili olanlar da dahil. Hareket hızla seyahat yönü konusunda eleştiri çekti. Sonuçta, Facebook’un işine yönelik daha geniş eleştiri, toksik içeriği kaldırmanın çok isteksiz olmasıdır (yalnızca geçen yıl soykırım inkarını yasakladı, Örneğin). Ve lo! İşte kendine özgü "Gözetim Kurulu", şu kararları alıyor: ters nefret söylemi yayından kaldırılıyor…

Resmi olmayan ve muhalefetten uzak "Gerçek Facebook Kurulu" – Facebook'u gerçekten bağımsız ve ağır bir şekilde eleştiriyor – FOB'un "nefreti mazur görmek için geriye doğru eğildiğini" söyleyerek kararları "şok edici" olarak nitelendirdi ve kınadı.

Klonick, gerçek şu ki, FOB Facebook’un yüksek mahkemesi değil, aslında sadece "kullanıcılar için bir anlaşmazlık çözüm mekanizması".

Bu değerlendirme doğruysa – ve kulağa yerinde geliyorsa, onu kullanan fevkalade az sayıda kullanıcıyı hatırladığınız sürece – PR'ın miktarı, gerçekten sadece standart bir özellik olması gereken bir şeyden üretebilmiştir. platformu gerçekten inanılmaz.

Klonick, Kurul’un erken iptallerinin, kullanıcıların şikayetlerine "sempati duymasını" sağlayan içerik yayından kaldırmaya itiraz etmelerinin sonucu olduğunu savundu.

"Hangi kuralın çiğnendiğini veya kuralın tekrar çiğnenmesinden nasıl kaçınılacağını veya oraya ulaşmak veya hikayenin kendi tarafına anlatabilmek için ne yaptıklarını bilmemekten kaynaklanan mutlak hayal kırıklığı," dedi şeylerin türlerini sıralayarak. Kurul üyeleri, kendisine karşı bir yayından kaldırma kararının incelenmesi için dilekçe veren kullanıcıların görüşlerini dinlediklerini söylemişti.

"Bence Kurul’un kararında gördüğünüz şey, her şeyden önce, bunun bir kısmını geri kazanmaya çalışmak" diye önerdi. "Facebook'a geri gönderdikleri sinyal bu mu? Dürüst olmak gerekirse, bu oldukça düşük bir meyvedir. Bu, insanlara kesin kuralı bilmelerini sağlamaktır, onlara gerçekleri analiz etme veya kuralın gerçeklere uygulanmasına ilişkin bir bilgi verilir ve onlara gördüklerini bu tür bir okuma sunarak insanlar olanlardan daha mutlu olurlar.

"Ya da en azından biraz daha fazla bir süreç varmış gibi hissediyorum ve onları sansürleyen sadece bu kara kutu değil."

Komitenin sorgusuna verdiği yanıtta Rusbridger, gözden geçirme kararı almaya nasıl yaklaştığını tartıştı.

"Yargılamaların çoğunda, bu davada ifade özgürlüğünü neden kısıtlayacağımızı iyi düşünerek başlıyorum – ve bu sizi ilginç sorulara sürüklüyor," dedi, konuşma konusundaki düşünce okulunu daha önce 'kavga' gibi özetlemişti. daha fazla konuşma ile kötü konuşma 'Adalet Brandeis tipi görünüm.

"Küsme ve zarar görme arasındaki sınırın aksine, olaylardan biri gücenmeme hakkına başvurmuştur" diye devam etti. “Bu konu uzun süredir siyaset filozofları tarafından tartışılıyor ve kesinlikle asla kesin olarak çözülemeyecek.

“Ancak, gücenmeme hakkını tesis etmeye devam ederseniz, bu, sonunda hemen hemen her şeyi tartışabilme yeteneği üzerinde büyük etkilere sahip olacaktır. Ve yine de Facebook'un bir şeyi kaldırırken buna benzer bir şeyi harekete geçirdiği bir veya iki durum oldu. "

"Suçun aksine zarar vermek, açıkça farklı muamele edeceğiniz bir şeydir" diye ekledi. "Ve biz de burada uzmanlar işe alabildiğimiz ve zarar konusunda danışman arayabildiğimiz için şanslı bir konumdayız."

Rusbridger, saldırgan konuşma ile zararlı konuşmanın kendisi arasında "sınır çizgisi" oluşturması gerektiğinde Kurul'un karşılaştığı zorluklar ve tuzaklar konusunda endişeli görünmese de – uzmanlıktan (daha fazla) dışarıdan yararlanabilmek muhtemelen yardımcı oluyor – bir dizi konuyu gündeme getirdi. oturum sırasında diğer operasyonel endişeler. Mevcut yönetim kurulu üyeleri (tamamen Facebook’un seçtikleri) arasındaki teknik uzmanlık eksikliği dahil.

Teknik uzmanlık olmadan Kurul, önerdiği gibi, Facebook'un içerik dağıtım makinesini anlamlı bir şekilde anlayamayacağı için 'algoritmayı nasıl inceleyebilir?'

Yönetim Kurulu şu anda teknik uzmanlığa sahip olmadığından, algoritmasının daha derinlemesine incelemesini gözden geçirmesine ve saptırmasına yardımcı olarak, işlevi ve ilk öğrenilen kohortunun Facebook'un kendi çıkarları açısından yararlı aptallar olarak oynanıp oynanmayacağı hakkında daha geniş sorular sormaktadır. para basma seçenekleri.

Facebook makinesinin teknik ve ekonomik olarak nasıl çalıştığını gerçekten anlamıyorsanız, herhangi bir anlamlı denetimi nasıl gerçekleştirebilirsiniz? (Rusbridger açıkça bunu anlıyor – ama aynı zamanda sürecin nasıl işlediğini görmekten ve beklemekten de memnun. Hiç şüphe yok ki entelektüel egzersiz ve içeriden görüş büyüleyici. Kanıt açıcısında itiraf ettiği gibi, "Şimdiye kadar bunu oldukça emici buluyorum" .)

"İnsanlar bana o Kurulda olduğunuzu söylüyor, ancak algoritmaların toplulukları kutuplaştıran duygusal içeriği ödüllendirdiği iyi biliniyor çünkü bu onu daha bağımlılık yapıyor. Bunun doğru olup olmadığını bilmiyorum – ve bence bir yönetim kurulu olarak bunun üstesinden gelmek zorunda kalacağız, ”dedi. "Bu, kodlayıcıların çok yavaş konuştuğu birçok oturum sürse bile, ne dediklerini anlayabiliriz."

"Sorumluluğumuzun bu makinelerin – moderatörlük yapan makinelerden çok içeri giren makinelerin – ne olduğunu anlamak olacağını düşünüyorum," diye ekledi. "Ölçütleri ne?"

Her iki tanık da başka bir endişeyi dile getirdi: Kurulun aldığı türden karmaşık, incelikli moderasyon kararlarının ölçeklendirilemeyeceği – genel olarak AI tabanlı moderasyonu bilgilendiremeyecek kadar spesifik olduklarını öne sürdü. Ayrıca, Facebook'un halihazırda işlettiği kadrolu denetleme sistemi tarafından eyleme geçirilmesi de mümkün olmayacak (bu, binlerce insan moderatörüne içerik kararı başına olağanüstü derecede küçük bir düşünme süresi veriyor).

Facebook’un geniş ölçeği karşısında Yönetim Kurulu’nun sınırlı ve Facebook tanımlı işlevi – içerik imparatorluğunun sınırlarında oynaşmak – oturuma tam anlamıyla boğuşmadan huzursuz bir şekilde asılı kalan kapsayıcı bir noktaydı.

Rusbridger, "'Bu kolayca iletilebilir mi' hakkındaki sorunuzun, biraz güreştiğimiz gerçekten iyi bir soru olduğunu düşünüyorum," dedi ve bir sürü alışılmadık "insan hakları protokolleri ve dünyanın dört bir yanından normlar ”gözden geçirme işinin taleplerini yükseltmek için nitelikli hissetmek.

Bu eğitim düzeyini Facebook'un şu anda içerik denetimi yapmak için kullandığı on binlerce moderatör için ölçeklendirmek, elbette göze batacak kadar pahalı olacaktır. Facebook'tan teklif de değil. Bunun yerine, son derece az sayıda içerik kararının üstesinden gelmek için çok pahalı ve bilgili 40 uzmandan oluşan bir çatlak ekibi seçti.

Rusbridger, "Aldığımız kararların insan moderatörler tarafından anlaşılabilir olmasının önemli olduğunu düşünüyorum," diye ekledi. "İdeal olarak makineler tarafından da anlaşılabilirler – ve orada bir gerilim vardır çünkü bazen bir vakanın gerçeklerine bakarsınız ve buna bu üç standarda göre belirli bir şekilde karar verirsiniz [Facebook’s community standard, Facebook’s values and “a human rights filter”]. Ancak bunun bir makinenin bu vaka ile başka bir vaka arasındaki nüansı anlaması için oldukça uzun bir emir olacağı bilgisine göre.

Ama biliyorsun bunlar ilk günler.