Podcast: Çevrimiçi yanlış bilgi gerçeği nasıl öldürdü

Podcast: Çevrimiçi yanlış bilgi gerçeği nasıl öldürdü


ABD başkanlık seçimlerinden önceki günler ile erken oylama şimdiden 2016 seçimlerinde kullanılan tüm oyların yarısını aştıve her gösterge seçmenlere enerji verildiğidir. Öyleyse, bu son derece tartışmalı, son derece kutuplaşmış siyasi ortamda (daha az olmamak üzere şiddetli bir pandeminin ortasında), dezenformasyon kampanyalarının büyük olasılıkla sıcak ve hızlı bir şekilde gelmesi mantıklı geliyor.

Facebook ve Twitter gibi büyük platformlar almaya başladı agresif eylem dezenformasyon ağlarına ve QAnon komplo teorisiyle ilişkili hesaplara karşı. Ancak yayılmayı durdurmak için dezenformasyonu engellemek için hareket etmek geri tepme ve yakın zamanda sosyal medya platformlarını açık bıraktı sansür suçlamaları.

MIT Technology Review için dijital kültür hakkında yazan ve yıllardır yanlış bilgileri ele alan Abby Ohlheiser, "QAnon baskısı için çok geç kalın" diyor. "[It’s] sanki platformlar bir nehrin taşmasını önleyerek suyu kovalara atıyormuş gibi. "

Deep Tech'in bu bölümünde, siber güvenlik muhabirimiz Patrick Howell O’Neill ile birlikte seçim bütünlüğü bültenimizi de yazıyor. sonuç– dezenformasyon kültürünün nasıl olduğunu tartışmak yıllardır çevrimiçi olarak başarılı olmak ve genel yayın yönetmenimiz Gideon Lichfield ile seçim gününde neler beklenebilir.

Ayrıca bir teklif Harvard’daki Kennedy Okulu Teknoloji ve Sosyal Değişim Araştırma Projesi direktörü Joan Donovan'dan. Sosyal medyayı başka bir bağımlılık yaratan ve potansiyel olarak zararlı ürün olan tütün gibi düzenlemeye başlamanın zamanının geldiğini savunuyor.

Ödeme Deep Tech'in daha fazla bölümü burada.

Notları ve bağlantıları göster:

Tam bölüm transkripti:

Gideon Lichfield: Sosyal medyada yayılan yanlış bilgiler ölümcül. Kelimenin tam anlamıyla insanları öldürüyor. Myanmar'daki ayaklanmaları, Hindistan'da yanlış şüpheli suçluların öldürülmesini ve covid-19 için sahte tedaviler alan veya güvenlik önlemlerini görmezden gelen insanların ölümlerini körükledi.

Aynı zamanda önümüzdeki hafta yapılacak ABD başkanlık seçimlerinin bütünlüğünü de tehdit ediyor. Başkan Donald Trump ve destekçileri aylardır, hem bağımsız araştırmacılar hem de hükümet organları bunun tarihsel olarak son derece nadir olduğunu söylese de, postayla oy kullanmanın kitlesel sahtekarlığa açık olduğuna dair yanlış iddialar yayıyorlar.

Facebook, Twitter, YouTube ve diğer platformlar geç yanıt vermeye çalışıyor. Seçimleri iptal ettiler ya da işaretlediler, yanlış bilgilendirme yaptılar ve QAnon komplo hareketiyle ilişkili hesapları kaldırdılar. Ama hepsi çok mu az, çok mu geç?

Benimle birlikte, MIT Technology Review muhabirlerinden ikisi: Dijital kültür hakkında yazan ve yıllardır yanlış bilgi olaylarını takip eden Abby Ohlheiser ve siber güvenliği konu alan ve seçim bütünlüğü bültenimizi yazan Patrick Howell O’Neill, sonuç.

Ve yanlış bilgi, siyasi yarışta giderek daha acil bir sorun haline geldiğinden, Big Tobacco'nun düzenlenmesi oyun kitabından bir şeyler ödünç alan Big Tech'i düzenleme önerisine de bakacağız.

Ben Gideon Lichfield, MIT Technology Review'in yazı işleri müdürüyüm ve bu Derin Teknolojidir.

Patrick seçim bültenimizi yazıyorsunuz, Sonuç. Ve tabii ki en büyük konulardan biri de seçim öncesinde yaşanan yanlış bilgilendirme. Facebook ve Twitter, oy kullanma dolandırıcılığıyla ilgili söylentileri geciktiriyor gibi görünüyor. Ancak seçimin kendisi gerçekleştikçe, Başkan Trump ve diğerleri tarafından yapılan iddiaların şiddeti kışkırtacağı ve insanları sokaklara göndereceği konusunda çok fazla endişe var. Seçim gecesi göreceğimiz sorunlara bu platformların hazır olduğuna dair bir fikriniz var mı?

Patrick Howell O'Neill: Bu yüzden bunun hepimizin geldiğini gördüğümüz bir sorun olduğunu söylemekte haklısınız, ama gerçekte ne kadar hazır olduğumuz net değil. Açıktır ki başkan barışçıl bir güç transferini taahhüt edeceğini söylemeyi reddediyor, bu da kaybederse ne anlama geldiğine dair oldukça makul bir korku uyandırıyor. Bu yüzden orada konuşulacak çok şey olduğunu düşünüyorum. Her şeyden önce, bu uzun vadeli dezenformasyon kampanyasına, daha iyi bir ifadenin bulunmaması nedeniyle, seçimin güvenliği ve özellikle de oylamada postanın güvenliği ile ilgili olduğu gerçeği var, bu da daha fazlasını hesaba katabilir. Bu seçimde oyların% 50'sinden fazlası.

Ve sonra, bu daha büyük komplocu anlatıya bu tür oyunlar, bir meta anlatının, uzmanların dediği şey, bu seçimin hileli olacağı ve bu seçimin çalınacağı gerçeği var. Ve fikir şu ki, işlerin nasıl gittiğine bağlı olarak, seçim gününde tüm bunlar bir noktaya gelebilir. Ve bu tür bir meta anlatı, Facebook, Twitter ve genel olarak sosyal medya için başa çıkamayacak kadar büyük olabilir, çünkü denetime veya gerçek kontrolüne tabi olan tek bir gönderi veya içerik parçası değildir. Her şey bununla oynuyor ve açıkçası, şu ana kadar her şeyin hileli olduğu genel anlatıyı gerçekten ele geçirme açısından o cephede başarısız oldular.

Gideon Lichfield: Doğru, bugün sahip olduğumuz şekliyle yanlış bilgi sorunu bu, değil mi? Çok değişiyor mu? Çok şekilsiz. Facebook ve Twitter gibi platformlar, yapay zekaya, yanlış söylentiler olan şeyleri tespit etme ve daha sonra bir insan görmeden onları kaldırmaya yönelik tekniklere çok yatırım yapıyor. Ancak söylentinin doğası çok değişirken bunu yapmak zor. Abby, bu hakkında yazdığın bir konu, özellikle de QAnon hareketinden çıkan yanlış bilgilerle ilgili.

Abby Ohlheiser: Evet. Demek istediğim, QAnon büyüdükçe olan şeylerden biri … pandeminin ilk haftalarından sonra büyük ölçüde yanlış bilgilendirme ortamından kaynaklanıyor … Q Anon gittikçe daha fazla ilgi gördükçe ve bu platformlar olarak Yanlış bilginin en önemli sirkülasyonu olan grupları alt etmek için şeyler yapmaya başladılar ve taktikler bu yazılara yanıt olarak değişti.

Bu nedenle, bu daha agresif politikaların bazılarına yanıt olarak bu platformlarda Q Anon içeriğinin azaltıldığı kesinlikle doğru olsa da, tam olarak neyin Q Anon içeriği olarak sayıldığını söylemek de zorlaştı. Q, Q Anon'un merkezindeki gizemli figür, takipçilerine gönderiler bile koydu ve onlara artık Q Anon hashtag'lerini kullanmamalarını söylüyor çünkü bu içerik bulmayı çok kolaylaştırıyor. Yani bu, internetteki yanlış bilgi-istismar-tacizin tanımlayıcı ve tekrarlanan bir özelliğidir. Ve bu işi yapmakta ve onu bu ana akım platformlarda çalıştırmakta gerçekten çok iyi olan insanlar, bu andan önce gerçekten iyi olmak için yıllarca pratik yapmışlardır.

Gideon Lichfield: Birkaç gün önce New York Times'da Kara Swisher'ın Alex Stamos ile röportaj yaptığı Sway podcast'ini dinliyordum. O, Facebook'un bilgi güvenliği şefi olarak çalışıyordu. Ve orada yanlış bilgi veya propagandayla savaşmak için yapay zekayı kullanmanın ilk günlerinde Facebook'un oldukça spesifik problemlerle uğraştığı gerçeğinden bahsetti. Facebook Live'da insanlar görmeden önce yayınlanan bir çekimin videosunun nasıl kaldırılacağı veya IŞİD propagandasının nasıl bastırılacağı gibi. Ve IŞİD gibi bir şey olduğunda, çok net bir ideolojiye ve çok özel mesajlara ve bir kimliğe sahip olduklarını belirtti. Beyaz milliyetçilik söz konusu olduğunda oldukça öngörülebilir, belirli mesajları ve memleri vardır, ancak QAnon gibi bir şey olduğunda veya seçimde yanlış bilgilendirme gibi bir şey olduğunda bile, iddialar ve bunları yapan insanların türleri o kadar çeşitli olabilir ki, bunu yapmak gerçekten zordur. bunu yapmak için bir algoritma eğitin.

Abby Ohlheiser: Şu anda onu bu kadar zorlaştıran şeylerden biri de amacın sadece bu fikirlerin en açık halini Facebook ve Twitter'da yaymak olmaması. Dikkat çekmek ve olabildiğince geniş bir şekilde takip etmek. Ve QAnon bir kampanya yapmaya çalıştığında, milyonlarca insana ulaşmaya çalıştığında, bunu, çok özel inançlara sahip çok özel bir komplo teorisi olan QAnon'u yönlendiren temel inançlardan bahsederek yapmayacaklar.

İnandıklarının parçası olan ve başkalarının inanmasını istedikleri şeylerden bazılarını alacaklar. Ve bunu daha ana akım fikirlere ve nedenlere bağlayacaklar ve daha sonra içeriklerini bu daha yaygın hashtaglere ve konuşmalara yerleştirmeye çalışacaklar. Yani, evet, yani, kısmen ideolojilerin ve içeriğin kendisinin çok geniş ve değişken olması ve aynı zamanda … eğer amaç sadece bir dikkat ise, o zaman biraz daha fazla olmanıza izin verir Daha geniş hedefe hizmet ettiği sürece, tam olarak önce dikkat çekmek istediğiniz şey konusunda esnek.

Gideon Lichfield: Geçen hafta EmTech konferansımızda hem Facebook hem de Twitter'ın baş teknoloji yöneticileriyle röportaj yaptım ve onlara genel olarak yanlış bilgilere karşı ne gibi önlemler aldıklarını sordum. Abby, özellikle geçen yıl, platformların çökertmek için neler yaptığına dair genel görüşünüz nedir?

Abby Ohlheiser: 2020'nin başlarında yaptıkları bir Pew çalışmasına rastladım, ki bu salgından hemen önce, insanlara Q Anon hakkında sorular sordular ve bu noktada Amerikalı yetişkinlerin yaklaşık% 23'ü bunun hakkında çok az şey bildiklerini veya çok şey bildiklerini söyledi. . Ancak Eylül ayı başlarında insanlarla tekrar anket yaptıklarında, bu sayı iki katına çıktı ve özellikle Cumhuriyetçiler, Q Anon'u duymuş olanların, bunun en azından biraz da olsa iyi olduğunu düşündüklerini söyleme olasılıkları çok daha yüksekti. ülke. Sağ?

Yani, platformların yaklaşımı değiştiği gibi, sadece bu değil. Aynı zamanda bir varlık olarak QAnon'un farkındalığı ve gücü değişti. Haziran ayında, uzmanlarla yaptığım röportajlara dayanarak, belki de QAnon'u durdurmak için çok geç olduğunu düşündüğümü yazdım. Ve bu noktada bu parçayı yazmak konusunda kendimi oldukça iyi hissediyorum. Bunu yazdığımdan beri, platformlar QAnon hesaplarını kapatmaya çalışmak için çok daha agresif adımlar attı. Ve bunun ne ölçüde işe yarayıp yaramadığına bakmak için henüz çok erken, çünkü QAnon hala bu değişikliklere uyum sağlama sürecinde. Ancak bu noktada, ılımlılık uygulamaları ve bu şirketlerin değişimleri ve inançlarıyla nasıl başa çıkacaklarını öğrenmek için temelde üç yıllık bir ön başlangıç ​​yapmış gibi görünüyorlar. Ve bu onlara bu şeylerden nasıl kurtulacaklarını anlamaları veya başka bir yere taşınmaları ve bu daha ana görüşmelerde yeni bir yol bulmaları için pek çok araç sağlıyor. Demek istediğim, aynı zamanda, bu noktada, Başkan'a defalarca QAnon hakkında sorular soruldu ve defalarca, gücünü azaltmak için gerçekten her şeyi yapacak şekilde onu kınamayı reddetti.

Cevabını gerçekten rapor edemezsin. Başkan Trump'ın bu noktada, QAnon ile ilişkili yüzlerce Twitter hesabının retweetleri, kasıtlı olarak yaptığı veya yapmadığı bir şey. Göstergeler, bunun tam olarak kasıtlı olmadığıdır. Kendisinden hoşlanan insanlardan hoşlanıyor gibi görünüyor, bu da Q Anon hareketinin büyük bir kısmıyla ilgili. Bunu zaten yapıyor olması ideolojiye öyle bir platform veriyor ki, bu şirketlerin yaptırım eylemleri zaten hedeflerine ulaştıkları bir noktada geliyor.

Gideon Lichfield: Patrick, platformlar yanlış bilgileri tahrif etmek için çeşitli yöntemler kullanıyor. Facebook'un sorunlu olduğunu düşündüğü bir gönderiyi daha az kişiye dağıtmaya karar vermesi gibi, bazıları daha az görünür. Platformların yanlış bilgi içeren bir şeyi işaretlemesi veya alternatif bir bilgi kaynağı vermek için yanına başka bir bağlam koyması gibi bazıları daha açıktır. Bunun bir örneğini, Twitter'ın New York Post'ta, e-postaya dayanan Hunter Biden hakkındaki bir makalenin bağlantısını bloke ettiğinde, Biden'ın sözde onarım için bıraktığı bir dizüstü bilgisayardan kurtarıldığını gördük. Ve bu bilginin kaynağı hakkında pek çok soru vardı, ancak hikayeyi bu şekilde engellemek Twitter'da bir nevi geri tepti. Değil mi?

Patrick Howell O'Neill: Doğru. Yani, biliyorsunuz, hikaye artık hikaye değildi, en azından kısa vadede, konuşma bir Hunter Biden'dan ve hikayedeki suçlamalardan biraz uzaklaştı ve sansür ve siyasi önyargılardan birine döndü. Açıkçası, 2016'daki WikiLeaks olaylarından bu yana dört yıldır beklenen ve tahmin edilen bir senaryo. Silikon Vadisi'nde ve akademisyenlerde tekrarlandı ve hazırlandı. Ve özel sorun şu ki WikiLeaks'te olanlardan daha da zor çünkü Amerikan gazetecilik kıyafetlerini kullanıyor.

Öyleyse bir teknoloji şirketi, bir sosyal medya şirketi için bu sohbeti kontrol etmek için doğru hareket tarzı nedir? Ve Twitter'ın bağlantıyı geçici olarak engelleme kararı, sohbeti geçici olarak Silikon Vadisi sansürü ve siyasi önyargı ile ilgili Cumhuriyetçi konuşma noktasına ve seçim ölçeğini Cumhuriyetçilerden haksız yere düşürerek geri çevirdi.

Abby Ohlheiser: Silikon Vadisi sansürü veya muhafazakar düşünceye karşı önyargı gibi sağcı iddialar gibi bunlarla ilgili ilginç şeylerden biri de yıllardır ortalıkta dolaşıyor olmaları. Gerçek oldukları hiçbir zaman kanıtlanamadı, ancak böyle konuşmalarda tekrarlamaya devam ediyorlar çünkü işe yarıyorlar.

Ve bu kesinlikle New York Post Hunter Biden hikayesinde doğru görünüyor. Bu yüzden, çevrimiçi medyadaki yanlış bilgilerden bahseden Zignal laboratuvarlarına ulaştım. Yani sosyal medya, yazılı medya, tüm bunlar. Ve Twitter'ın engellediği URL'nin Twitter paylaşımlarına baktılar. Ve Twitter bu engellemeyi kurmadan hemen önce bağlantı yaklaşık 5.500 kez paylaşılıyordu. 15 dakikalık bir süre içinde. Ve blok yürürlüğe girdikten hemen sonra, her 15 dakikada bir yaklaşık 10.000 hisseye sıçradı. Dolayısıyla, Twitter'ın saldırıya uğramış materyal politikası kapsamında sınırlandırdığı şeyin yayılmasını azaltmak için bir şeyler yaptığı bu dönemde, aslında bu bağlantının paylarının esasen ikiye katlanmasına neden oldu. Ve Patrick'in dediği gibi, Twitter'ın muhafazakârlarla savaşa girmesiyle ilgili yepyeni bir döngü haline geldi, Twitter, bunun gerçekten Biden yanlısı olduğunu gösterdi. Ve sonra bu konuşma patladı ve kendi başına bir şey haline geldi ve beraberinde bu tür kuşkulu bir makale getirdi.

Gideon Lichfield: Neredeyse, üzgün hissediyorsunuz, belki de sosyal medya platformları için birazcık, çünkü yapsalar ve yapmazlarsa lanetlendiler. Eğer sansür ederlerse, herhangi bir yanlış bilgiyi bastırmaya çalışırlarsa, önyargı ile suçlanırlar. Bunu bırakırlarsa, açıkça bir nefret platformu olmakla suçlanıyorlar. Onlara sempati duyuyor musun?

Abby Ohlheiser: Bunu bana mı soruyorsun? [LAUGHTER]

Gideon Lichfield: Evet. [LAUGHTER]

Abby Ohlheiser: İşlerin nasıl bu kadar kötüye gittiğine dair yazdığım özellik aslında dinleme ve hafıza ile ilgili bir hikayeydi, değil mi? Bu yüzden, şu anda işlerin nasıl kötü olduğu sorusuna, bu şirketlerin kelimenin tam anlamıyla on yıl öncesine geri dönüp bu platformların bu konuları ele almasına yardımcı olabilecek bazı anlamlı değişiklikler yapmak için dinleyebilecekleri tüm seslere bakarak cevap vermek istedim. Ve en azından bunu, günlük olarak çok iyi çalışan bir şey olmaktan çıkarın.

Ve ben de bu hikayeler için röportaj yaptığım bazı insanların bu şirketlere sempati duyup duymayacakları konusunda ne düşündüklerini merak ederdim çünkü bazen bu şirketlerin ne kadar kötü olduğunu bilmedikleri perspektifinden kaçtığını düşünüyorum. şeyler vardı, ya da geri kalanımızla birlikte öğreniyorlar ya da onlardan öğrendikçe bir şeyleri kısıtlıyorlar. Ancak bu sitelerde yıllardır araştırma yapan veya taciz yaşayan insanlarla konuşursanız, şirketlere neler olduğunu anlattıklarını söylerler. Yani evet, herhangi bir insana ve bu alandaki ve bununla başa çıkmaya çalışan insanlara sempati duyuyorum, bilirsiniz, gazeteciler, bu şirketlerde çalışan insanlar, araştırmacılar. Ama aynı zamanda bu sempatinin müdahale noktalarının olduğu ve yıllar, yıllar ve yıllar önce harekete geçmemeyi seçtikleri bilgisinin olduğu gerçeğini bir şekilde tıkamasını istemiyorum. Ve bu seçimler tekrar tekrar neden burada olmamızın bir parçası.

Gideon Lichfield: Geçen hafta EmTech'te Facebook CTO'su Mike Schroepfer'e neden daha erken davranmadıklarını sorduğumda, insanlar yıllardır Q Anon hakkında uyarılarda bulundular çünkü Abby'nin yazdığı gibi, bana bir nevi anlattığını düşündüğüm bir şey söyledi. Bu tür yanlış bilgilerin neden olabileceği zararlar hakkında çok fazla veri topladıklarını söyledi. Ve ben de "Öyle mi? Bir şey üzerinde harekete geçmeden önce çok büyük veriler toplamanız mı gerekiyor? " // Ve onun cevabı, aslında uzman dedikleri şeye danışmadan bir yargıda bulunma konusunda çok dikkatli olmak istedikleriydi.

Mike Schroepfer: Yapmak istemediğim bir hata, başkalarının neye ihtiyacı olduğunu, başkalarının ne istediğini veya neler olduğunu anladığımı varsaymaktır. Ve böylece bundan kaçınmanın bir yolu, sahip olduğumuz uzmanlığa güvenmek olduğunu biliyorsunuz. Yani, örneğin, tehlikeli örgütler için, terörizmle mücadele geçmişine sahip birçok insanımız var. Oylama müdahalesi hakkında konuşurken kanun yaptırımı geçmişi olan pek çok kişi var. Oy hakları konusunda geçmişe sahip uzmanlarımız var. Ve böylece uzmanları dinler ve verilere bakarsınız.

Gideon Lichfield: Uzmanlara danışmaları gerektiği söylenebilir, özellikle de yıllar önce tüm bu yanlış bilgilerden etkilenen ve zararlı olduğunu ama dinlenmediğini söylemeye değer kadınlar ve beyaz olmayan insanlardı.

Abby Ohlheiser: Evet. Demek istediğim, raporumda sürekli ortaya çıkan şeylerden biri … yani, örneğin, Reddit'in eski CEO'su Ellen Pao ile röportaj yaptım ve ona bu şirketlerin daha iyi neler yapabileceğini sorduğumda bana söylediği şeylerden biri. oldu. Mesela Reddit'te ırkçılığın var olduğunu bilmek için herkesin veriye ihtiyacı olmadığı için, siteyi gerçekten kullanan ve bu sorunları ilk elden deneyimleyen kişilere daha çok benzeyen ve yaşanmış deneyimler yaşamış liderliği yerine getirin. Ve bence haklısın.

Bu yorum bana inanılmaz bir şekilde anlatıyor çünkü bence bu parça için röportaj yaptığım kişilerin yanlış bilgi ve tacizden nasıl bahsettikleri arasındaki temel farklardan biri, çünkü bu şeyler daha sonra bir bakıma çok daha sistemik konularla bağlantılı. çevrimiçi hale getirildi ve daha da kötüye gitmesi için teşvik edildi. Ve buna ihtiyacı olduğunu hisseden insanlar, bunun olabilecek bir şey olduğunu onlara kanıtladı.

Gideon Lichfield: Öyleyse Patrick, sence seçim günü kendisinden ne beklemeliyiz?

Patrick Howell O'Neill: Bence seçim gününde ne bekleyeceğiniz hakkında konuştuğunuzda, bu cevabın birkaç farklı katmanı var. Öyleyse, şimdiye kadar açıkçası gayet iyi giden seçimin mekanikleriyle başlayalım. Bu noktaya kadar oy verme veya sayma konusunda herhangi bir sorun olduğuna dair hiçbir şey yok. 50 artı milyon oy aldık.

Endişelenecek şey algıdır. Bu yüzden, potansiyel bir çoğunluk postası olan bir seçimde, sonuçlar açısından ne olacağı sorusu var. Her şeyden önce postayla verilen oylar, sayılması daha uzun sürer ve genellikle şahsen oylardan veya erken oylamalardan daha sonra saymaya başlar. Ve bu, birkaç tür yasal ve diğer türden sürecin bir işlevidir, ancak nihai sonuç, muhtemelen seçim gecesinde postayla gönderilen tüm oyları bilmeyeceğimizdir. Şimdi bu, genel oyları bilmemize nasıl etki ediyor, seçimin genel sonuçları, bir heyelan olup olmadığına, yakın olup olmadığına, sallanan Devletlerin ne olduğuna bağlı.

Potansiyel olarak kötü bir senaryo, biliyorsunuz, çok yakın, henüz rapor edilmemiş önemli sonuçlar var. Ve bu bilgi boşluğunda, dezenformasyon ister gerçek bir adaydan ister yabancı bir rakipten olsun, akın eder. Bu türden bir bilgi boşluğu, potansiyel olarak uyumsuzluk ekebilecek, kaos yaratabilecek ve ardından gerçek kabus senaryolarına girebilecek, sanırım şiddete kadar gidebilecek herhangi bir sayıda yolla değişiklik gösterebilecek. Ancak nihayetinde seçilen kişi için sadece uyumsuzluk veya gayri meşruiyet bile burada olumsuz bir sonuçtur.

Gideon Lichfield: Yanlış bilgi konusunda önde gelen akademisyenlerden biri, Harvard Kennedy Okulu'ndaki Teknoloji ve Sosyal Değişim Araştırma Projesi'nin yöneticisi Joan Donovan'dır. Bu ayın başlarında, Kongre'ye yanlış bilgi verdiğine dair ifade verdi ve bizim için sigara gibi sosyal medyayı düzenlemeye başlamanın zamanının geldiğini savunan bir makale yazdı. Joan, yazınızda Facebook'un eski para kazanma başkanı Tim Kendall'dan bahsediyorsunuz. Geçen ay Kongre'ye ifade verdi. Ve bu ilginç paralelliği çizdi. Sosyal medyanın tütün endüstrisi gibi olduğunu söylediği yerde, tütün firmalarının sigaraya daha fazla sigara içmesini kolaylaştırmak için bronkodilatör, şeker ve mentol adı verilen şeyler ekledi. Ve sosyal medya, insanları sosyal medyayı daha fazla kullanmaya teşvik eden durum güncellemeleri, fotoğraf etiketleme ve beğeniler gibi şeyler ekledi. Sosyal medyanın yapabileceği zararları anlamak istiyorsak, yazınızda tütünle de bir paralellik olduğunu belirttiniz. Bu konuda bize ne söyleyebilirsiniz?

Joan Donovan: Evet, yanlış bilginin ortaya çıkardığı meydan okumayı gerçekten üstlenmemizi engelleyen şeylerden birinin, ötesine geçen teorik bir çerçevenin olmaması olduğunu düşünüyorum, "ama bu sadece benim özgür konuşmamdır" veya "bu sadece benim paylaşma ve yanlış bilgi yaratmak için. "

"Bu sadece benim seçimim", başlangıçta sigara satışını ve insanların halka açık yerlerde sigara içme yöntemlerini anlamamızın bir yoluydu. Çevrenizde hiç kimsenin ikinci el dumanla nefes alıp almayacağı konusunda seçeneği yoktu. Ve zamanla, epidemiyologlar ve diğerleri, sigaranın sağlık riskleri hakkında daha net düşünmeye başladılar. Negatif dışsallıklar dediğimiz şeye neden olan veya sigara içmeme seçeneğine sahip olmayan insanlara aşırı zarar veren bu bireysel seçimlerden başka kimler zarar görüyor?

Ve zamanla, farklı şehirlerde, kamusal alanda sigara içmek, uçakta sigara içmeyi yasaklamak, sinema salonlarında sigara içmeyi yasaklamak gibi tartışmaların ve düzenlemelerin uygulandığını ve uygulamaya konulduğunu gördünüz. Ve şimdi, halka açık yerlerde sigara içilmemesi çok evrensel ve bence yanlış bilginin düzenlenmesi için doğru çerçeveyi düşünmenin önemli olduğunu düşünüyorum çünkü bilgi ekosisteminin tamamından bahsetmiyoruz. İnsanların aşırı risk almasına neden olabilecek bilgi türlerinden bahsediyoruz.

Gideon Lichfield: Ne gibi mesela?

Joan Donovan: Akla özellikle tıbbi yanlış bilgilendirme konusu geliyor. Maskelerin işe yaramadığı, maske takmanın bile bir şekilde geri dönüştürülmüş hava soluduğunuz için koronavirüse yakalanma riskinizi artırdığını iddia eden mesajlarla boğuşuyorsanız, bu fikirler insanların davranışlarını çok hızlı değiştirmelerine neden oluyor.

Gideon Lichfield: Yazınızda, Antifa aktivistlerinin onları aydınlattığına dair söylentilerin olduğu Batı kıyısındaki orman yangınlarının etrafında gerçek dünyaya zarar veren başka bir yanlış bilgilendirme örneği de yazdınız. Bize orada olanlardan biraz daha bahseder misiniz?

Joan Donovan: Evet. Bu yüzden, farklı yanlış bilgilendirme olaylarını incelediğimizde, bu söylentilerin nasıl ölçeklendiğini, yani internette nasıl yayılmaya başladıklarını, onları kimin aldığını, onlara kimin inandığını ve onlardan kimlerin etkilendiğini gerçekten anlamaya çalışıyoruz. . Ve antifaşist protestocularla Black Lives Matter'ın yangın çıkardığı söylentisi arasındaki bağlantıyla ilgili ilginç olan şey, insanların ormanda Antifa'yı aradıkları anlamına gelmiyordu.

Gerçekten de insanlar kanun yaptırımı aramaya başlamıştı. Yerel kolluk kuvvetlerini telefon görüşmeleriyle kışkırtmaya başladılar, bu da kolluk kuvvetlerinin işlerini bile yapmasını zorlaştırıyordu. Ve sonra FBI'ın bile bu söylentiyi yaymayı bırak, Hey, dinle, demesi için tweet atmak zorunda kaldığı durumlar oldu. Dolayısıyla, doğası gereği siyasi olan söylentilerin, zaten çok tehlikeli bir durumda kolluk kuvvetlerinin işlerini yapmalarını engelleyen bu istenmeyen etkilere ne zaman sahip olduklarını düşünmeliyiz.

Gideon Lichfield: Peki orman yangınları durumunda platformlar ne yapabilirdi?

Joan Donovan: Benim bu konuyu ele almam, gazetecilerin çürütülmüş hikayelere çağrıldığı ve akademisyenlerin ve araştırmacıların bir yanlış bilgilendirme kampanyasına ve kanun yaptırımına dair kanıt oluşturmaları ve bunlara bakmaları için çağrıldığı bir durumdaysak ve FBI bunun bir Tehlikeli bir durumda, platform şirketleri, bu tür söylentilerin bu türden olumsuz kamu etkisi yaratmasına izin vermemek için daha proaktif davranmalıdır. Ve bununla ilgili gidebilecekleri birkaç farklı yol var, ancak şimdi bizi en zararlı suçlulardan bazılarına işaret eden birkaç yıllık veriye sahibiz.

Bu fikri gerçekten harekete geçiren ve bu söylentiyi güçlendiren blog, bunu birkaç kez daha yaptı. Bu yüzden platform şirketlerinin tatbik etmeleri gereken bir özen yükümlülüğü olduğunu düşünüyorum.

Gideon Lichfield: Peki, bu söylentileri yayan bu blog durumunda, platform şirketleri bundan gönderileri yasaklamalı veya daha az görünür hale getirmeli miydi? Tam olarak ne yapmaları gerekirdi?

Joan Donovan: İkisi ve. Yani, eğer bir dizi yanlış bilgiye bakıyorsanız ve bu blog veya bu hesaplar, onu büyütmenin merkezinde olmaya devam edenler ise, o zaman hesapları tamamen kaldırarak harekete geçmelisiniz. . Ya da dolaşıyor gibi görünen şeylerin yayılmasını sınırlayabilirsiniz, işte buna "aşırı performans" denir. Yani, Facebook'taki sayfaların çalışma eğiliminde olduğu normal bir seyir vardır, ancak belirli hikayeler orantısız olarak ölçeklenmeye başladığında ve bilgi taciz etmediğinden emin olmak için bir tür içerik incelemesini tetiklemesi gereken yeni kitlelere ulaşmaya başladığında. Bu iftira niteliğinde bir bilgi değil. Yanlış bilgi değil. Bu yüzden, yanlış bilgilerin yayılmasını daha yapısal ve şeffaf bir şekilde azaltmak için kullanılabilecek platform şirketlerinde zaten mevcut olan araçlar olduğunu düşünüyorum.

Gideon Lichfield: Sence ayak uydurmaları mümkün mü? Çünkü yanlış bilgi nedir, yanlış bilgi olarak kabul edilen şey açıkça içeriğe bağlıdır. Değişmeye devam ediyor. Ve böylece her zaman bir anlamda dünyada bir adım geride kalıyorlar.

Joan Donovan: Evet. Ve bence odağımızı sosyal medya platformları hakkında, biliyorsunuz, telefon ya da radyo olarak düşünmekten değiştirmemiz ve gerçekten onlara oldukları gibi, yani yayın ağları gibi davranmaya başlamamız gereken yer burasıdır. Ve onlara, bir ölçüde, doğru ve doğru bilgi üretmeleri ve bunu yaymaları gerektiği durumlarda, bir kamu yararı yükümlülüğüne sahip olmalarını gerektiren bir şekilde davranmalıyız. Bir yanlış bilgilendirme kampanyasının tohumlarını içerdiği için bir şeyin viral hale geldiğini düşündüren oldukça güçlü olma eğiliminde olan bu sinyalleri gördüklerinde olduğu gibi.

Gideon Lichfield: Kongre 6 Ekim'de, antitröst ve Amazon, Apple, Facebook ve Google'ın sahip olduğu tekel gücüne ilişkin büyük raporuyla çıktı. Bunun bu yanlış bilgilendirme sorunuyla bir ilgisi var mı sence?

Joan Donovan: Sanırım geriye dönüp son yirmi yıllık internet tarihine baktığımızda, internetin vaatlerinin ne olduğunu anlamalıyız. Erken interneti düşünürsek, yerel haberlerin ölümünü tahmin etmiyorduk, tam tersi oldu. Buradaki fikir, herkesin bir haber yayıncısı olabileceğiydi, birçok web sitesinin ve birçok iletişim yolunun vaadinin gerçekten Amerika'nın doğduğu yerdeydi ve çok daha merkezi olmayan bir tür internet. Ancak platformlar internetin üzerine inşa edildi ve iletişim ve bilgiyi konsolide ettiler, onu bir meta haline getirdiler. Verileri inanılmaz derecede karlı bir metaya dönüştürdüler. Dolayısıyla, ölçeklendirme teşviki, kar teşvikleri tarafından yönlendirilir.

Ve bunun yanlış bilgilendirme için anlamı şudur ki, bu yanlış bilginin ele alınması, karınızı azaltmanız gerektiği anlamına gelir; insanları bu platformlarda kalmaya iten türden öneri ve arama algoritmalarını biraz açmanız gerektiği anlamına gelir. Ve bence antitröst yanlış bilgilendirmeyle bağlantılı olarak takip edildiğinden, yanlış bilginin nasıl karlı olduğu ve insanları bu platformlarda nasıl tuttuğu hakkında daha çok şey öğreneceğiz. Özellikle komplo olan veya bunlarla ilgili yanlış bilgi türleri, bilirsiniz, insanlar şu anda tavşan delikleri dediğimiz şeylerle gerçekten derinden ilgileniyorlar.

Gideon Lichfield: Bazı insanlar, Facebook gibi bir platformun yanlış bilgilerle gerçekten etkili bir şekilde mücadele etmesinin mümkün olmadığını düşünüyor. Paylaşılan içeriğe o kadar bağlıdır ki, gerçekten sıkıştırırsa, kendi iş modelini baltalayacaktır.

Joan Donovan: Biliyorsunuz, bunlar milyar dolarlık şirketler. Bu aşamada küçük pazarlarla uğraşmıyoruz. Bence küçük uygulamalara veya diğer platform türlerine bakabileceğimiz şeylerden biri, hizmet ettikleri topluluklara özen gösterme görevidir. Ve bir platformun herkes için her şey olabileceği ve aynı zamanda topluluklarına hizmet edip onları koruyabileceği fikri artık doğru değil. Ve bu anla ilgili ilginç olan şey, sınırlarda bulunan isimsiz aktörlerin ve insanların bu teknolojileri gerçekten alçakça kullanması değil. Sosyal medyanın yabancı hükümetler, pazarlamacılar ve dolandırıcılar tarafından, bir miktar kaynağa sahip olan ve bu platformların açıklığını toplumdaki açıklıklarını kendi çıkarlarını daha da ileriye götüren insanlar tarafından silahlandırılmasından bahsediyoruz. veya kendi siyasi amaçları.

Ve bu yüzden, sorunun nerede yattığını anlamalıyız, teknolojinin ne yapması gerektiğine dair vizyon ile değil, bu teknolojiyi zaten güçlü insanlara verdiğinizde ne olduğu ve onu nasıl silah haline getirdiği ile ve Özellikle gazetecilik de dahil olmak üzere diğer endüstrilerde kurulan güveni esasen yok etmek.

Gideon Lichfield: Yazdığınız yazıya geri dönersek, yanlış bilgi ve ikinci el duman arasındaki paralelliği çizdiniz. Tütün konusunda yüksek vergiler uygulayarak bunu hallettik. Yanlış bilgileri vergilendirmemizi önermiyorsunuz. Öyleyse, sosyal medya şirketlerini düzenlemede hükümetin rolü nedir?

Joan Donovan: Evet. I think that there needs to be new policy. Of course, everybody is calling for a revisioning of section 230, which has to do with the roles and responsibilities of platforms and other internet companies.

It's the rule that says essentially that you, you should get rid of things that are noxious, like child pornography but that the company is not going to be held responsible for things that people do on their software. Essentially, right? If someone sets up a gambling ring through email, you know, Gmail is not responsible for that. And I think that there's ways in which 230 facilitated the growth of these platforms in a way that did not anticipate where we have ended up—which is essentially where different kinds of elites have taken over and are using them in these dangerous ways.

When we have the policy conversation, we need to focus on the harms. And we haven't done so yet. Most of the time the policy conversation gets wrapped up in legalese around free speech and whose speech matters, but we need to shift and understand the true costs of misinformation. That is; who are the ones that have to repair the damage caused?

Gideon Lichfield: That’s it for this episode of Deep Tech. This is a podcast just for subscribers of MIT Technology Review, to bring alive the issues our journalists are thinking and writing about.

Deep Tech is written and produced by Anthony Green and edited by Jennifer Strong and Michael Reilly. I’m Gideon Lichfield. Thanks for listening.