Depremle bir kez daha yaşadık: Dezenformasyonla nasıl mücadele edilir?

Hesaplama sosyal bilim ve sosyal veri analitiği konularında dünyanın sayılı araştırmacılarından Onur Varol, Bilim Akademisi’nin Genç Bilim İnsanları Ödül Programı (BAGEP) kapsamında 2022 yılında ödüle layık görülmüş bir akademisyen.

Sabancı üniversitesi Viral Laboratuvarının baş araştırmacısı olan Varol, Kahramanmaraş merkezli yaşanan iki büyük depremden sonra da karşımıza çıkan sosyal medya aracılığıyla yanlış bilgilendirme, manipülasyon ve dezenformasyon konusunu, depremden kısa bir süre önce Bilim Akademisi’nin sarkac.org internet sitesinde yayınlanan “Sosyal botlar ve dezenformasyon kampanyaları nedir?” başlıklı makalesinde masaya yatırdı.

Sosyal ağlarda dezenformasyon yayan hesap türleri hangileridir, bu hesaplar nasıl oluşturulur, nasıl tespit edilir? Bizler ne yapabiliriz? #BAGEP ödüllü Onur Varol, #seçim2023'e yaklaştıkça önem kazanacak konuları #Sarkaç'a yazdı.@onurvarol @sabanciu https://t.co/L3GyjQwTmD

— Sarkaç (@sarkac_org) January 23, 2023

Amaç; finansal veya siyasi güç elde etmek!

Dezenformasyonu finansal veya siyasi güç elde etmek amacıyla kullanmak isteyen aktörlerin kendilerine sosyal ağları bir platform olarak seçtiğinin; sosyal botları ve manipüle edilmiş diğer kullanıcıları birer araç olarak kullandığının altını çizen Varol, Türkiye’de 1990’lı yıllarda hayatımıza giren İnternetin, özellikle sosyal ağların da ortaya çıkmasıyla farklı yaş gruplarından milyonlarca kullanıcıyı çevrimiçi olarak bir araya getirdiğini, sosyal medyanın eş zamanlı yapısı nedeniyle acil durumlarda bilgi almak için ilk başvurulan kaynak olarak kullanıldığına vurgu yaptı. Varol, şöyle devam ediyor:

“Örnek vermek gerekirse bir deprem durumunda saniyeler içerisinde trend olan #deprem hashtag’i ile Kandilli Rasathanesi’nin ve diğer ölçüm merkezlerinin bot hesapları otomatik içerik üretiyor, hissedilen depreme dair kullanıcılar tarafından da paylaşımlar yapılıyor. Sosyal ağlar gerçekleşen olayların neredeyse gerçek zamanlı takip edilmesinde önemli bir rol üstleniyor.

Toplum sağlığını tehlikeye atacak yanlış bilgiler de yayılabiliyor

Sosyal medyanın bilgiye ulaşmada bu kadar merkezi bir rol alması, bu platformların kötü amaçlar için kullanılmasına da sebep oluyor. Örneğin sosyal ağlarda isminin önüne gerçek olmayan unvanlar ekleyen kişilerin toplum sağlığını tehlikeye atacak yanlış bilgiler yaymasının, özenli gazetecilik ilkelerinden yoksun olan kurumların kaynak doğrulama ve araştırma yapmaksızın haberler paylaşmasının ve toplumu ayrıştırıcı dil kullanan hesapların içeriklerinin platformda hızlıca yayılarak kullanıcıların fikir ve davranışlarını manipüle etmesinin örneklerini pandemi döneminde de gözlemledik. Sosyal medyanın olaylarla eş zamanlı olarak içerik üretilmesine ve bu içeriğin hızlıca yayılmasına olanak sağlaması kolayca kötüye kullanılabiliyor.

Sosyal ağlarda mesajlarını beğendiğimiz, yorum yazdığımız ve takip ettiğimiz hesapların da bizler gibi gerçek sosyal medya kullanıcıları olduğunu düşünmemiz doğal. Oysa bazı hesapların diğerlerinden daha görünür olması, başkaları tarafından beğenilmesi veya sıklıkla içerik üretmesi doğal yollarla gerçekleşmiyor olabilir. Bu hesapların “başarısının” altında hesabın özelliklerinin ötesinde platformlardaki yanlılıklar, sosyal ağınızın yapısı veya yazılımlar ile desteklenen otomatik faaliyetler bulunabilir.

Hesap tipleri

Sosyal ağlardaki etkili iletişime ve güvenirliliğe de zarar veren farklı hesap tipleri ve bunlara verilen isimler var. Sosyal ağlarda alışılagelmiş kullanıcıların haricinde davranışları otomasyon ile kontrol edilen hesaplara sosyal botlar deniyor ve burada otomasyon faaliyetleri bu hesapları ayırt eden faktör. Bir amaç için motive edilmiş insan kontrolünde veya kısmen otomasyon kullanan trol hesaplar ve çorap kuklası (sock puppet) da denilen hesap tipleri bir diğer grubu temsil ediyor. Bu tür hesapların davranışları sosyal ağlarda normal insan davranışlarında gözlemlenen örüntülerden farklılık gösteriyor. Medya okur yazarlığı ile bu hesapları tespit etmek bir noktaya kadar mümkün ancak sistematik olarak gerçeklesen bazı davranışların belirlenmesinde makine öğrenmesi yaklaşımları daha hızlı ve tutarlı sonuç üretiyor.

Sosyal botlar nasıl tespit edilir?

Sosyal botların tespit edilmesinde davranışlarına, ürettikleri içeriklere ve platformdaki diğer hesaplarla etkileşimlerine bakılarak çıkarım yapılması mümkün. Hesaplarda şüpheli görülen bu işaretler bot türlerine göre farklılık gösteriyor. Örneğin ticari amaçla bir ürün satmaya çalışan, farklı hesapları etiketleyerek ve linkler paylaşarak dikkat çekmeye çalışan hesaplarda, içeriklerin benzerliği veya takipçisi olmayan hesaplarla etkileşime girmesi bir belirteç olabilir. Siyasi alanda kullanılan dil, mesaj sıklığı, benzer içeriklerin başka hesaplar tarafından da paylaşılıp paylaşılmadığı da belirteç olarak alınabilir. Yani kısaca hesapların amaçları, etkilemeye çalıştıkları gruplar ve kullandıkları teknolojiler bot tespitinde belirleyici olan unsurlar.

Günümüzde hâlâ insanlar yazılı metinleri anlama ve sahte resimleri ayrıştırma konusunda makinelerden ileri bir noktada ancak bunu binlerce hesap için kısa bir süre içerisinde yapmak ciddi bir efor gerektiriyor. Ayrıca insanlar için, zaman içinde değişen örüntüleri tespit etmek ve sosyal ağlardaki çarpık yapıları tanımak da ek araçlar ve yazılımlar kullanmadan oldukça zor. İnsanların zaman ve veri işleme konusunda yavaş kaldığı noktada makine öğrenmesi sistemleri büyük avantaj sağlıyor. Sosyal bot tespiti için, büyük verideki anormal örüntüleri tespit eden veya uzmanlar tarafından sağlanan örnekler ile bot hesapları ayırt etmeyi öğrenen yazılımlar geliştiriliyor.

Sosyal botlar nasıl oluşturulur?

Sosyal botların davranışlarını ve içeriklerini kısmen veya tamamen otomatik olarak gerçekleştirmek mümkün. Makine öğrenmesi alanında yaşamakta olduğumuz derin öğrenme devrimi sayesinde insanların iyi olduğu pek çok görevde makineler de ciddi performans gösterebiliyor.

Sosyal botların gittikçe insan davranışlarına yaklaşmaya başlaması bot tespit eden sistemler için önemli bir zorluk. Bu sebeple hesapların davranış ve içeriklerinin tekil olarak ele alınmasındansa sosyal ağ içinde daha bütüncül bir analiz yapılması ve hesaplar arasındaki koordinasyonun tespit edilmesi yönünde çalışmalar var.

Sosyal botlar belli aralıklarla mesajlar gönderebilen basit yapıda programlar olabileceği gibi, sosyal ağlarda yazılanları takip edip bunlara tepki verecek modüllere de sahip olabilir. Benzer şekilde takip ettikleri hesapların aktivitelerini inceleyerek yeni hesapları takibe alabilir veya aktif olmayan hesapları takipten çıkarabilirler. Gerçek insanlarla girdikleri etkileşimler ne kadar detaylı ve insan davranışlarını anlamaya yaklaşırsa bu hesapların o ölçüde gelişmiş olduğunu söyleyebiliriz.

Sosyal medya manipülasyonunda gözlenen koordinasyonlu faaliyetler problemin boyutu ve etki alanını da arttırması sebebiyle platformlar için ciddi bir sorun teşkil ediyor. Bu sistemleri analiz etmek ve zararlı faaliyetlerini erken tespit edebilmek için tekil hesaplardansa birden çok benzer hareket eden veya hiyerarşik olarak örgütlenmiş yapıları tanımlayabilecek sistemler geliştirmek önem kazandı.

Dezenformasyon çeşitliliği

Sosyal botlar ve onların kullanımı büyük oranda maddi kazanç, platform üzerinde popülerlik ve bilgi aktarımını kontrol etme amacıyla kullanılıyor. Ancak dezenformasyonun diğer önemli bileşenleri yanlış bilginin çıkış kaynağındaki niyet ve geniş kitlelere veya belli bir hedef gruba ulaşmak için kullanılan yollar. Bu zararlı faaliyetleri daha iyi çalışabilmek ve birbirinden ayırt edebilmek için farklı taksonomiler öneriliyor. Çevrimiçi manipülasyon faaliyetlerinin temelde 5 kategori altında toplanabileceği ancak dezenformasyon faaliyetlerindeki niyet ve kullanılan mekanizmalar da göz önüne alındığında birbiriyle örtüşmeler taşıyan veya çok ufak farklılıklarla ayrışan 7 kategori tanımlanabileceği görülüyor.

Uydurma veya manipüle edilmiş içerikler

Bağlam dışı veya yanlış ilişkilendirilmiş içerikler

Taklit ederek olduğundan farklı gösterme

Eğlence ve hiciv metinleri

Propaganda veya sponsorlu içerikler

Bu yaklaşımların kötü amaçlarla da kullanılmaları ne yazık ki mümkün. Bu yaklaşımların varlığını bilmek ve tanımak için çaba sarf etmek birey olarak bize düşen önemli bir sorumluluk.

Dezenformasyon aktörleri

Dezenformasyon faaliyetlerinin arkasında otomasyon faaliyetleri olabileceği gibi, toplumun belli kesimlerini hedef alan ve toplumun kutuplaşması ihtimali yüksek olan konularda içerikler üreterek doğal yollardan bir tartışma ortamı yaratmayı amaçlayanlar da bulunabilir. Doğal tartışma ortamına içerik üreten sahte medya kuruluşları, sosyal medya grupları ve hesapları dikkat edilmesi gereken dezenformasyon aktörlerinin başında gelir. Sosyal ağlarda, otomasyon dışında bireysel veya grup eforu ile üretilen içerikleri, komplo teorilerinden manipüle edilmiş politik içeriklere kadar geniş bir spektrumda görmek mümkün.

Sosyal ağlarda içeriklerin hızlı yayılması, doğrulama platformlarına çok kısa bir süre tanıyor. Bu zaman içerisinde toplumun verdiği tepki bu mesajın yayılım hızını arttırıyor ve yanlış bilgiye destek oluyor.

Seçim dönemleri kritik

Özellikle secim dönemlerinde farklı ülkelerdeki dezenformasyon faaliyetlerini incelemek ve tespit etmek araştırmacılar için önem kazandı. Yanlış bilginin nasıl yayıldığı, sosyal medya kullanıcılarının dezenformasyona olan dirençleri, platformdaki sosyal bot miktarları ve bunların etkileri basta gelen soruları oluşturuyor. Yanlış bilginin yayılımına yönelik yapılan Sinan Aral’ın yürütücülüğündeki araştırmada yanlış bilginin platformdaki sosyal botların etkileri ortadan kaldırıldığı durumda bile doğru bilgiye göre çok daha hızlı yayıldığını ve geniş bir görünürlüğe ulaştığını gösterdi. Bu çalışma, sosyal medyadaki gerçek kullanıcıların da yanlış bilgiyi tanımadaki yetersizliklerini ve bilinçsiz de olsa yayılımına destek verdiklerini ortaya koyuyor. Kullanıcıların dezenformasyon karşısındaki bu zafiyetlerini yanlış bilginin teyidine olan tepkilerinden de gözlemek mümkün. Özellikle sosyal medyada yanlış bir bilgiyi paylasan kişilerle, bahsi geçen iddiayı çürütücü nitelikte içerikler paylaşıldığında yanlış bilgiye olan inancın kolaylıkla değişmediği gösterildi ve buradaki dirence karşı en etkin yaklaşıma dair de çelişkili sonuçlar var. Ancak kullanılan dolaylı mekanizmalar, gündem oluşturma ve algı yönetimi çabalarını ölçmenin ve nedensellikle açıklamanın zorluğu da unutmamalı.

Nasıl mücadele edeceğiz?

Dezenformasyonla mücadelenin önündeki en büyük engellerden birisi tespit edilen koordinasyonlu faaliyetleri planlayan, düzenleyen ve fayda sağlayan grupların tespitinin oldukça zor olması.  Bu noktada her zaman sormamız gereken soru gözlenen bir dezenformasyon faaliyetinden “gerçekten” kim fayda sağlıyor? sorusu. Bu alanda da şüpheci bir yaklaşım ile eldeki verileri ele almak gerekir. 2023’te gerçekleşecek seçimlerde de yanlış bilgi ile mücadelede tüm bireylere sorumluluk düşüyor.

Sabancı Üniversitesindeki VIRAL lab. olarak seçim döneminde gerçekleşmesi olası çevirim içi manipülasyon faaliyetlerini analiz edecek, bireylerin siyasilere ait hesap ve profil bilgilerini inceleyebilecekleri, araçları erişilebilir ve açık veri prensipleriyle paylaşacağımız bir platformu #Secim2023 projesi bünyesinde sunmayı hedefliyoruz.

Şüphe kaslarını geliştirmek!

Dezenformasyon ile mücadelede birey olarak en büyük sorumluluğumuz, yanlış bilgiyi tanımak için “şüphe kaslarımızı geliştirmek” olmalı. Nasıl enstrüman çalan kişilerin melodi ve ritim duyguları gelişiyorsa veya resim yapanlar renklerin zenginliklerini daha iyi algılayabiliyorsa, yanlış veya şüpheli bilgi ile mücadele etmek için de benzer bir efor gerekiyor. Doğrulama kuruluşları toplumlara gündemde yer eden ve toplumu ayrıştırma riski taşıyan içeriklerde hızlı analizler verebiliyor. Ne yazık ki otomatik bilgi doğrulama konusunda makine öğrenmesi yaklaşımlarının kullanımı yeterli olgunluğa henüz erişmedi ve bu durum doğrulama kuruluşlarını şüpheli bilgileri önceliklendirerek analiz etmeye zorluyor. Bu da kasıtlı veya kasıtsız olarak üretilmiş ve yayılan bilgilerin sadece bir kısmına ait analizleri görmemize neden oluyor. Ancak kurumların yaptığı analizleri inceleyerek edinilecek esas kazanım, bilgi doğrulama için atılan adımları, şüpheli içerikleri tanımanın yollarını ve hangi araçları kullanabileceğimizi öğrenmek olmalı. Doğrulama kuruluşları muhakkak işlerini büyük bir titizlik ve uzmanlık ile yapıyor olsa da bu raporları şüpheli gözle incelemek ve edinilen tecrübeyi bu analizleri de sorgulamak için kullanabilmeliyiz. Ancak bu sayede bilgi doğrulama kuruluşlarının da yetişemediği veya belirsizliğin çok yüksek olduğu koşullar altında dezenformasyona karşı kendimizi korumak mümkün olabilir.

Her ne kadar binlerce yıldır var olan insan davranış ve düşüncelerini manipüle etme çabası farklı format ve günün teknolojik imkanlarıyla değişerek devam edecek olsa da, hepimiz tükettiğimiz içeriklere ayırdığımız zamanın küçük de olsa bir kısmını bunları sorgulamaya, üzerine düşünmeye ve gerektiğinde detaylı olarak araştırma yapmaya ayırarak mücadele edebiliriz.”