Algoritmalar – seçmece sansür?

Çeviren:Sinan Aşçı

17 Haziran’da Aşırıcılıkla (Ekstremizm) Mücadele Projesi (CEP) ekstremist video ve sesin çevrimiçi yayılımını engellemek üzere tasarlanan bir yazılım piyasaya sürdü. CEP, misyonunu “radikal gruplarla mücadele etmek” olarak ifade eden kar amacı gütmeyen bir kuruluştur. Tabi ki, bu algoritma tek başına hiçbir şey yapamıyor: İşlevsel olması için ekstremist içeriği halihazırda tanımlayabilen bir veritabanı olması gerekiyor. İnsanlar “esktremist”in nasıl göründüğünü ya da işitildiğini tanımlamalı ama bu tanım üzerinde her zaman uzlaşamıyorlar. Böylece, insan hataları ya da önyargıları bilgisayar hataları ve önyargıları haline geliyor.

Prensipte CEP’in algoritması çığır açan bir olay değil: Microsoft tarafından geliştirilmiş daha önceden tanımlanmış çevrimiçi çocuk istismarı olaylarını ortaya çıkaran yaygın kullanımlı bir araç olan PhotoDNA yazılımı ile çalışıyor. Yazılım SADECE evrensel olarak yasal olmayan çocuk istismarı olaylarıyla ve yine sadece Uluslararası Polis Teşkilatı Interpol’ün aşırı kötü görsellerle baş etmek için kullanılacağı güvencesiyle piyasaya sürüldü.

Facebook ve Microsoft gibi büyük şirketler PhotoDNA’yı kendi servis sağlayıcılarına yüklenen ve kendi bulut sunucularındaki özel içerikleri kontrol etmek için kullanıyor. PhotoDNA, yüklenen içeriğin kişisel bir imzasını oluşturuyor. Bu sözde sağlama, görselin tahrifatına imkan vermiyor. Bir eşleşme söz konusu ise, içerik işaretleniyor ya da kaldırılıyor. Microsoft kullanıcı verilerini emniyet teşkilatının elde edebileceği materyalleri daha önce sistemin karşılaştığı yüklemelerle eşleştiriyor. Yazılımın kullanımının bazı açılardan zararlı olmadığına emin olmadıkları gibi, kimse de bu teknolojinin kullanımının gerçek faydalarını test etmeyi uygun bulmadı.

Bu yaklaşım daima yasal olmayan içeriğe yarıyor. Somali Çocuk Hakları Sözleşmesi’ni onayladı, Amerika Birleşik Devletleri sözleşmeyi onaylamayan tek ülke olarak Çocuk Pornografisi Üzerine İhtiyari Protokol’ü onayladı. Kanun yapıcılar ve mahkemeler bu kategoriye neyin uygun düştüğü ve yasal olarak neyin barındırılmayacağı konusunda net kararlarını verdi. Halbuki, “ekstremist içeriğin” tanımı farklı koşullara göre değişir; CEP’in algoritması da tanımı içermiyor (mantıken içeremiyor). Daha önceden tanımlanmış içeriklerden oluşan bir veritabanı bile kullansaydı, bu durum bile bir hükümetten diğerine değişen yasalarla ilgili sorunlar gibi yasal kotasyon, araştırma ve illüstrasyon amaçları açısından sorun olabilirdi.

Avrupa Birliği’nin içinde bulunduğu duruma bakacak olursak algoritmanın tanıtılması tam zamanında gerçekleşiyor: Şimdilerde İnternet şirketleriyle birlikte AB komisyonu bir “Ortak İrtibat Forumu” oluşturuyor. “Clean IT” <https://edri.org/rip-cleanit/&gt; projesinin fiilen yeniden yürürlüğe koyulması Avrupa’daki her bireyin İnternete yüklediği her bir dosyayı zorunlu bir şekilde kontrol ederek daha önce kaldırılmış içeriğin fark edilmeden tekrar yüklenmesini engellemeyi amaçlıyor. Alman Federal Hükümeti’ne göre, bu yeni platform CEP tarafından oluşturulan güçlü sağlama araçları ile farkedilen içerikler üzerine çalışacak.

AB’nin Ortak İrtibat Forumunun, Avrupa Polis Teşkilatı’nın “Internet İrtibat Birimi”nin (IRU) ihtiyari çabalarına dayanan çalışmaları var. Avrupa Polis Teşkilatı Facebook ve Twitter gibi platformları şirketlerin hizmet kullanım şartlarıyla potansiyel olarak bağdaşmayan ama yasal da olmayan içerikleri tespit etmek için kontrol ediyor. Bir polis teşkilatı dairesince itiraz edilen içerik hakkında ne yapılacağını “gönüllü olarak inceleyebilsinler” diye başvuruları gönderiyor. Ortak İrtibat Forumu tekrar yüklenen içeriklerin otomatik bir saptama ile Avrupa Polis Teşkilatı’nın resmi olmayan sansür çalışmalarını otomatize etme imkanını elinde tutuyor. Yine de, özellikle Avrupa Polis Teşkilatı’nın garip bir biçimde illegal içerikleri belirlemeye çalışan uygulamaları üzerine herhangi bir araştırma ölçümünün başvurulardan yapılıp yapılmadığı belirsiz. Yasa olmadığı ama sonucu bilinmeyen ve kapsamlı kullanılan hizmet kullanım şartları olduğu için, açık bir şekilde yanlışlıkla tanımlanmış ya da silinmiş içerik için herhangi bir düzeltme imkanı bulunmuyor.

Bu soruların cevapları bulunamadığı için hizmet kullanım şartlarına karar verme işini sosyal medya platformlarının bir kaç “içerik moderatörü”ne bırakıyoruz. Teknoloji tarihi profesörü Melvin Kranzberg çok doğru bir şekilde ifade ediyor ki, “Teknoloji ne iyi ne kötüdür: ne de tarafsızdır.”

Yasal olduğuna emin olmak için her bir Avrupa vatandaşının yüklediği her bir içeriği kontrol etmek ya da filtrelemek gerçekten uygun mudur? Eğer Avrupa’nın bu adımı vatandaşların İnternet’e her yüklediğini filtreleme ve kitlesel gözetime yönlendirecekse, dünyanın herhangi bir yerinde açık ve demokratik İnternet için umudumuz ne olacak?

Metin altı kaynakça:
Aşırıcılıkla Mücadele Projesi’nin (CEP) Çevrimiçi Ekstremizim için piyasaya sürdüğü yazılımla ilgili CEP’in sayfasında yayınlanan bilgilendirme metni için: http://www.counterextremism.com/press/counter-extremism-project-unveils-technology-combat-online-extremism
 
Terör içerikli görsellerin çevrimiçi platformlardan ayıklanması ve sosyal medya şirketlerinin bu konudaki duruşu ile ilgili Washington Post’ta yayınlanan haber metni için: https://www.washingtonpost.com/world/national-security/new-tool-to-take-down-terrorism-images-online-spurs-debate-on-what-constitutes-extremist-content/2016/06/20/0ca4f73a-3492-11e6-8758-d58e76e11b12_story.html
 
Avrupa Polis Teşkilatı’nın bilgi işlem şirketleri ile yaptığı şeffaf olmayan işbirliği hakkında EDRİ’de daha önce yayınlanan içeriğe ulaşmak için: 
https://edri.org/europol-non-transparent-cooperation-with-it-companies/
 
Sivil Toplum Örgütlerinin “Avrupa Polis Teşkilatı’na bağlı çevrimiçi sansür biriminin tehlikeli ve nedeni anlaşılamayan bir hal aldığı” ile ilgili yapıtığı açıklama için: http://www.laquadrature.net/en/arstechnica-europol-iru-extremist-content-censorship-policing

Kaynak: https://edri.org/algorithms-censorship-a-la-carte/

Bir Cevap Yazın

Aşağıya bilgilerinizi girin veya oturum açmak için bir simgeye tıklayın:

WordPress.com Logosu

WordPress.com hesabınızı kullanarak yorum yapıyorsunuz. Log Out / Değiştir )

Twitter resmi

Twitter hesabınızı kullanarak yorum yapıyorsunuz. Log Out / Değiştir )

Facebook fotoğrafı

Facebook hesabınızı kullanarak yorum yapıyorsunuz. Log Out / Değiştir )

Google+ fotoğrafı

Google+ hesabınızı kullanarak yorum yapıyorsunuz. Log Out / Değiştir )

Connecting to %s

%d blogcu bunu beğendi: