Merhaba arkadaşlar,
Mayıs ayında Markup muhabirleri Annie Gilbertson ve Jon Keegan Amazon’a şirketin uyuşturucu, hırsızlık, casusluk, silah ve diğer tehlikeli maddeler kategorileri altında yasakladığı ürünlerle ilgili sitesinde yer alan yaklaşık 100 aktif ürünün listesini sundu.
Haziran ayında yayınladığımız araştırmamız, üçüncü taraf satıcıların ve bazı durumlarda Amazon’un kendisinin Amazon’un sitesinde yasaklanmış ürünleri ne kadar kolay satabildiğini ortaya çıkardı. Amazon bahsettiğimiz listelerin çoğunu biz dikkat çektiğimizde kaldırdı.
Bulduğumuz bir kategoride bazı insanların kas geliştirmeye ve yaralanmayı tedavi etmeye yardımcı olmak için kullanılan sentetik peptitler olarak adlandırılan kısa amino asit zincirleri görülmüştür. Amazon.com, enjekte edilebilir ilaçların ve Gıda ve İlaç Dairesi tarafından onaylanmayan ilaçların satışını normalde yasaklar.
Amazon, bulduğumuz peptitlerin aslında uyuşturucu olmadığını söylemiştir.
Amazon sözcüsü Patrick Graham bir e-postasında “insanların tüketimi için değil, yalnızca araştırma amaçlı laboratuvar kimyasallarını sattık. İhtiyat gereği, satışları kısıtlıyoruz” demiştir.
Ancak sonraki birkaç ay boyunca Annie ve Jon, Amazon.com’da sentetik peptit içeren 66 aktif liste buldu. Bu listede yer alan peptitlerin insanlar tarafından kullanılabildiğini gösteren emareler görülmüştür. Bulduğumuz peptitler FDA’nın onaylı ilaç listesinde değildi. Ayrıca sahte veya onaylanmamış yeni ilaçların yasa dışı satışına da şahit olunmuştur. Bazıları Dünya Anti-Doping Ajansı tarafından doping ilaçları olarak da sınıflandırılır. Listelemelerin dörtte birinden fazlası en az bir yıldır piyasadaydı. Bu durum Amazon’un zaman içinde kendi kurallarını uygulamakta ne kadar başarısız olduğunu göstermiştir.
Listeleri Amazon’un dikkatine sunduğumuzda bu uygulamalar bir kez daha göz ardı edildi ve gelecekte daha iyi bir uygulama olacağı söylendi. Şirket sözcüsü Mary Kate McCarthy, “müşterilerin veya ürünlerin kötüye kullanılmasına yaptırım uygulamıyoruz” dedi. “Ancak, çok dikkatli davranarak bu ürünlere artık izin vermemeye karar verdik ve bu durumda olduğu gibi söz konusu ürünleri listelerimizden kaldırıyoruz.”
Bu söylemler tanıdık mı geliyor? Bu köstebek vurma oyunu büyük teknoloji şirketlerinin platformlarını nasıl izlediğine dikkat eden herkese tanıdık geliyor. Çalışma şekli, bir gazeteci veya bir akademisyene bunun gibi teknolojik platformların işleyişiyle ilgili kabataslak bir şeyi akla getirir. Platform özür diler ve onu kaldırmayı taahhüt eder. Haftalar veya aylar sonra, söz konusu öğe yarım yamalak da olsa yeniden belirir. Yani döngü tekrar eder.
Bu döngüden nasıl çıkabileceğimizi anlamak için arama sonuçlarındaki ırkçı ve cinsiyetçi çağrışımlarla ilgili olarak Google ile kendi köstebek vurma oyununu oynayan UCLA profesörü Safiya Umoja Noble ile röportaj yaptım. Noble, Enformasyon Çalışmaları ve Afro-Amerikan Çalışmaları bölümlerinde doçenttir. Aynı zamanda çok satan Algorithms of Oppression: How Search Engines Reinforce Racism kitabının yazarıdır (NYU Press, 2018).
Sekiz yıl önce Noble, Bitch dergisi için arama motorlarında “Siyahi kızlar” araması yapıldığında en iyi sonuçların porno sitelerini getirdiğini anlatan bir makale yazdı. Şirket bu konuda herhangi bir resmi açıklama yapmasa da Google sorunu sessizce çözdü. Şimdi, “Siyah kızlar” araması, Black Girls Code ve Black Girls Rock gibi kâr amacı gütmeyen gruplara bağlantılar vermektedir.
Ancak bu yılın başlarında The Markup, Google’ın reklam satın alma portalında “Siyahi kızlar” için yapılan aramalar için pornografik sonuçlar gösterdiğini keşfetti. Google ile iletişime geçtikten sonra şirket pornografik sonuçları kaldırdı ve filtrelerinin “amaçlandığı gibi” çalışmadığını söyledi. Google sözcüsü Suzanne Blackburn, The Markup’a e-postayla gönderilen bir bildirimde şunu belirtmiştir: “bu şartları araçtan kaldırdık ve bunun tekrar olmasını nasıl durduracağımızı araştırıyoruz.”
Noble ile yapılan röportaj aşağıda yer almaktadır. Kısa olması için özen gösterilmiştir.
Angwin: Bazen benim gibi gazeteciler büyük teknoloji platformları için içerik moderatörleri olmuş ve onları kendi kurallarını çiğneyen içerikler konusunda uyarmıştır. Siz içerik denetiminin bu dış kaynak kullanımına nasıl bakıyorsunuz?
Noble: Gazeteciler ve akademisyenler bu ahlaki ve etik işi bu şirketler için sıfır tazminat ve tam bir onay eksikliği için yapıyorlar. Aslında, bazı durumlarda dile getirdiğimiz ve işaret ettiğimiz sorunların gerçek olduğu konusunda tam bir inkâr söz konusudur. Ancak eleştirilerimize yanıt verdiklerini biliyoruz. Aslında, Google’ın iki hafta önce bir Yapay Zekâ etik danışmanlık bölümü açması eleştirilerimize yanıt verdiklerinin kanıtıdır.
Angwin: Ve bu kolay bir iş değil. Arama sonuçları, Facebook gönderileri, hepsi sadece bir an için var gibi görünüyor. Bu geçici bir durum. Bu konuyu araştırmaya nasıl başladınız.
Noble: Google aramasında “Siyahi kızlar”a ilk baktığımda 2009’un sonlarıydı. O zamanlar en iyi sonuç hotblackpussy.com’du ve “bu çok yanlış ve korkunç bir durumdu”. Sonra birkaç yıl boyunca durumu takip etmeye devam ettim. 2011 yılına gelindiğinde hotblackpussy.com kapanmıştı ve yerini Sugaryblackpussy.com almıştı. İşte o zaman bunu nasıl araştıracağım konusunda sistematik olmaya başladım.
O zaman zorluk sadece sonuçların değişmesi değildi. Aynı zamanda bunun kalıcı bir temsil mi yoksa benim yerel ayarıma mı özgü olduğunu anlamanın birden çok yolunu bulmam gerekiyordu. O zamanlar Hocalarımın çoğu bana “Bu öyle bir şey değil” diyordu. Bunun “kullanıcı hatası” olduğunu söylüyorlardı. Elbette çoğu insan yanlış bir şeyle karşılaştıklarında böyle düşünüyor. Bu da tasarım gereğidir.
İş oraya gittikçe sonuçların değişeceğini biliyordum. Bu sürekli hareket eden bir manzara. Dünya ayaklarımızın altından kayıyor ama bu, dünyada olmadığımız anlamına gelmiyor.
On yıl önceydi. O zamanlar bu algoritmaların ayrımcı olduğunu söylediğimde insanların kulakları benim söylediklerimi duyuyor ne de işitiyordu. İnsanlar, aramanın yalnızca orada olanı temsil ettiği konusunda kararlıydı. Profesörlerden gelen birincil yanıt, bunun kod düzeyinde olmasının hiçbir yolu olmadığıydı. Çünkü kod yalnızca matematiktir ve matematik ayrım yapamaz. Şimdi zamanı 10 yıl ileriye sardığımızda tamamen farklı bir anlayışımız olduğunu görüyorum. Programlamanın bir dil olduğunu ve dillerin öznel olduğunu anlıyoruz. Ve şimdi bu şeyler hakkında daha kolay konuşabiliyoruz.
Angwin: Google’ın gerçek hakkındaki fikrimizi şekillendirme yeteneği hakkında ciddi bir şekilde yazdınız. Ancak birçok insan yanlış bilgi söz konusu olduğunda hala Facebook’u düşünüyor.
Noble: İnsanlar haber almak için sosyal medyayı kullanıyor. Ancak gerçekler için Google’ı tercih ediyorlar. Halkın sosyal medya manipülasyonunun daha fazla farkına varmasını izlemek ilginç oluyor. Ancak birçok kişi, insanların sosyal medyada buldukları şeylerin doğruluğunu test etmeye çalışırken gerçeklerden daha da uzaklaşacakları Google’a nesnel bir gerçek kontrol aracıymış gibi bakacaklarını unuturlar.
Angwin: Kütüphaneciler tarafından yönetilebilecek, kamu yararına, ticari olmayan bir arama motorunu savundunuz. Bunun için finansman olduğunu varsayarsak, ne hayal ettiğinizi açıklayabilir misiniz?
Noble: Kütüphanecilik, tarihin kazananlarını, sömürgecileri, emperyalizmi, dünyayı kendi gözleriyle çerçevelemeye yatırım yapan insanları anlatan, toplayan ve küratörlüğünü yapan uzun ve hikayeli bir tarihe sahiptir. Bunu söyledikten sonra, kütüphanelerin topladıkları şeyler için daha yüksek bir standarda sahip olduğunu anlıyoruz. Böyle değilse de pratik olarak baktığımızda fiziki bir binanın geniş kapsamlı internetten daha fazla şey tutabileceğini söyleyebilirim.
Sık sık büyük kütüphaneleri açık web küratörlüğünde bilgiyi reklamdan ve propagandadan ayırt etmedeki rollerinin ne olabileceğini düşünmeye ikna etmeye çalıştım. Buradaki zorluk, Silikon Vadisi’nin bize bilgi hakkında nasıl düşüneceğimize dair kelime hazinesi vermiş olması ve hâkim kelimenin “içerik” olmasıdır. Ancak içerik, propaganda ve kanıta dayalı araştırma ile diğer birçok bilgi veya bilgi türü arasındaki ayrımları düzleştirir.
İhtiyacımız olan şey karşı ağırlıklar ve bu tür bir anlık tatmin modeline karşı direnç. Bunu yavaş yemek ve sanayileşmiş fast food modellerine benzetiyorum. Öğrenmeye, bilgiye ve bilgi toplamaya daha yavaş yaklaştığınızda, her şeyi kesen kitlesel içerikle karşılaştırıldığında daha sağlıklı, topluluğunuz için daha iyi, bedeniniz ve zihniniz için daha iyi şeyler ortaya çıkabilir.
Angwin: Big Tech’i parçalamak işleri iyileştirir mi?
Noble: Şu anda çalışmalarımın gittiği yer gerçekten Big Tech paradigmasını nasıl değiştirebileceğimdir. Bunda tarihin diğer iki dönemini temel alıyorum. Köle ticaretine dayanan Big Cotton’un dağılması ve Big Tobacco dönemi. Benzer bir mercekle Big Tech’e bakıyorum.
Ekonomimizin her boyutunun teknoloji tarafından desteklendiğine ve böylece onu asla geri alamayacağımıza dair bir anlatıya sahibiz. Kendimi, önceki nesillerin kölelik karşıtı geleneğinde çalışan bir teknoloji köleliği karşıtı olarak düşünüyorum. Bu bağlantıları kuracak bir kültür oluşturma çalışması ve anlatılar yapmaya çalışıyorum. Böylece insanlar başka bir yol olamayacağı fikrinin tamamen hâkim olduğunu hissetmek zorunda kalmazlar.
Angwin: Teknolojinin yürürlükten kaldırılması ne anlama geliyor?
Noble: Teknoloji sektörünün, sömürücü ve zararlı ticari uygulamaları nedeniyle dünyanın her yerindeki halklara trilyonlarca dolar borçlu olduğunu düşünüyorum. Sadece bu büyük tekelleri parçalamakla kalmayıp, aynı zamanda çıkarılan serveti halka geri aktarmak kesinlikle güçlü bir beklenti olmalıdır.
Angwin: Geçenlerde Sussex Düşesi, Gloria Steinem ile yaptığı bir röportajda kitabınızı kontrol etti. Bu sizin için nasıl hissettirdi?
Noble: Düşes ve Gloria Steinem’in toplumda olup bitenler hakkında konuştuğunu ve benim çalışmamı onların endişeleriyle ilişkilendirdiğini görmek çok dokunaklıydı. Çünkü her ikisinin de çalışmalarına saygı duyuyorum. Akademisyenler, çalışmalarının daha geniş kitlelere ulaşmamasını, sadece akademide tecrit altında kalmasından başka bir şey istemiyorlar.
Meghan Markle’ın California’lı işçi sınıfından beyaz olmayan bir kadın olma hikayesiyle birçok yönden ilişkim var. Ayrıca bir siyah ve bir beyaz ebeveyne sahiptim. Ayrıca cinsiyet ve ırk eşitliği konusundaki çalışmalarımda beni seven ve destekleyen bir prensle evlendim [yürekten gülüyor].
Röportajda, Siyahi kızlar hakkında bu düzeyde bir yanlış uygulamanın gerçekleştiğini anlamadığını, ancak daha sonra bunun olduğunu fark ettiğini söyledi. İnsanlar feminist araştırmayla karşılaştığında olan budur. Bu bizim kendi yaşadığımız deneyimimizi doğrular. Değişimi gerçekleştirmek için hepimizin savunuculuk çalışmalarımızı birbirine bağlamasından daha heyecan verici bir şey olamaz. Dünyayı daha iyi hale getirmek için üzerlerine düşeni yapmaya çalışan diğer kadınların yanında olmak bir onurdur.
Her zamanki gibi, okuduğunuz için teşekkürler.
En iyi dileklerimle
Julia Angwin, The Markup Genel Yayın Yönetmeni
Çeviri: H.H. Kayış, Aksaray Ünv. İletişim Fak. Ar.Gör.
[1]Julia Angwin’in Merhaba Dünya adlı Bülten’inden, https://themarkup.org/newsletter/hello-world/are-journalists-and-researchers-the-real-content-moderators
mutlu binark tarafından yazıldı 
Yeni Medya 