Yapay Zekâ İnsanların Kafa Titreşimlerinden Profil Çıkarmak İçin Kullanılıyor: Ancak Bunu Destekleyecek Yeterli Kanıt Var Mı?

Yazar: James Wright[1]

Çev.Hasan H. Kayış, Aksaray Ünv. İletişim Fak. RTS Bölümü Araş. Görevlisi

Dijital video gözetim sistemleri herhangi birinin kim olduğunu tanımlamakla kalmaz, ayrıca birinin nasıl hissettiğini ve ne tür bir kişiliğe sahip olduğunu da çözebilir. Gelecekte nasıl davranacaklarını bile söyleyebilirler. Ve bir kişi hakkındaki bu bilgileri elde etmenin yolu sadece kafasının hareketidir.

VibraImage Yapay Zekâ (YZ) sisteminin arkasındaki şirket tarafından ortaya atılan iddia da bu. (“YZ” terimi burada geniş anlamda, otomatik biyometri ve bilgisayarla görme gibi algoritmaları ve araçları kullanan dijital sistemlere atıfta bulunmak için kullanılmaktadır). Bunu hiç duymamış olabilirsiniz. Ancak VibraImage’a dayalı dijital araçlar Rusya, Çin, Japonya ve Güney Kore’de çok çeşitli uygulamalarda kullanılmaktadır.

Ancak Science, Technology and Society‘de yayınlanan son araştırmamda gösterdiğim gibi, VibraImage ve onun gibi sistemlerin iddia ettikleri şeylerde gerçekten etkili olduğuna dair çok az güvenilir, ampirik kanıt var.

Diğer şeylerin yanı sıra, bu uygulamalar, insan kalabalığı arasında “şüpheli” bireylerin tespit edilmesini içerir. Ayrıca çalışanların zihinsel ve duygusal durumlarını derecelendirmek için kullanılırlar. VibraImage kullanıcıları arasında polis kuvvetleri, nükleer endüstri ve havaalanı güvenliği bulunmaktadır. Teknoloji halihazırda iki Olimpiyat Oyununda, bir FIFA Dünya Kupasında ve bir G7 Zirvesinde uygulanmıştır.

Japonya’da bu tür sistemlerin müşterileri arasında dünyanın önde gelen yüz tanıma sağlayıcılarından biri (NEC), en büyük güvenlik hizmetleri şirketlerinden biri (ALSOK) ile Fujitsu ve Toshiba yer alıyor. Güney Kore’de de, diğer kullanımlarının yanı sıra, polis sorgulamalarında kullanılmak üzere temassız bir yalan tespit sistemi olarak geliştirilmektedir. Çin’de, bu uygulamayı polisin havaalanlarında, sınır geçişlerinde ve başka yerlerde şüpheli kişileri tespit etmek için kullandığı resmi olarak onaylanmıştır.

Doğu Asya ve ötesinde, algoritmik güvenlik, gözetim, tahmine dayalı polislik ve akıllı şehir altyapısı ana akım haline geliyor. VibraImage, gelişmekte olan bu altyapının bir parçasını oluşturmaktadır. Bu yeni sistem küresel olarak geliştirilip dağıtılan diğer algoritmik duygu algılama sistemleri gibi, video gözetimini yeni bir düzeye taşımayı vaat etmektedir. Makalemde açıkladığım gibi, bunu deneklerin karakterleri ve iç yaşamları hakkında kendilerinin bile bilmedikleri bilgiler üreterek yaptığını iddia etmektedir.

Vibraimage, 2001 yılından bu yana Rus biyometrist Viktor Minkin’in şirketi ELSYS Corp tarafından geliştirilmektedir. Diğer duygu algılama sistemleri, insanların yüz ifadelerini analiz ederek duygusal durumlarını hesaplamaya çalışır. Buna karşılık, VibraImage, bir kişinin kafa kaslarının ve dolaşım sisteminden kaynaklanan istemsiz mikro hareketlerinin veya “titreşimlerinin” video görüntülerini analiz eder. Duyguları tanımlamak için yüz ifadelerinin analizi, son yıllarda giderek artan eleştirilere maruz kalmıştır. VibraImage daha doğru bir yaklaşım sağlayabilir mi?

Minkin, bu hareketlerin duygusal durumlara bağlı olduğu fikrini destekleyen iki teori öne sürer. Birincisi, vücudun denge ve uzamsal yönelimden sorumlu sisteminin psikolojik ve duygusal durumlarla ilgili olduğu fikrine dayanan bir “vestibulo-duygusal refleks”in varlığıdır. İkincisi, belirli duygusal-zihinsel durumlar ile kaslar tarafından harcanan enerji miktarı arasında doğrudan bir bağlantı kuran “termodinamik bir duygu modeli”dir. Dahası, Minkin bu enerjinin başın küçük titreşimleriyle ölçülebileceğini iddia etmektedir.

Bu teorilere göre, yüzün ve başın istem dışı hareketi duygu, niyet ve kişiliğin görünür kılınmasıdır. Şüpheli bireyleri tespit etmenin yanı sıra, VibraImage destekçileri de bu verilerin kişilik tipini belirlemek, suç işleme olasılığı daha yüksek olan ergenleri belirlemek veya milliyet ve etnik kökene göre istihbarat türlerini sınıflandırmak için kullanılabileceğine inanıyor. Hatta, birinin ifadesine yanıt olarak kafa titreşimlerinin nasıl değiştiğine bağlı bir biçimde, bir şirketin veya ulusun değerlerine 1984 tarzı bir sadakat testi oluşturmak için kullanılabileceğini bile önerdiler.

Ancak etkileri hakkında yapılan birçok iddia kanıtlanamaz görünüyor. VibraImage ile ilgili çok az sayıda bilimsel makale, akademik dergilerde titiz hakem değerlendirme süreçleriyle yayınlanmıştır. Ayrıca bunların çoğu, teknolojinin başarısına ilgi duyanlar tarafından yazılmıştır. Bu araştırma genellikle VibraImage’ın etkili olduğunu varsayan deneylere dayanır. Belirli kafa hareketlerinin belirli duygusal-zihinsel durumlarla tam olarak nasıl bağlantılı olduğu açıklanmamıştır. Japonya Kagawa Üniversitesi’nden yapılan bir araştırma, VibraImage değerlendirmesinin sonuçları ile mevcut psikolojik testlerin sonuçları arasında neredeyse hiçbir ilişki bulamamıştır.

Minkin, bu makaledeki iddialara yanıt olarak yaptığı açıklamada, VibraImage’ın bir YZ teknolojisi olmadığını, “anlaşılabilir fizik ve sibernetik ve fizyoloji ilkelerine ve duygu hesaplamaları için şeffaf denklemlere dayandığını” söylemektedir. “Teknik gereklilik” söz konusu olduğunda davranış tespitinde veya duygu tanımada YZ işlemleri kullanabilir.

Ayrıca, “temassız ve basit psikofizyolojik tespit teknolojisinin çok harika göründüğü” ve Rusya ile ilişkili olduğu için insanların teknolojinin “sahte” olduğunu varsayabileceklerini savunuyor. Minkin ayrıca benim makaleme teknik bir yanıt da yayınlamıştır.

Şüpheli Yapay Zekâ

VibraImage’ın işe yarayıp yaramadığını kanıtlamanın bu kadar zor olmasının ana nedenlerinden biri, sistemin kendisi hakkında bildiklerinden daha fazla konu hakkında bilgi vermesinin altında yatan ön kabuldür. Ancak durumun böyle olduğuna dair ikna edici bir kanıt yok.

Bireyleri algoritmik bir biçimde şüpheli olarak sınıflandıran artan sayıdaki sistemi tanımlamak için “şüpheli yapay zekâ” terimini öneriyorum, ancak kendilerinin de derinden şüpheli olduğunu iddia ediyorum. Bunlar şeffaf değildir, kanıtlanmamıştır, demokratik girdi veya gözetim olmaksızın geliştirilmiş ve uygulanmıştır. Ayrıca büyük ölçüde düzenlemeye tabi değildirler ve ciddi zarar potansiyeline sahiptirler.

VibraImage, bu türdeki tek sistem değildir. Şüpheli veya aldatıcı kişileri tespit etmek için diğer YZ sistemleri denenmiştir. Örneğin, Avatar ABD-Meksika sınırında ve iBorderCtrl AB sınırlarında test edilmiştir. Her ikisi de göçmenler arasındaki aldatmacayı tespit etmek için tasarlanmıştır. Çin’de, VibraImage tabanlı sistemler ve benzer ürünler, kolluk kuvvetleri, güvenlik ve sağlık hizmetlerinde giderek artan bir uygulama yelpazesi için kullanılmaktadır.

Algoritmik duygu tanıma endüstrisi 2018’de 12 milyar ABD Doları değerindeydi. 2026 yılına kadar 37,1 milyar ABD Dolarına ulaşması beklenmektedir. Yapay zekanın etik gelişimi etrafında kurallar oluşturma ihtiyacına ilişkin artan küresel endişenin ortasında, bu tür opak algoritmik gözetim ve kontrol sistemlerinin çok daha fazlasına yakından bakmamız gerekmektedir.

Avrupa Komisyonu’nun yakın zamanda açıklanan taslak YZ düzenlemeleri, duygu tanıma sistemlerinin kolluk kuvvetleri tarafından kullanımını “yüksek riskli” olarak sınıflandırıyor ve bunların daha yüksek düzeyde yönetişim kontrolüne tabi tutulmasına işaret ediyor. Bu önemli bir başlangıçtır. Diğer ülkeler, bu yüksek riskli sistemlerden kaynaklanan olası zararların en aza indirilmesini sağlamak için şimdilik bu yolu izlemelidir.


Kaynak:

[1] Alan Turing Enstitüsü’nde Araştırma Görevlisi.

Bir Cevap Yazın

Aşağıya bilgilerinizi girin veya oturum açmak için bir simgeye tıklayın:

WordPress.com Logosu

WordPress.com hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap /  Değiştir )

Google fotoğrafı

Google hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap /  Değiştir )

Twitter resmi

Twitter hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap /  Değiştir )

Facebook fotoğrafı

Facebook hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap /  Değiştir )

Connecting to %s

%d blogcu bunu beğendi: