Çin’in Yüz Tanıma Sistemi Etik mi?

Çin’in yüz tanıma sistemi, nüfusu kontrol etmek ve olası suçları önlemek amacıyla geliştirilmiştir. Geçmişte iddia olarak ele alınan bu sistem günümüzde yüz tanıma teknolojisi ile göz altına alınan kişilerin ortaya çıkmasıyla artık kaçınılmaz bir gerçeklik olarak ele alınıyor.

Yüz tanıma teknolojileri yıllardır hiç olmadığı kadar gelişiyor. Akıllı telefonunuzun kilidini açarken veya bir banka şubesine gitmeden uygulama üzerinden bankanın müşterisi olmak istediğinizde yüz tanıma teknolojisi ile kimliğinizi doğruluyorsunuz. Yani demek istediğin yüz tanıma teknolojisi ise kitle kontrolü siyasi tutumu gerekçesiyle hep Çin hükümetinin adı ile birlikte anılsa da yakın bir gelecekte tüm dünya tarafından kullanılan ve üzerinde çalışılan bir konu olacak. Teknolojinin bizi getirdiği kaçınılmaz nokta eninde sonunda resmiyette de karşımıza çıkacak…

Önerilen yazı: Yüz tanıma teknolojisi nasıl çalışıyor?

Kitle Kontrol Sistemi…

Biyometrik ölçümler ile kimlik doğrulama denilince ilk akla gelen ve doğruluğu en yüksek olan özellik parmak izi olsa da parmaklarımız dışarıdan bakan biri tarafından her an görülebilecek bir uzvumuz değil. Hele parmak izimiz birebir temas olmadan erişilebilir bir özellik hiç değil. Bu yüzden devletler açısından kimlik belirlemesinde yüzümüz daha işlevsel bir özellik.

Yüz tanıma gizlilik ihlali midir?

Yüz tanıma ile kitle kontrolünün etik olup olmadığı tartışmaları işte bu noktada başlıyor. Yüzümüz vücudumuzda herkesin görebileceği bir noktada konumlandığı için bunun bir gizlilik konusu olmadığını düşünen insanlar var. Fakat azımsanmayacak bir kesim yüzümüzün devlet tarafından güvenlik amaçlı dahi olsa izin olmaksızın kullanılamayacağını öne sürüyor. Bu konuda bizim görüşümüz teknolojinin kaçınılmaz noktasının eni sonu resmiyete işleyeceği yönünde olsa da uluslararası kamuoyu araştırmaları sonuçlarını sizlerle paylaşmaktan mutluluk duyacağız. Okuduktan sonra siz de görüşlerinizi yorumlarda belirtebilirsiniz 🙂

Tek yüz, farklı fotoğraflar…

Yüz tanıma algoritmalarının daha iyi çalışması için ideal olarak farklı aydınlatma koşullarında ve farklı açılarda yakalanan görüntülerin bulunduğu büyük veri kümeleri üzerinde eğitilmeleri ve test edilmeleri gerekiyor. Bilim insanları araştırmaları için kullandıkları bu fotoğrafları 1990-2000 yılları arasında çoğunlukla gönüllülük esasına göre topluyordu. Günümüzde ise çoğu araştırmacı herhangi bir izne ihtiyaç duymadan yüz resimlerini toplayıp kullanıyor ve bunun etik açıdan doğruluğunu yeterince sorgulamıyor.

Bazı örnekler vermek gerekirse Stanford Üniversitesinden bazı araştırmacılar 2015 yılında bir kafedeki canlı yayından elde edilen 12.000 görüntüden oluşan seti araştırmalarda kullanmak üzere yayımladı. 1 yıl sonra Duke Üniversitesinden araştırmacılar üniversite yerleşkesinde yürüyen öğrencilerin 85 dakikalık videosunu yayınladı. Bu 2 milyondan fazla video karesi anlamına geliyor.

En büyük koleksiyonlar ve veri setleri ise çevrimiçi yollarla toplandı. 2016’da Washington Üniversitesinden araştırmacılar bir görüntü paylaşım sitesinden alınan ve 3,3 milyon fotoğraftan oluşan bir veri tabanı yayımladı. Microsoft’tan araştırmacılar, en büyük veri setlerinden biri olarak bilinen ve aralarında gazeteci, müzisyen ve akademisyenlerin de bu lunduğu 100.000 kişiye ait 10 milyon adet internetten toplanmış görüntüyü yayımladı.

2019 yılında Adam Harvey, kurduğu Megapixels isimli web sitesi ile mevcut kullanımdaki yüz veri setlerini işaret etti ve Jules Lallace ile birlikte pek çok veri setinin paylaşıma açık şekilde yüz tanıma ürünleri geliştirme ve iyileştirme çalışmalarında kullanıldığını gösterdi. Harvey’in çalışmaları ile ilgili aynı yıl içinde Financial Times’ta yayımlanan makale üzerine Microsoft ve bazı üniversiteler görsel veri setlerini paylaşımdan kaldırdı. Gerekli etik izinlerin alındığı belirtilen durumlarda ise genellikle bu izinlerin yapılan çalışma ve uygulanan yöntemleri kapsamadığı görüldü. Örneğin, Duke Üniversitesi etik kurulundan alınan onay yüz tanıma araştırmalarını kapsamıyordu ve ayrıca verilerin gizli olmasını ve paylaşılmaması gerektiğini söylüyordu.

Bazı veri setlerinin kaldırılması izinsiz ve keyfi kullanımları bir ölçüde azalttıysa da sorunu tam olarak çözmedi. Çok büyük çevrimiçi koleksiyonlar ve onların türevleri hâlâ yüz tanıma araştırmalarında kullanılmaya devam ediyor. Ekim 2020’de Princeton Üniversitesinden araştırmacılarca yürütülen bir çalışma sonucunda paylaşımdan kaldırılmış bir veri setinin veya türevinin 135 bilimsel makalede kullanıldığı tespit edildi.

Avrupa’da biyometrik araştırmalarda kullanmak üzere insan yüz fotoğraflarının toplanması için kişilerden rıza alınması hususu yasal olarak net değil. Avrupa Birliği Genel Veri Koruma Yönetmeliği’nde bu konu hakkında kesin çizgiler yok denebilir. Ancak ABD’nin bazı eyaletlerinde ticari firmaların, kişilerin fotoğraflarını rızaları olmadan toplaması ve kullanması yasadışı olarak değerlendiriliyor ve böyle bir durumda dava açma hakkı tanınıyor. Facebook, Clearview AI, IBM, Google, Microsoft, Amazon ve Facefirst gibi büyük teknoloji firmalarına bu tür davalar açıldı.

Geçtiğimiz yıl mayıs ayında yüz tanıma teknolojisi ilgili enteresan bir gelişme de yaşandı. ABD’de bulunan Harrisburg Üniversitesinden araştırmacılar kişinin suçlu olma potansiyelini ırka bağlı önyargılar olmadan %80 doğrulukla belirleyebilen bir yüz tanıma yazılımı geliştirdiklerini duyurdu. Bu olay bir eleştiri dalgasını tetikledi. Kritik Teknoloji Koalisyonu (CCT), çalışmanın bilimsel temellerinin sağlam olmadığını, kişiler hakkında önyargılar oluşturacağını ve çalışmanın yayımlanmaması gerektiğini bildiren 2400’den fazla akademisyenin imzaladığı bir belge yayımladı. Aynı günlerde 1400’den fazla matematikçinin birlikte yazdığı mektupta da suç işleme oranının azaltılmasına yardımcı olduğu iddia edilen algoritmaların aslında ırkçı yaklaşımları artırabileceği endişelerine yer verildi.

Geçtiğimiz yıl Nature dergisi yüz tanıma, yapay zeka ve bilgisayar bilimleri konularında makale yayımlayan 480 araştırmacı ile yüz tanıma çalışmalarının etik boyutu hakkında bir anket gerçekleştirdi. Anket sonuçları akademisyenlerin net bir ortak görüşe sahip olmadıklarını açık bir şekilde gösteriyor.

Ankete katılan araştırmacıların yaklaşık 2/3’lük kısmı, yüz tanıma sistemlerinin kişisel özellikleri tanımlamak için kullanılmasının sadece bu kişilerden ve bu kişileri temsil etme yetkisine sahip otoritelerden gerekli izinler alındıktan sonra yapılabilmesi gerektiğini düşünüyor. Ancak diğer konularda araştırmacılar bölünmüş durumdalar. Araştırmacıların yarıdan fazlası yüz tanıma veri setinde insanların yüz fotoğraflarının bir izne gerek duymadan kullanılmasında her hangi bir sakınca görmüyor. Buradaki ikilem, çok büyük görsel veri setleri olmadan yüz tanıma algoritmalarının istenilen düzeyde eğitilemeyecek olmasından kaynaklanıyor.

Korunmasız topluluklar söz konusu olduğunda, araştırmacıların %71’lik bir kısmı onay alınmış olsa bile bunun fazla bir anlam taşımadığını ve bu toplulukların yüz görsellerinin kullanılmasının etik olarak doğru olmadığını düşünüyor.

Araştırmacıların büyük kısmı bilimsel bir çalışmanın etik olarak uygunluğunun makale inceleme sürecinde yazarlara yöneltilen sorularla veya yazarlarun beyanlarıyla tespit edilmesi gerektiğini düşünüyor. Yüz tanıma yazılımı kullanan araştırmalar için önceden etik kurumlardan onay alınması hususunda ankete katılanların yarısı bunun gerekli olduğunu belirtirken %25’lik kısmı ise araştırmaya bağlı olarak değerlendirilmesini öneriyor.

Olumlu yönler ve gelişmeler

Yüz tanıma ve analiz etme teknolojisi üzerine yapılan araştırmalar sayesinde kayıp kişileri bulmak, suçluları takip etmek, akıllı cihazlara kolay erişmek, insan-makine etkileşimlerini kolaylaştırmak ve tıbbi olarak hastalık teşhisi ve takibi yapmak mümkün olabiliyor. Tüm bu örnekler gibi yüz tanıma teknolojilerinin hayatı kolaylaştıran, yasal ve etik kurallara uygun yansımalarından söz etmek mümkün.

Diğer yandan kişilerin kendi bilgi ve rızaları olmadan onları uzaktan tanıyabilen ve sınıflandırabilen bir teknolojinin kullanımı etik açıdan sorunlu görülüyor. Bazı kuruluşlar araştırmacıların yaptıkları çalışmalarda daha dikkatli ve sorumlu davranmasını istiyor.

Yapay zeka alanında gerçekleştirilen NeurIPS (Sinirsel Bilgi İşleme Sistemleri) konferansı, araştırmacılardan bu yıl ilk kez etik değerlendirmeleri de istedi. Bildiri gönderen araştırmacılardan, çalışmalarının etik değerlendirmesini ve olası olumsuz sonuçlarını da anlatmaları bekleniyor.

Avrupa Birliği, biyometrik sistemlerin kullanımına yönelik uyulması gereken kuralları kapsayacak bir mevzuatla ilgili yakın zamanda çalışmalar yapmayı planlıyor. Çalışma sonucunda yüz tanıma teknolojileri ile ilgili uyulması gereken kuralların daha net bir şekilde ortaya konması hedefleniyor.

Yüz tanıma teknolojisinin etik boyutuna yönelik her geçen gün yeni adımlar atılıyor. Tüm paydaşlar tarafından kabul görecek kurallarla birlikte yüz tanıma teknolojisinin doğru şekilde geliştirilmesi, doğru amaçlarla kullanılması ve bu sayede topluma daha fazla katkıda bulunması bekleniyor.