Yazılımsız Silahlar mı Silahlandırılmış Yazılımlar mı?

İsrail Maliye Bakanlığı’nın Google ve Amazon tarafından ortaklaşa inşa edilen 1,2 milyar dolarlık bir bulut bilişim sistemi için Nisan 2021’de duyurduğu anlaşmanın¹ üzerinden geçen zaman zarfı içinde yazılımın içeriği de ortaya çıkmaya başladı. İfşâ edenlerin büyük kısmı artık bu firmalarda çalışmayan ve ismini gizleme ihtiyacı hisseden yazılımcılar olsa da içlerinde anonim olarak hâlâ çalıştıkları departmanlardan eleştiri getirenler de var.

Bahsi geçen proje Nimbus’un, ırkçı/apartheid rejime savunma ve güvenlik sistemlerinde bulut çözüm sağlaması amaçlanıyordu. The Intercept’in haberine göre Nimbus kullanıcılarına yönelik herkese açık bir eğitim portalında yer alan bir belgede Google tarafından İsrail hükümetine Google Cloud Platform aracılığıyla eksiksiz makine öğrenimi ve yapay zeka araçları temin edilmekte. Belgede² İsrail’e yüz algılama, otomatik görüntü sınıflandırma, nesne takibi, resimlerin ve konuşmaların duygusal içeriğini değerlendirdiği iddia edilen güncelleştirmeler ve yenilikler anlatılmakta.

2021 yılında İnsan Hakları İzleme Örgütü³ ve Uluslararası Af Örgütü⁴ tarafından Filistinlilere karşı apatheid bir rejim olarak tanımlanan ve insanlığa karşı suç işlemekle resmen suçlanan İsrail, zaten uzun zamandır yapageldiği ve işgalin bir parçası olan Filistin nüfusu hakkında veri toplama işini teknolojinin gelişmiş imkânları ile geliştirmekle meşgul. Yine 2021’de Washington Post tarafından Filistinlileri yüz tanıma özellikli telefonlarla ve direkt güvenlik kameraları aracılığıyla izlemeyi amaçlayan bir askeri program olan Blue Wolf’u ifşâ edilmişti.⁵

Özellikle yüz tanıma teknolojisinin geldiği noktayı düşündüğümüzde ses ve duygu analizi yazılımlarının “büyük veri” içinde taşıdığı anlamın büyüklüğü burada bir defa daha önümüze çıkmakta. Google’ın Cloud Vision API’siyle “yüzleri, işaretleri ve duyguları algılama” yeteneğini birleştirmiş olması ve bunu dünya üzerindeki apartheid rejimlerin kullanımına sunması aynı şekilde gelişmiş gözetimin hedeflerini de açığa çıkartmakta. Google’ın AutoML yazılımı gözetimin daha fazla askerileşmiş hâlni olağanlaştırmakta. Bu durum teknik ilerlemenin her zaman olduğu gibi silah endüstrisi ile paralel ilerliyor olmasına dair en güncel örnek olarak önümüzde durmakta.

Yapay zeka yazılımlarında öne çıkan etkenin etkili bir modelin eğitilmesi olduğu, bunun da hem finansal hem de hesaplama bakımından yoğun bir kaynağa ihtiyacı olduğu düşünülürse data oligarkları için bunun hiç de zor olmadığını anlaşılacaktır. Bunları müşterilerine çekici bir şekilde sunmak için ellerinde var olan imkanları arka planda yer alan destekçileriyle paylaşmak zorundalar. Bu bağlamda Cloud Vision’ın, müşterilerin gelişmiş bir tahmin sistemini hemen uygulamasına olanak tanıyan önceden eğitilmiş bir model olması bu çekiciliğe prestij ve cazibe katmakta. Özellikle AutoML ile israil gibi rejimlerin istedikleri herhangi bir amaca göre yeni modelleri kurgulamasına ve buna göre eğitmesine izin verilmekte (eğitme tabirini YZ uygulamları bağlamında değerlendirdiğimizi anımsatalım). Uluslararası Af Örgütü’nün Algoritmik Hesap Verebilirlik Laboratuvarını yöneten Damini Satija da bu duruma “Google’ın makine öğrenimi yetenekleriyle birlikte İsrail devletinin gözetim altyapısıyla Filistinlilerin insan haklarıda yönelik gerçek bir tehdit oluşturduğu”nu vurgulayarak tepki göstermekte. Nimbus uygulaması da aslında Google’ın aslında var olmadığı yerlerde ve şekillerde gelişmiş veri analizini ve tahminini kullanmasına izin veriyor. Daha açıklayıcı olması açısından örneğin ülkemizde var olan Mobese kameraları, trafik kameraları gibi sistemlerin ve her hangi bir telefonun gözetleme ve analiz makinesine dönüştürüldüğünü düşünmemiz yeterlidir. Google şirket olarak aslında bunun olduğunu bile bilmeyecek ama model kendi içinde aynı datayı saklamaya ve veri kümesine dönüştürmeye devam edecek. Öğrenilen modellemede birinin yalan söyleyip söylemediğini analiz eden yeni nesil yalan makineleri gibi uygulamasal örnekler de Google’ın altyapısını kullanarak geniş bilgi işlem gücüyle desteklenmeye ve daha fazla veri ile daha fazla analiz arasında büyümeye devam edecek. Google CEO’su Sundar Pichai silahlar veya gözetleme ile ilgili uygulamalarda yapay zeka kullanılmayacağını taahhüt etmiş olsa da Yapay Zeka tüzüklerinin eleştirmenlerin ifadesi ile ancak “etik yıkama”dan ibaret olması yakın gelecekte uygulamaların silahlandırılmasını engellememekte.

Peki bizim uygulamasız silahların güzellemesini kendi hegemonyaları için kullanmayı maharet bilenlerin bunu yapmayacağının garantisini vermeleri nedeniyle taahhütlerini içtenlikle kabul etmemiz mi gerekiyor? Yapay Zeka uygulamalarının içeriği nedir nasıl bir konumda durmak zorundayız? Yoksa müslümanlar olarak geçmişin aslında hiç var olmayan sorunsuz ve teknolojisiz dünyasına özlem duyarak unutulmaz, nostaljik rüyaları görmeye devam mı edeceğiz?

Bu makale The Intercept’in ilgili haberinden yararlanılarak hazırlanmıştır.

https://theintercept.com/2022/07/24/google-israel-artificial-intelligence-project-nimbus/