Mesela eleştirmenler, yüz tanıma teknolojisinin kullanımının Müslümanların, alt sınıfların, yerli Hint kavimlerinden adivasilerin ve diğer dışlanmış sosyal grupların ve azınlıkların gözetiminin artması riskini taşıdığını söylüyor.
Hindu Bussines Line sitesinin haberine göre, Yeni Delhi’nin Jahangirpuri bölgesinde geçen yıl yaşanan toplumsal çatışmaların ardından polis, düzinelerce insanı tespit etmek ve tutuklamak için yüz tanıma teknolojisini kullandıklarını açıkladı. Bu 2020’de başkette yaşanan şiddetli ayaklanmalardan sonra türünün ikinci örneği idi.
Her iki durumda da sanıkların çoğu Müslümandı ve insan hakları grupları ile teknoloji uzmanları, Hindistan hükümetin yapay zeka tabanlı teknolojiyi kullanmasını eleştirdi.
Hindistan yapay zeka araçlarına sahip ve bunun insanların bilgiye erişimini iyileştireceğini söylüyor. Teknoloji uzmanları, yapay zekanın ahlâki kullanımına ilişkin resmi bir politikanın bulunmamasının insanlara zarar vereceğinden endişeli. Bunun önyargıyı güçlendireceğini, zenginlerin çıkarlarını daha fazla destekleyeceğini ve azınlık olmayı suç haline getireceğini düşünüyorlar.
Delhi’de polis suç önleme biriminde araştırmacı Shivangi Narayan, yapay zekanın Müslümanlar ve sosyal azınlıklar gibi dışlanmış insanları doğrudan etkileyeceğini ve ayrımcılık ve önyargıyı artıracağını söyledi.
Hindistan’da yapay zeka kullanımının ahlâki sonuçları
Uzmanlar, 1,4 milyar nüfusa ve dünyanın en büyük beşinci ekonomisine sahip Hindistan’ın hızlı bir teknolojik değişim geçirdiğini belirterek çeşitli alanlarda yapay zeka tabanlı sistemler kullandığını söylüyor.
Hindistan sosyal sınıf, din, cinsiyet veya zenginlik gibi konularda uzun süredir devam eden ve derin ayrımların yaşandığı bir ülke olup Algoritmik Yönetişim Araştırma Ağı’nın bir üyesi olan Narayan gibi araştırmacılar, yapay zekanın tüm bu ayrımları daha da kötüleştirme riskinden endişe duyuyor.
Canlı görüntüleri kayıtlı yüzlerden oluşan bir veritabanıyla eşleştirmek için yapay zekayı kullanan yüz tanıma teknolojisi, yapay zekanın birçok uygulamasından biridir. Eleştirmenler bunun alt tabakadaki azınlıkları daha fazla gözetim altına alınması riskini taşıdığını söylüyor.
Pensilvanya Üniversitesi’nde yardımcı doçent olan Siva Mathiyazhagan, Reuters’e verdiği röportajda, veritabanlarının ulusal kimlik sistemine bağlanması ve kredi onayları, işe alma ve özgeçmiş kontrolleri için yapay zekanın artan kullanımının, dışlanan ve ötekileştirilenlere tamamen kapsını kapatabileceğini söyledi.
Hindistan’da sınıfsal ayırım 75 yıl önce yasadışı ilan edildi. Ne yazık ki Dalitler hala sistemin tümüyle dışında ve altında kabul edilen gruplardan.
Dalitlere, “dokunulmazlar” denilmesinin nedeni, tuvaletlerin (elle) temizlenmesi, ölenlerin gömülme işlemi, hayvanların bakımı gibi diğer sınıflarda bulunan Hinduların iğrendiği ve aşağılayıcı bulduğu işlerin yaptırılmasıdır.
Araştırmalar, ülkede hala Dalitlerin, Müslümanların ve yerli Hintlilerin yüksek öğrenim ve iyi işler alanında mevcut olmadığını gösteriyor.
2021’de yapılan bir Google Research analizi, Hindistan nüfusunun yaklaşık yarısının internete erişimi olmadığını ve bu durumun yanlış ve adil olmayan sonuçlara yol açtığı ortaya çıktı.
Google analiz araştırmacıları, fakir insanların tüberküloz hastalığına değil, zengin insanların kalp hastalıkları ve kanser gibi sorunlarına öncelik verildiğini bununda yapay zekadan faydalananlar ile faydalanmayanlar arasındaki eşitsizliği daha da artırdığını söylüyor.
Resmi veriler, Hindistan’ın suç veritabanlarının sorunlu olduğunu gösteriyor. Çünkü Müslümanlar, Dalitler ve yerli halk diğerlerinden daha yüksek oranlarda tutuklanıyor, suçlanıyor ve hapse atılıyor.
Önleyici polis kayıtları, suç işlemesi muhtemel veya işlediğinden şüphelenilen kişilerin tespit edilmesinde yapay zekadan yararlanıyor.
Dünyanın dört bir yanındaki hükümetler yapay zekayı düzenleme konusunda yavaş davrandı. Çin’de üretken yapay zeka yasa tasarısı geçen ay uygulamaya girdi. ABD Yapay Zeka Hakları Bildirgesi, üretken yapay zekanın sorumlu tasarımı ve kullanımına ilişkin yönergeler sağlıyor. AB’nin yapay zeka yasası ise müzakerelerin son aşamasında.
Hindistan’da bir yapay zeka yasası bulunmamaktadır. Var olan tek şey devlet tarafından işletilen düşünce kuruluşu NITI Aayog’un stratejisidir. Yapay zeka sistemlerinin din, ırk, sınıf, cinsiyet, soy, doğum yeri veya ikamet yeri temelinde ayrımcılık yapmaması, tarafsız, taassub ve ön yargılardan uzak olmaları açısından izlenmesi gerektiğini belirtiyor.
ABD’deki teknoloji endüstrisinde sınıf karşıtı yasaların bilinçlendirilmesi artarken Hindistan’da yapay zekadaki taassub ve önyargı konusunda çok az tartışma var. Kaliforniya, bu alanda sınıf temelli ayrımcılığı yasaklayan ilk eyalet olmanın eşiğinde ve Seattle, teknoloji alanında ayrımcılığı yasaklayan ilk ABD şehri oldu.
Yapay zeka araçlarına sahip olma ayrıcalıklı kişilere fayda sağlayabilir. Genellikle kadınları, alt sınıfı ve diğer dışlanmış grupları atlayabilir.
4168223