Google’ın yeni inceleme süreci, araştırmacıların yüzleri ve duyguları analiz etme ve ırk, cinsiyet veya siyasi bağlantıya göre kategorize etme gibi konuları düşünmeden önce hukuk, politika ve topluluk departmanlarına danışmasını gerektiriyor. Diğer sıcak noktalar arasında petrol endüstrisi, Çin, İran, İsrail, COVID-19, ev güvenliği, sigorta, konum verileri, din, sürücüsüz arabalar, telekomünikasyon ve web içeriğini öneren veya kişiselleştiren sistemler yer alıyor.

 

Şirketin araştırma personeli için iç politikası, “Teknolojideki gelişmeler ve dış çevredeki mevcut eğilimler, görünüşte zararsız projelerin etik, itibar, düzenleyici veya yasal sorunları artırdığı durumlara giderek daha fazla yol açıyor” diyor.

 

Google çalışanlarına göre, hassas konular maddesi, ticari sırların ifşa edilmesi gibi tuzaklar için çalışmanın kontrolünde ek bir adımdı. Ancak, şirket bazı projelere yayınlanmadan önce müdahale ederek yazarlardan olumlu bir üslup oluşturmak için çok dikkatli olmalarını istedi.

 

Bunlardan biri, YouTube’un kullanıcı içeriğini kişiselleştirme hizmetleri gibi tavsiye niteliğinde Yapay Zeka konusunu gündeme getirdi. Yazarlar, teknolojinin yanlış bilgilendirmeye, ayrımcı veya başka türlü haksız sonuçlara ve içerik çeşitliliğinin olmamasına katkıda bulunabileceği ve siyasi kutuplaşmaya yol açabileceği endişelerini dile getirdiler. Bunun yerine en son yayın, sistemlerin bilgi doğruluğunu, adaleti ve içerik çeşitliliğini iyileştirmeye yardımcı olabileceğini söylüyor. Yani odak olumlu yönlere kaydırıldı.

Google, “Bu, gerçek sorunlardan saklanmamız gerektiği anlamına gelmez” dedi.

 

Bununla birlikte, şirket içi araştırmacılar, şirketin teknolojiden kaynaklanan olası zararlarla ilgili önemli araştırmalara müdahale etmeye başladığına inandıklarını söylüyorlar. Google çalışanlarından biri olan Margaret Mitchell’in belirttiği gibi, “Deneyimlerimizden bir şeyi araştırırsak ve uygun olmayan kaliteli meslektaş incelemesi nedeniyle yayınlamamıza izin verilmezse, ciddi bir sansür sorunuyla karşı karşıya kalırız”.

 

Google, web sitesinde bilim adamlarının somut özgürlüğe sahip olduğunu iddia ediyor, ancak özellikle Margaret ile birlikte yapay zekada etik odaklı 12 kişilik bir ekibe liderlik eden Timnit Gebru’nun ayrılması göz önüne alındığında, ekipteki gerginlik yeterince açık. Gebrou, Google’ın konuşmayı taklit eden yapay zekanın marjinalleşmiş nüfusları dezavantajlı hale getirebileceğini iddia eden bir çalışmayı yayınlamama emrine itiraz ettikten sonra onu kovduğunu söyledi.

 

Şirket, istifasını sadece kabul ettiğini ve hızlandırdığını söyledi. Kıdemli Başkan Yardımcısı Jeff Dean, Gebru’nun makalesinin olası zararlardan bahsettiğini, ancak bununla ilgili devam eden çabaları tartışmadığını açıkladı.

 

Yapay Zeka alanındaki araştırma ve geliştirmenin patlayıcı büyümesi, Amerika Birleşik Devletleri ve diğer ülkelerdeki yetkilileri, kullanımı için kurallar geliştirmeye sevk etti. Argümanlar arasında, yüz analiz yazılımı ve benzerlerinin önyargıyı devam ettirebileceğini veya mahremiyeti yok edebileceğini gösteren bilimsel araştırmalardan alıntılar var.

Etiketlendi:

yazar hakkında