Geçen hafta Instagram’da arkadaşlarımın yapay zekayla üretilmiş türlü türlü portrelerini beğendikten sonra, ben de merakıma yenik düştüm ve Lensa’yı indirdim. Lensa bir fotoğraf düzenleme uygulaması. Fakat, “Magic Avatars” diye ayrı bir servisi var. Uygulamaya ‘selfie’ lerinizi yüklüyorsunuz ve uygulama sizin grafik temsillerinizi oluşturuyor. Arkadaşlarımın paylaşımlarında yüzlerinde çocuksu ve uhrevi bir güzellik vardı. Ben de ruhum okşansın istedim. Fakat ortaya çıkan sonuçlarda hiç de öyle melek yüzlü değildim. Görsellerin çoğu, yapay zekayla yarışmak zorunda kalacak sanatçıların içini rahatlacak derecede biçimsizdi. Bazılarında kusursuz cildim, dolgun dudaklarım ve gaipten beliren dolgun memelerimle, olduğumdan daha güzeldim. Görsellerin eser miktarında kendime benziyordum, fakat bu sefer de çıplaktım. Yüklediğim fotoğraflarımın hepsinde, omuzlarımı ve göğsümü örten kıyafetler olmasına rağmen kendime en çok benzediğim portrelerde kıyafetsizdim.
Lensa’nın çıkış noktası muhtemelen art niyetli değil. Uygulamanın müstehcenlik konusunda önlemleri mevcut, kullanım politikası çıplak fotoğrafların ve çocuk fotoğraflarının sisteme yüklenmesine izin vermiyor. Fakat yapay zekanın kendi kendine çıplaklaştırdığı ve cinselleştirdiği görseller bu güvenlik politikasını etkisiz kılıyor. Üstelik uygulamada, kullanıcıların başka şahısların fotoğraflarını yüklemelerinin önüne geçecek bir kısıtlama da yok. Dolayısıyla art niyetli kullanımın önü çok açık.
Fakat belki de daha da tedirgin edici olanı, Lensa’nın kendi güvenlik politikasını uygulamaması. Olivia Snow adlı araştırmacı, uygulamanın sınırlarını yoklamak için çocukluk fotoğraflarını sisteme yüklemeyi denemiş ve başarmış. Uygulama Snow’un çocuk suratına çıplak, kıvrımlı kadın bedenleri iliştirmiş. Snow’un vurgulamak istediği nokta, çoğu denetimsiz teknoloji gibi, Lensa’nın da toplumun en savunmasız kesimlerinin mağduriyetini arttıracak sonuçlar doğurması.
Lensa uygulaması, yapay zekanın nötr bir teknoloji olmadığını bir kez daha bize gösteriyor. Yapay zekayı beslemek ve eğitmek için kullanılan veriler ve ona verilen komutlar tarafsız ve masum değil, örneğin “güzelleştirmek”, “cinselleştirmek” olarak tanımlanabiliyor. Dolayısıyla yapay zekanın temsil ettiği teknolojik ilerleme, illa beraberinde toplumsal bir ilerleme getirmiyor. Aksine yapay zeka çoğu zaman ırkçı, cinsiyetçi ve ayrımcı toplumsal normları daha çarpıcı bir şekilde yeniden üretiyor. Dolayısıyla bir hafta içinde pıtrak gibi çoğalan Lensa görselleri, yapay zekanın ilerlemesine eş zamanlı olarak, dijital mahremiyeti nasıl koruyacağımızı, algoritmik cinsiyetçilik ve ayrımcılığın önüne nasıl geçeceğimizi düşünüp tartışmamız gerektiğini gösteriyor.
Kaynakça:
Leave a Reply