İçerik Dizini Göster
Tüm dünyayı kasıp kavuran yeni yapay zeka destekli avatar uygulaması Lensa son günlerde kadın kulanıcılardan şikayet almaya başladı. Lensa’yı deneyen kadınlar, erkeklerin aksine oluşturulan avatarların çoğunun üstsüz ve pornografik görsellerden oluştuğunu belirtiyor.
“Yeni viral AI avatar uygulaması Lensa’yı denediğimde, işyerimdeki bazı meslektaşlarımla benzer sonuçlar almayı umuyordum. Dijital rötuş uygulaması ilk olarak 2018’de piyasaya sürüldü, ancak son zamanlarda özçekimlerine göre insanların dijital portrelerini oluşturan yapay zeka destekli bir özellik olan Magic Avatars’ın eklenmesi sayesinde çılgınca popüler hale geldi.
Ancak Lensa erkekler için gerçekçi ama gurur verici avatarlar üretirken (astronot, savaşçı ve müzik albümleri için havalı kapak fotoğraflarını) benim tonlarca çıplak fotoğrafım var. Oluşturduğum 100 avatardan 16’sı üstsüzdü ve diğer 14’ünde beni son derece cılız kıyafetlere ve açıkça cinselleştirilmiş pozlara sokmuştu.
Genlerimde asya mirası var ve yapay zeka modelinin özçekimlerimden aldığı tek şey bu gibi görünüyor. Pornografik, çıplak veya çok fazla cilt gösteren avatarlarımın büyük bir kısmı göz önüne alındığında benim asyalı görünüşümün anime gibi karakterlerle eşleştirildiğini gördüm. . Birkaç avatarım ağlıyor gibiydi. Başka beyaz kadın meslektaşım, sadece birkaç çıplak avatar ve daha az cinselleştirilmiş görüntü elde etti. Çin mirasına sahip başka bir meslektaşım ise benimkine benzer sonuçlar aldı: pornografikleştirilmiş avatar yığınları ve çok daha fazlası…
Lensa’nın Asyalı kadınlar için fetişi o kadar güçlü ki, uygulamayı bir erkek olarak avatarlar oluşturmaya yönlendirdiğimde bile ıstarla kadın çıplak fotoğraflarım ve cinsel pozlar aldım.”
Washington Üniversitesi’nde yapay zeka sistemlerini inceleyen yardımcı doçent olan Aylin Çalışkan; “sonuçların bu kadar hiperseksüelleştirilmiş olması şaşırtıcı değil”, diyor.
Lensa, avatarlarını metin istemlerine dayalı görüntüler üreten açık kaynaklı bir AI modeli olan Stable Diffusion’ı kullanarak oluşturur. Görüntüler internetten kazıyarak derlenen devasa bir açık kaynaklı veri seti olan LAION-5B kullanılarak oluşturulmuştur.
Ve günümüzde internet çıplak veya zar zor giyinmiş kadınların görüntüleriyle ve cinsiyetçi, ırkçı klişeleri yansıtan resimlerle dolup taştığı için, veri seti de bu tür görüntülere sonuçlar vermekte.
Çalışkan; bu şekilde tasvir edilmek isteyip istemediklerine bakılmaksızın internetteki bu kirliliğin kadınları cinselleştiren yapay zeka modellerine yol açtığını söylüyor (Özellikle de tarihsel olarak dezavantajlı olan ırklarda bu durum çok daha fazla)
Araştırmacılar Abeba Birhane, Vinay Uday Prabhu ve Emmanuel Kahembwe, Kararlı Difüzyon oluşturmak için kullanılana benzer bir veri setini analiz ettikten sonra, yapay zeka eğitim verilerinin ırkçı klişeler, pornografi ve tecavüzün açık görüntüleriyle dolu olduğunu buldular. Bulgularının yalnızca LAION veri setinde olması ve bu veri setinin açık kaynak olması nedeniyle olması çok yüksek bir ihtimal görünüyor. Google’ın Imagen ve OpenAI’nin DALL-E’si gibi diğer popüler görüntü oluşturma AI’larının çoğu açık kaynak değildir.
Stable Diffusion’ın ilk sürümünün piyasaya sürüldüğü Eylül ayında modelin veri setinde “Asya” gibi anahtar kelimeler aramak pornografik görüntü aramakla aynı şey olmaya başladı.
Stable Diffusion’ı geliştiren şirket Stability.AI, Kasım ayı sonlarında AI modelinin yeni bir sürümünü piyasaya sürdü.
Çalışkan; Kararlı Difüzyonun görüntü oluşturmasına yardımcı olan bir sistem olan CLIP’i (Kontrastif Dil Görüntü Ön Eğitimi) üzerinde çalıştı. CLIP, bir veri kümesindeki görüntüleri açıklayıcı metin istemleriyle eşleştirmeyi öğreniyor. Çalışkan CLIP’in, sorunlu cinsiyet ve ırksal önyargılarla dolu olduğunu tespit etti.
“Kadınlar cinsel içerikle ilişkilendirilirken, erkekler tıp, bilim, iş vb. gibi önemli alanlarda profesyonel, kariyerle ilgili içerikle ilişkilendirilmektedir” diyor.
İşin garibi, resimlerim erkek içerik filtrelerinden geçtiğinde Lensa avatarlarım daha gerçekçiydi. Kıyafet giyen (!) ve tarafsız pozlar veriyordum avatarlarım var. Birkaç resimde, bir şefe veya doktora ait gibi görünen beyaz bir önlük giyiyordum.
Kimin nasıl görüneceğine şirketler karar veriyor
Ancak suçlanacak olan sadece veriler değil. Carnegie Mellon Üniversitesi’nde görüntü oluşturma algoritmalarında önyargılar üzerinde çalışan bir doktora öğrencisi olan Ryan Steed, bu modelleri ve uygulamaları geliştiren şirketlerin verileri nasıl kullandıkları konusunda aktif seçimler yaptığını söylüyor.
“Birisi eğitim verilerini seçmeli, modeli oluşturmaya karar vermeli, bu önyargıları hafifletmek için belirli adımlar atmaya karar vermelidir” diyor.
Uygulamanın geliştiricileri, erkek avatarların uzay kıyafetleri içinde görünmesini seçerken, kadın avatarların kozmik G-stringleri ve peri kanatları ile görünmesini istiyor.
Prisma Labs sözcüsü, fotoğrafların “sporadik cinselleştirilmesinin” her cinsiyetten insanın başına geldiğini, ancak farklı şekillerde olduğunu söylüyor.
Buna rağmen şirket, sorunu çözmeye çalıştığını iddia ediyor.
Bir blog gönderisinde Prisma Labs, belirli kelimeler ve görüntüler arasındaki ilişkiyi önyargıları azaltmayı amaçlayan bir şekilde uyarladığını, ancak daha fazla ayrıntıya giremeyeceklerini söylüyor.
Lensa, Stable Diffusion’dan geliştirilen ilk ve son derece popüler uygulamadır ve son da olmayacak. Eğlenceli ve masum görünebilir, ancak insanların sosyal medya görüntülerine dayanarak kadınların rıza dışı çıplak görüntülerinioluşturmak veya çocukların çıplak görüntülerini oluşturmak için onun kullanmasını engelleyen hiçbir şey yoktur.
Çalışkan; şu anda bu görüntüler aracılığıyla toplumumuzun ve kültürümüzün parmak izini üretiyoruz. Geriye baktığımızda, kadınları böyle mi görmek istiyoruz?” diye soruyor.
Görüşünüzü Bildirin 👇
Aşağıdaki "Beğendim" butonuna dokunarak yazıya puan verebilir ve sayfanın alt kısmında bulunan yorum formu aracılığı ile görüşlerinizi diğer okuyucular ile paylaşabilirsiniz.Ayrıca yeni içeriklerden haberdar olmak için: Instagram hesabımızı takip edebilir, Facebook sayfamızı beğenebilir, Twitter'da bizi takip edebilir veya LinkedIn hesabımıza abone olabilirsiniz. İçeriklerimizi kaçırmamak için: Play Store'dan uygulamamızı indirebilirsiniz.
