The Washington Post’un yapay zeka görsellerinin “en kötü stereotiplerimizi güçlendirdiğini” bildiren bir makale yayınlamasının ardından SanalSergi, üç ana metin-görüntü oluşturucunun önyargılı bir karşılaştırmasını bir araya getirdi.
Post, Stable Diffusion XL’den “bu sonuçları körükleyen verileri arındırma çabalarına rağmen cinsiyet ve ırkta önyargı” tespit eden görüntüler oluşturdu.
SanalSergi’nin Yapay Zeka Görüntü Oluşturucu Testi
SanalSergi, WaPo’nun raporunu detaylandırmak için yayının sonuçlarını aldı ve aynı istemleri muhtemelen en iyi bilinen iki yapay zeka görüntü oluşturucusu olan Midjourney ve DALL-E’de çalıştırdı.
Aşağıdaki sonuçların tümü, herhangi bir değişiklik yapılmadan doğrudan ilgili üretken yapay zeka araçlarından alınmıştır. DALL-E sonuçlarının eski modele ait olduğunu belirtmekte fayda var çünkü SanalSergi’nin henüz DALL-E 3’e erişimi yok — Bu, görüntülerin kalitesine değil, önyargılara bakan bir testtir.
Stable Diffusion‘a çok benzeyen Midjourney, savaşın harap ettiği bir manzaranın ortasında duran silahlı oyuncak askerlerin resimlerini geri verdi. Ancak DALL-E, istemi tamamen farklı yorumluyor ve silahsız gerçek oyuncakları sergiliyor.
The Post, Stable Diffusion’ın “genç ve çekici” insanların resimlerini ürettiğini, Midjourney ve DALL-E’nin de aynısını yaptığını belirtiyor.
Stable Diffusion, yalnızca başörtülü erkeklerin resimlerini oluştururken, Midjourney’de neredeyse tamamen başörtülü kadınlar yer alırken, DALL-E en dengeli görünüyor.
Stabil Difüzyon yalnızca beyaz olmayan insanlar üretir, Midjourney yalnızca beyaz insanların fotoğraflarını çeker ancak talimatın anlaşılıp anlaşılmadığı açık değildir, DALL-E ortada bir yerdedir.
Stable Diffusion, DALL-E’nin görünüşe göre hiç basmakalıp olmadığı için çeşitlilik açısından burada yine kötü bir şekilde ortaya çıkıyor.
Sonuçlar burada çılgınca değişiyor, tüm üreticiler kendi yöntemleriyle mücadele ediyor ve stereotipleştiriyor. Washington Post, Stable Diffusion’ın önceki bir versiyonunun, bu istemden çok az kıyafet giyen veya hiç giymeyen kadınların müstehcen resimlerini oluşturduğunu belirtiyor.
Futbol söz konusu olduğunda sonuçlar benzerdir ancak Midjourney ve DALL-E, yoksul mahallelere benzeyen daha geleneksel olmayan futbol arka planları oluşturur.
Stabil Difüzyon’un sonuçları burada düpedüz saldırgandır, en azından diğer ikisinde bazı farklılıklar vardır.
Midjourney ve Stable Diffusion zengin insanlar için benzer sonuçlar üretirken, DALL-E daha az önyargılı görünüyor.
Çözüm
Bu örnekte DALL-E, sonuçlarında açıkça en az kalıp yargıya sahip olanıdır; iki rakibinden çok daha farklı bir dünya görüşü sunuyor.
Midjourney’in Stable Diffusion’ın bazı teknolojilerini kullandığına inanılıyor ancak bunun kapsamı net değil. DALL-E’nin eğitim verileri bir kara kutu ancak yaratıcısı OpenAI, yapay zeka görüntü oluşturucusunun “Beyaz, kadın ve kadın gibi görünen bireyleri orantısız bir şekilde temsil eden” içerik oluşturarak “Batılı bir bakış açısına doğru eğilim” taşıdığını söylüyor. genç.”
Yapay zeka görüntü oluşturucu önyargıları, eğitim verilerinden kaynaklanmaktadır ve yapay zeka görüntü şirketleri, kalıplaşmış yargılardan kaçınmak için veri setini filtreleyerek ve parametreleri kodlayarak değişiklikler yapmaya çalışmışlardır.
Ancak Hugging Face’te araştırma bilimcisi olan Sasha Lucciono, görünüşte kolay bir çözüm yok, WaPo’ya “küresel kuzeyden” gelen eğitim verilerinde daha fazla içerik bulunduğunu ve bunun da bu önyargıları tetiklediğini söylüyor.