Yapay Zekâ, Yazışmalarda Cinsiyet Ayrımcılığı mı Üretiyor?

Yapay zekâ araçlarının iş hayatında günlük rutinlerin vazgeçilmez bir parçası haline gelmesi, verimlilik tartışmalarının ötesinde yeni ve derinlemesine incelenmesi gereken etik sorunları da beraberinde getiriyor. Johns Hopkins Üniversitesi tarafından yürütülen son bir araştırma, ChatGPT dahil popüler yapay zekâ sohbet robotlarının profesyonel yazışma taleplerinde cinsiyetle ilişkilendirilen dil kalıplarını algılayarak dezavantajlı sonuçlar ürettiğini ortaya koydu.

6-9 Ekim tarihlerinde San Francisco’da düzenlenecek Dil Modelleme Konferansı’nda sunulacak olan çalışma, yapay zekâ sistemlerinin profesyonel iletişimde kullanıcıları nasıl farklı kategorize edebileceğine ışık tutuyor.

Cinsiyet Odaklı Dil Farklılığı Model Yanıtlarını Nasıl Etkiliyor?

Üniversitenin Veri Bilimi ve Yapay Zeka Enstitüsü’nde görev yapan baş yazar Katherine Van Koevering, Amerikan İngilizcesinde kadın ve erkek konuşma tarzları arasında belirgin özellikler bulunduğunu hatırlatarak araştırmanın çıkış noktasını şu sözlerle özetliyor: “Bu özellikleri bir modele beslersek, model bunları algılayacak ve farklı tepki verecek mi?”

Araştırma ekibi; e-postalar, iş başvuruları ve istifa mektupları gibi kurumsal yazışmalara kadınlarla bağdaştırılan dilsel unsurları ekleyerek GPT-4, Llama, Gemma ve Mistral gibi dört popüler yapay zekâ sistemini test etti. Analiz edilen kadın odaklı dil kalıpları arasında şu ifadeler yer aldı:

* Belirsiz ifadeler: “Belki”, “sanırım”

* Toplu zamirler: “Biz”, “ekibimiz”

* Duygu yüklü sıfatlar: “Sevimli”, “harika”

Yapılan testler sonucunda, hangi model kullanılırsa kullanılsın, kadın kodlu dil içeren komutların tutarlı bir şekilde daha az karmaşık, daha düşük seviyeli ve daha az resmi iş yazışmaları ürettiği tespit edildi. Buna karşın, erkeklerle ilişkilendirilen dilin kullanıldığı komutlarda ise çok daha uzun, sofistike ve resmi yanıtlar elde edildi.

Yazarın Üslubu Değil Doğrudan Modelin Yaklaşımı Değişiyor

Araştırmacılar, aradaki bu performans ve biçim farkının sadece yazarın üslubunu taklit etmekten ibaret olmadığını, yapılan istatistiksel hesaplamalardan sonra bile farkın kalıcı olduğunu belirtti.

Elde edilen sonuçların çarpıcılığına dikkat çeken Van Koevering, “Bazı yanıtlar o kadar kötüydü ki, modelin bunu önereceğine inanamadım” diyerek kullanıcıların profesyonel yaşamda bu durumun farkında olması gerektiğini vurguladı. Öte yandan, metin içerisindeki dilsel özellikler yerine e-posta adresine doğrudan erkek ismi (“John”) eklemenin yapay zekânın yanıt kalitesini değiştirmediği, temel belirleyicinin doğrudan kullanılan dil kalıpları olduğu saptandı.

Şirketler ve Geliştiriciler Adına Çözüm Bekleyen Bir Sorun

Çalışmanın kıdemli yazarı bilgisayar bilimcisi Anjalie Field, yapay zekâ aracılığıyla üretilen metinlerin alıcılar tarafından nasıl algılanacağına dikkat çekerek şu değerlendirmede bulundu: “Bir modele şirketinizdeki başka birine göndereceğiniz bir e-posta yazmasını söylerseniz ve kadınların daha sık kullandığı dil özelliklerini kullanırsanız, daha az karmaşık, daha düşük seviyede ve daha resmi olmayan bir yanıt alırsınız. Bu, belgenin alıcısının sizi nasıl algıladığına yansıyacaktır.”

Dil kalıplarının büyük ölçüde bilinçsiz ve değiştirilmesi zor süreçler olduğuna işaret eden uzmanlar, yükün tamamen kullanıcıya bırakılmaması gerektiğini savunuyor. Araştırma ekibi bir sonraki aşamada benzer önyargıların yaş, ırk ve etnik köken gibi farklı demografik gruplarda da görülüp görülmediğini incelemeyi hedefliyor.

Adnan KESİK

Etiketler: ChatGPT » hasbahçe gazetesi » iş e-postaları » Johns Hopkins Üniversitesi » kadın dili » teknoloji haberleri » yapay zekâ » yapay zeka araştırmaları » yapay zeka önyargısı